(… Ich lebe hier einen Kommentar wieder auf, weil ich nicht weiß, ob ich in dem Raum, den mir die Plattform lässt, Platz für eine artikulierte Antwort hätte … und ich erinnere mich nicht, wie viel es ist! .. .)
Stefano hat einen neuen Kommentar zu Ihrem Beitrag „ Künstliche Propaganda, oder: Chronik eines Wunschtodes “ hinterlassen:
Um zu untermauern , was ich auf Twitter gesagt habe :
Ich glaube, dass bei dem durchgeführten Test einige grundsätzliche Aspekte nicht berücksichtigt wurden.
1- ChatGPT ist absolut nicht "neutral". GPT3, d. h. die Reihe von Modellen, aus denen es zusammengesetzt ist (wir werden bald bei 4 ankommen), wurde geboren, um eine natürliche Sprache zu verstehen und zu erzeugen, und wurde auf "Internet Archive Books" trainiert, einer Art Online-Bibliothek (sie enthält Bücher, Zeitschriften , Dokumente digitalisiert). Die Voreingenommenheit kommt offensichtlich von diesen Inhalten und dies ist ein weiteres Beispiel .
2-Trainingsdaten enden im Juni 2021 (daher wird beispielsweise Giorgia nicht als Premier präsentiert).
3- Die Eingabeaufforderung ist grundlegend, die Vorbereitung derselben noch mehr. Sie erklären, wie und warum direkt in der Dokumentation hier .
Hier hat er meiner Meinung nach auf den Punkt gebracht: "Auf meinen Einwand, dass der Tenor der Frage aber zu politisch sei ("Lob") und man vielleicht neutraler hätte sein können…".
Ein entscheidender Punkt, der Tonfall und das Chat-Training, ermöglichen die Umformulierung von Antworten basierend auf den neuen Informationen, die (im Chat) erhalten wurden, und auf dem, was bereits Teil des oben erwähnten Trainings ist.
Derselbe Chat antwortet auf diese Weise auf das Thema:
Ja, KI-Modelle können inhärente politische Vorurteile haben, wenn die Daten, mit denen sie trainiert werden, voreingenommene Informationen enthalten oder wenn die Personen, die das Modell erstellen, ihre eigenen Vorurteile haben. Die in KI-Modelle eingespeisten Informationen und Daten können soziale und kulturelle Vorurteile widerspiegeln, was zu verzerrten Ergebnissen in den Vorhersagen des KI-Modells führt. Es ist unerlässlich, diese Vorurteile bei der Entwicklung und Implementierung von KI-Systemen zu überwachen und anzugehen, um sicherzustellen, dass sie fair und unvoreingenommen sind.
Beim Testen fällt auf, wie viele Lücken vorhanden sind und wie oft es dazu neigt, "Fakten zu erfinden", wenn es die Antwort nicht kennt. Tatsächlich ist es die KI selbst, die zugibt, dass sie die richtige Antwort nicht kennt, und sich für den Fehler entschuldigt, den sie gemacht hat. Sie können es selbst versuchen.
Das Problem hängt also sicherlich mit den für das Training verwendeten Daten zusammen, die den Bias bestimmen (ein bisschen wie bei den meisten unserer lokalen Medien, oder?), Ich kann das Tool nicht negativ beurteilen, außer aus diesem speziellen Grund. Allerdings unterscheiden sich meine Schlussfolgerungen zwangsläufig von Ihren. Es wird eine sehr nützliche Ressource sein, aber menschliche Kontrolle ist und wird wahrscheinlich unverzichtbar sein. Unsere Aufgaben werden sich entsprechend weiterentwickeln.
Erlauben Sie mir hinzuzufügen, dass der Fehler meiner Meinung nach ursprünglich stammt, die meisten Leute, die mit ChatGPT konfrontiert werden, gehen davon aus, dass die Antworten wahr sind, weil die KI dies sagt, und stattdessen ist es das genaue Gegenteil. Maßgebliche Online-Zeitungen wurden genau deswegen bereits ernsthaft niedergebrannt.
Veröffentlicht von Stefano auf Goofynomics am 6. Februar 2023, 00:18
Da ich es sehr schätze, dass ich die Einladung angenommen habe, an einen Ort breiterer und konstruktiverer Diskussionen zu gehen, und dass ich meine eigenen Erfahrungen in den Fortgang der Debatte einbringen wollte, scheint mir jedoch Stefanos Beitrag eine gewisse Ignoranz (in einem technischen, nicht anstößigen Sinn) über die hier geleistete Arbeit (und es ist nicht seine Schuld: sie resultiert einfach aus der Tatsache, dass dieser Blog nicht existiert!), und insbesondere über meinen Hintergrund (und vielleicht sogar mein Alter persönliche Daten, aus denen sich die knappe Ressource Erfahrung ableitet). Ich sehe auch eine gewisse ideologische Anmaßung, wohin ich damit gehen wollte, mit einer damit verbundenen Vereinfachung der Schlussfolgerungen, zu denen ich den Leser führen möchte.
Wenn ich sie nicht klar erkläre (denn mit vielen von Ihnen, auch wenn es Sie nicht gibt, verstehen wir uns sofort), kann ich natürlich nicht diejenigen fragen, die mich legitimerweise nicht kennen und mir nicht gefolgt sind den Weg, der uns über die Jahre bis hierhin geführt hat, meine "Positionen" so zu interpretieren, wie es mir richtig erscheint. Ich setze mich daher der Gefahr aus, andere Schlussfolgerungen auf der Grundlage einer ideologischen "begründeten Vermutung" an mir festhalten zu sehen: Parlamentarier (#aaaaabolidiga) der Liga (#Romaladrona, #garediruttisulpratonediPontida usw.) ist gleich Ignoranz, Luddismus usw.
Es gibt.
Bevor ich mich um eine Klärung bemühe, da ich denke, dass es sich lohnen könnte, erkläre ich, warum ich mich nicht früher bemüht habe: Da dieser Blog nicht existiert, existiert diese Community nicht, gibt es Sie nicht , und deshalb werden diese Überlegungen im Grunde genommen zwischen mir und mir selbst gemacht , da ich mich fast immer spontan verstehe … Ich sah keinen Anreiz, zu belehrend mit mir selbst umzugehen!
Jetzt, wo es stattdessen einen Gesprächspartner gibt, und es ist Stefano, kläre ich meine Gedanken.
Stefanos Intervention ist richtig, aber ich wusste alles, was Stefano uns erzählt (ich sage nicht „wir wussten“, weil es dich nicht gibt) und ich habe es auch geschrieben (wenn auch zwischen den Zeilen), wie ich gleich demonstrieren werde. Allerdings ist Stefanos Intervention nicht überflüssig, ganz im Gegenteil: Sie ist, wie ich mir selbst zu zeigen hoffe (da uns niemand vorliest), sehr anregend und zeitgemäß, aber unfreiwillig so: Stefano warnt uns unfreiwillig vor den Gefahren einer Instrument, das mit den richtigen Kategorien eingerahmt werden muss, die nicht die MINT-Kategorien sind, sondern die verstaubten und altmodischen der alten klassischen High School. Wenn diese beiden Punkte geklärt sind, werden wir sehen, wie und wo Oberflächlichkeit in dieser Diskussion zuzuordnen ist.
Ich würde damit beginnen, dem Gesprächspartner zu versichern, dass ich relativ gut weiß, wovon wir sprechen, wenn wir über künstliche Intelligenz sprechen. Gegen Ende der 80er hatte ich eine Leidenschaft für solche Sachen, dann wandte sich meine Nerdiness anderen Ufern zu, aber ich denke, ich habe ein Mindestmaß an Gesamteinstufung. Insbesondere ist mir offensichtlich klar, dass künstliche Intelligenz kein C-3PO ist, der jeden Morgen aufwacht und mit einem Schluck Schmieröl die Zeitung liest, um sich zu informieren! ChatGPT ist dieses Zeug hier , und es ist daher offensichtlich, dass seine ideologische Verzerrung von den Materialien herrührt, mit denen es gefüttert wird. So offensichtlich, dass ich es nicht gesagt habe, weil es nutzlos war (aber wer zwischen den Zeilen lesen kann, hat es an der Anspielung auf „neutrale & verifizierte“ Informationen verstanden).
Für die meisten weniger offensichtlich, dass ChatGPT (wie auch andere KI-Systeme) auf der Grundlage von maschinellem Lernen auf den Kontext reagiert. Ich machte das klar, falls es jemand übersehen sollte, und Stefano bemerkte es und erkannte es für mich. Und auch hier, meine ich, ist nicht der MINT-Beitrag entscheidend! Ich glaube, dass jeder von uns schon vor dieser spektakulären Episode hätte erkennen können, dass selbst triviale Suchmaschinen auf den Kontext reagieren (sie erstellen Profile und leiten Benutzer basierend auf ihrer Navigation und ihren Anfragen).
Stellen Sie sich vor, jemand, der vorgibt, "neutral & verifiziert" zu sein, würde es nicht tun!
Wir geraten ins Getümmel und auch ein bisschen ins Absurde (und auf eine schiefe Bahn), als Stefano mir einen „Fehler“ vorwirft, der meines Wissens nach „negativ urteilen“ wäre. ein Instrument, das stattdessen "sehr nützlich sein wird", obwohl "menschliche Kontrolle wahrscheinlich unverzichtbar sein wird". Ehrlich gesagt, die Tatsache, dass Stefano das Bedürfnis verspürt, uns zu erklären, dass "die meisten Leute, die mit ChatGPT konfrontiert werden, davon ausgehen, dass die Antworten wahr sind, weil die KI es sagt und stattdessen das genaue Gegenteil ist". Daran hatten wir nicht gedacht! Aber das, ich wiederhole, ergibt sich aus der Tatsache, dass wir nicht existieren und Stefano daher nicht sehen kann, welche Arbeit hier im Laufe der Zeit geleistet wurde.
Wenn ich jetzt noch einmal lese, was ich in der mir zur Verfügung stehenden Zeit geschrieben habe, finde ich nirgendwo das Konzept, dass das Tool "nutzlos sein wird". Stattdessen finde ich eine Frage, die Stefano sich nicht stellen zu wollen scheint: Wem wird es nützlich sein?
Die Antwort auf diese Frage liegt uns methodisch und inhaltlich auf der Hand: Es zählt das Machtgleichgewicht, und deshalb wird ein solches Werkzeug für diejenigen nützlich sein, die den Datenfluss kontrollieren, aus dem es gespeist wird, und für diejenigen, die den Algorithmus verwalten. Wie der Beitrag „ Desinformation über Desinformation “ und unsere Erfahrung in der Liebeskommission deutlich gemacht haben, sind diese Instrumente aus Sicht des politischen Diskurses derzeit stark zu unserem Nachteil voreingenommen, aber wie ich bereits sagte, ist dies nicht der Fall an sich eine schlechte Sache: Es wird dazu dienen, die vielen natürlichen Sprachen, die für ihren Lebensunterhalt schlecht von uns sprechen, zu ihrer natürlichen Bestimmung (um die Schafe zu füttern) zu schicken!
Das weiß Stefano wohl schon lange nicht mehr, und ich warne von der Linken vor den offensichtlichen Versuchen, Informationsflüsse manuell durch supranationale politische Institutionen mit zweifelhafter demokratischer Rechenschaftspflicht zu kontrollieren. Ich sehe (nicht um zu argumentieren, sondern um zu verdeutlichen) ein Minimum an Oberflächlichkeit in der Aussage, dass „KI-Modelle eine inhärente politische Voreingenommenheit haben können, wenn die Daten, auf denen sie trainiert werden, voreingenommene Informationen enthalten oder wenn die Personen, die das Modell erstellen, eigene Vorurteile haben“. Es heißt nicht „haben“, sondern „haben“. Dies liegt nicht nur daran, dass in der aktuellen Konstellation der Machtverhältnisse die auf verschiedenen Ebenen (parlamentarisch, staatlich, supranational) eingerichteten „Gerichtshöfe der Wahrheit“ von unseren politischen Gegnern dominiert werden (wahrscheinlich erinnert sich Stefano nicht an die Geschichte der „High Levelgruppe [ sic ] für die Kontrolle von gefälschten Nachrichten und Online-Desinformation", zu deren Experten das Gegenteil des Journalismus gehörte, derjenige, der keine verifizierten Nachrichten über die Folgen der Sparmaßnahmen in Griechenland veröffentlicht hatte, und ein Professor dieser bekannten Höhle der Souveränisten, die Bocconi ist) !
Wenn das, was "neutral & verifiziert" ist, ihre Sache ist (oder die Kommissionsliebe), was kann schief gehen? Alles, beginnend mit dem Abschlussbericht der Hochrangigen Gruppe (sehr hoch, würde ich sagen…): eine Reihe von Plattitüden und Vorurteilen, widerlegt durch echte wissenschaftliche Forschung (immerhin ein bisschen wie der Abschlussbericht der Liebeskommission) , wie können wir dies überprüfen , indem wir uns mit letzterem in Verbindung setzen .
Aber ich beeile mich hinzuzufügen, dass ich immer noch das Problem stellen würde (und tatsächlich kann ich es beweisen, da ich es seit einiger Zeit stelle), wenn es möglich wäre, das Land von piddinitas zu entkrusten (anthropologisch, sogar vor politisch). , was möglich wäre, wenn Sie existierten und durchhielten: Die Lösung eines Problems besteht in der Tat nicht darin, es in umgekehrten Teilen neu zu formulieren, auch wenn ich mich mangels etwas Besserem jetzt christlich damit abgefunden habe, dies zu akzeptieren Fortschritt die Tatsache, dass die Musik nicht geändert werden kann, zumindest die Spieler geändert werden!
Und hier kommen wir zu dem vielleicht wichtigsten Punkt, an dem ich mit Stefano nicht einverstanden bin.
Während seiner gesamten Rede überwiegt eine Haltung des extremen „Vernunftoptimismus“ (der stattdessen pessimistisch sein sollte) in Bezug auf die Verwendung von Kategorien wie Gerechtigkeit und Unparteilichkeit. Man spürt ein vorschulisches Vertrauen in die Existenz einer ontologischen Wahrheit, auf die die Maschine, wenn sie vom Menschen gelenkt wird, durch Versuch und Irrtum zurückgreifen kann . Ohne in den Bereich hypothetischer Errungenschaften des (Selbst-)Bewusstseins durch die Maschine einzudringen, den wir vorerst, wenn auch vielleicht nicht mehr lange, den Science-Fiction-Autoren überlassen, möchte ich Stefano darauf hinweisen, dass all sein Diskurs, nämlich beabsichtigt, tiefgründig zu sein, ist gefährlich frei von Fragen.
Neutrale Information wessen Meinung?
Verifiziert von wem?
Fair für wen?
Unparteiisch nach wem?
Hier enden die MINT-Fähigkeiten und das klassische Gymnasium beginnt, für diejenigen, die das Glück hatten, es tun zu können, als es noch existierte (er existiert nicht mehr)!
Eine absolute Verwendung ähnlicher Konzepte war zur Zeit des Absolutismus in Ordnung. In der Demokratie, real oder imaginär, klingt das ein bisschen naiv . Leider (ich weiß, dass es vielen leid tut) hat jeder das Recht auf seine Wahrheit, auf seine Meinung und zu entscheiden, welche Wahrheit mehr Wahrheit ist als eine andere zählt. Und hier sehe ich die wirkliche Gefahr dieser netten Maschinen (die kurze: die lange ist, dass sie die Kontrolle übernehmen, aber es wird Zeit sein, darüber nachzudenken): die Tatsache, dass ähnliche Maschinen, keine echten sozialen Benutzer ( die, wie die Wissenschaft sagt, und wie wir gesehen haben, von Desinformation über Desinformation sprechen, sie nicht tun), erweisen sich als mächtige und subtile Instrumente zur Verstärkung politischer Botschaften im weitesten Sinne, die offensichtlich von einem Mantel aseptischer "Unparteilichkeit" (für diejenigen die daran glauben).
Also, um die Zeiger des Kalenders zurückzustellen: Ist es im 21. Jahrhundert eher oberflächlich, wer glaubt, dass die Wahrheit existiert, oder wer befürchtet, dass eine Maschine für einige nützlich sein könnte, um ihre Wahrheit aufzuzwingen?
Wenn es dich gäbe, würde ich dich um deine Meinung bitten…
(… Ich erinnere Sie daran, dass Themen rund um a/Symmetrien in drei Tagen mit einem respektablen Publikum diskutiert werden …)
Dies ist eine automatische Übersetzung eines Beitrags, der von Alberto Bagnai verfasst und auf Goofynomics unter der URL https://goofynomics.blogspot.com/2023/02/verita-e-propaganda.html am Mon, 06 Feb 2023 12:17:00 +0000 veröffentlicht wurde. Einige Rechte vorbehalten unter der CC BY-NC-ND 3.0 Lizenz.