In Indien gibt es eine wahre Fabrik von Avataren lokaler Politiker, die dank künstlicher Intelligenz (KI) sowohl glaubwürdig als auch wirtschaftlich sind. Sie sprechen alle Sprachen des Landes und sprechen die Wähler mit Namen an. Wie und in welchem Ausmaß werden sie die Wahlen beeinflussen? Der Artikel der New York Times
Um eine Vorstellung davon zu bekommen, welche Richtung künstliche Intelligenz im Wahlkampf einschlägt, schauen Sie sich einfach Indien an, die größte Demokratie der Welt, in der am Freitag gewählt wird – schreibt die New York Times .
DIE AVATARE DER MODI-PARTEI, GLAUBWÜRDIG UND WIRTSCHAFTLICH
Eine von der KI generierte Version von Premierminister Narendra Modi, die auf WhatsApp geteilt wird, zeigt die Möglichkeiten eines hyperpersonalisierten Engagements in einem Land mit fast einer Milliarde Wählern. In dem Video – einem demonstrativen Clip, dessen Quelle unklar ist – spricht Modis Avatar eine Reihe von Wählern direkt an und nennt sie beim Namen.
Allerdings ist es nicht perfekt. Modi scheint zwei verschiedene Brillen zu tragen und einige Teile des Videos sind verpixelt.
Modis Partei verschickt Videos über WhatsApp, in denen ihre KI-Avatare bestimmten Wählern persönliche Nachrichten über erhaltene staatliche Zuwendungen übermitteln und um ihre Stimme bitten.
Diese Videobotschaften können automatisch in jeder der Dutzenden indischen Sprachen generiert werden, die der Wähler spricht. Das Gleiche gilt für Telefonnachrichten von KI-gestützten Chatbots, die Wähler im Namen politischer Führer anrufen und um ihre Unterstützung bitten.
Diese Art der Kommunikation erfordert einen Bruchteil der Zeit und des Geldes, die für herkömmliche Wahlkämpfe aufgewendet werden, und hat das Potenzial, zu einem unverzichtbaren Instrument bei Wahlen zu werden.
DESINFORMATION ÜBER DESINFORMATION
Da die Technologie jedoch in die politische Szene vordringt, gibt es nur wenige Schutzmaßnahmen, die ihren Missbrauch verhindern. Chatbots und personalisierte Videos mögen mehr oder weniger harmlos erscheinen. Experten befürchten jedoch, dass es den Wählern mit der Weiterentwicklung und Verbreitung der Technologie immer schwerer fallen wird, zwischen echten und künstlichen Botschaften zu unterscheiden.
„Dieses Jahr wird der Wilde Westen und ein unregulierter KI-Raum sein“, sagte Prateek Waghre, Geschäftsführer der Internet Freedom Foundation, einer Gruppe für digitale Rechte mit Sitz in Neu-Delhi. „Technologie – fügte er hinzu – dringt in eine Medienlandschaft vor, die bereits durch Desinformation verunreinigt ist.“
Auf der ganzen Welt sind Wahlen zum Testgelände für den KI-Boom geworden. Die Werkzeuge wurden verwendet, um einen argentinischen Präsidentschaftskandidaten in Indiana Jones und einen Ghostbuster zu verwandeln. Während der Vorwahlen in New Hampshire erhielten die Wähler Robocall-Nachrichten, in denen sie aufgefordert wurden, nicht zu wählen, und zwar mit einer Stimme, die höchstwahrscheinlich künstlich erzeugt wurde, um der von Präsident Biden zu ähneln.
In Indien haben sich Modis Bharatiya Janata Party (BJP) und der oppositionelle Indian National Congress gegenseitig beschuldigt, wahlbezogene Deepfake-Inhalte online zu verbreiten.
POLITIKER VERRÜCKT AUF KI
Ein Außenposten dieser neuen indischen Grenze liegt im westlichen Wüstenstaat Rajasthan. Im Erdgeschoss eines Wohnhauses in einer staubigen Gasse betreibt der 31-jährige Studienabbrecher Divyendra Singh Jadoun ein Startup für künstliche Intelligenz, The Indian Deepfaker.
Das neunköpfige Team drehte Werbespots mit KI-generierten Avataren von Bollywood-Schauspielern und -Schauspielerinnen. Doch Anfang des Jahres forderten ihn Parteien und Politiker auf, für sie das zu tun, was er für Prominente getan hatte. Von den 200 Anfragen sagte Jadoun, er habe 14 angenommen.
Unter denjenigen, die die Behandlung erhielten, ist Shakti Singh Rathore, ein 33-jähriges BJP-Mitglied. Seine Aufgabe in dieser Wahlsaison ist es, so viele Menschen wie möglich über Modis Programme und Richtlinien zu informieren. Also beschloss er, eine Nachbildung von sich selbst zu erstellen.
„Künstliche Intelligenz ist wunderbar und der Weg nach vorne“, sagte Rathore, als er sich vor einer Videokamera im Büro von The Indian Deepfaker niederließ und sich auf die digitale Inkarnation vorbereitete. „Wie sonst könnte ich die Nutznießer von Modis Programmen in so großer Zahl und in so kurzer Zeit erreichen?“
Als Rathore einen safrangelben Schal mit dem Partylogo um den Hals zupfte, sagte Jadoun zu ihm: „Schauen Sie in die Kamera und sprechen Sie, als ob die Person vor Ihnen säße.“
DIE INDISCHE FABRIK VON AVATAR IA
Mit etwa fünf Minuten Material, einschließlich einer Audioaufnahme und einem Profilfoto, machte sich Jadoun an die Arbeit. Er sagte, er verwende Open-Source-KI-Systeme und baue darauf mit seinem eigenen Code auf. Zunächst wurde Rathores Gesicht aus jedem Bild der Aufnahme isoliert. Anschließend wurden Daten zu seinen somatischen Merkmalen gesammelt, darunter die Größe seines Gesichts, seiner Lippen und seines Blicks.
Jadoun sagte, der Datensatz sei dann in Modelle der künstlichen Intelligenz eingespeist worden, die lernen, Gesichtsmuster vorherzusagen. „Sie müssen das Programm weiter durchlaufen und das Gesicht verfeinern, bis Sie das bestmögliche Gesicht erhalten“, sagte er.
Ein „Klonalgorithmus“ analysiert außerdem die Audioaufnahme und lernt dabei die Kadenz und Intonation der Stimme. Jadoun sagte, dass die Bearbeitung oft 6 bis 8 Stunden dauert, um das Gesicht und die Lippen perfekt auf die Worte abzustimmen. Der Rest läuft weitgehend automatisiert ab.
Bei einer Demonstration dauerte die Erstellung von etwa 20 personalisierten Begrüßungsvideos etwa 4 Minuten.
Jadoun sagte, sein Team könne bis zu 10.000 Videos pro Tag produzieren. Für größere, zeitkritische Aufträge mietet er Grafikprozessoren.
EINE KI, DIE JEDEN ERREICHT
Generative KI kann auch Sprachbarrieren beseitigen, was in einem sprachlich vielfältigen Land besonders nützlich ist. Rathores Avatar kann so programmiert werden, dass er regionale Sprachen spricht und die entlegensten Winkel Indiens erreicht.
Politische Parteien senden nicht nur Videobotschaften an Wähler, sondern nutzen dank Chatbots wie ChatGpt auch geklonte Stimmen, um Menschen direkt anzurufen.
Wenn in der Vergangenheit ein Parteivertreter die Wähler angerufen habe, hätten sie aufgelegt, sagte Rathore. „Aber jetzt, wenn ein lokaler Führer den Namen eines Wählers sagt, erregt das sofort dessen Aufmerksamkeit.“
Während des Gesprächs fragt der Chatbot nach lokalen Regierungsprogrammen, die kostenlosen Strom oder Finanzierung für Startups anbieten. Jadoun sagte, die Anrufe seien zur Qualitätskontrolle und zum KI-Training aufgezeichnet und transkribiert worden.
Rathore sagte, er habe etwa 24.000 US-Dollar seines eigenen Geldes ausgegeben, um durch seine Videobotschaften und Telefonanrufe etwa 1,2 Millionen Menschen zu erreichen und Informationen über diejenigen zu erhalten, die nicht geantwortet hätten. Er nannte es eine Investition in seine Zukunft bei der BJP.
DIE WICHTIGKEIT DER ANPASSUNG
Nikhil Pahwa, Herausgeber von MediaNama , das über digitale Medien in Indien berichtet, sagte, personalisierte Nachrichten könnten bei Indern besonders wirkungsvoll sein.
„Indien ist ein Land, in dem die Menschen es lieben, sich mit Promi-Doppelgängern fotografieren zu lassen“, sagte er. „Wenn sie also beispielsweise einen Anruf vom Premierminister erhalten und so reden, als ob er sie kennt, wo sie leben und was ihre Probleme sind, wären sie wirklich begeistert.“
Waghre von der Internet Freedom Foundation bezweifelt, dass KI-Inhalte überzeugend genug sind, um die diesjährigen Wahlen zu beeinflussen. Aber er sagte, die langfristigen Auswirkungen könnten problematisch sein. „Wenn sie sich erst einmal in der Informationsdiät der Menschen etabliert haben, was wird dann sechs Monate später passieren, wenn es irreführende Videos gibt?“
Modi selbst hat darüber gesprochen, Haftungsausschlüsse für KI-generierte Inhalte hinzuzufügen, damit Menschen nicht „in die Irre geführt“ werden. Jadoun und Vertreter von zwei anderen KI-Start-ups in Indien haben ein sogenanntes „KI-Koalitionsmanifest“ erstellt, in dem sie sich zum Schutz der Privatsphäre und zur Wahrung der Wahlintegrität verpflichten. Beispielsweise seien Videos von Deepfaker aus Indien als „KI-generiert“ gekennzeichnet und die Chatbots werben damit, dass es sich um KI-generierte Stimmen handele, sagte Jadoun.
Narendra Singh Bhati, 28, ein Resortbesitzer in Rajasthan, erhielt diese Woche einen von der KI generierten Anruf von Rathore. Bhati sagte, er sei von der Anpassung beeindruckt und habe nicht gewusst, dass der Anruf KI-generiert sei, obwohl das Skript dies eindeutig sagte. „Am Ende habe ich mich sogar von Herrn Rathore verabschiedet“, sagte Bhati.
(Auszug aus der ausländischen Presseschau, herausgegeben von eprcomunicazione )
Dies ist eine Übersetzung eines Artikels, der am Sat, 27 Apr 2024 06:57:22 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/mondo/lia-sta-gia-intortando-gli-elettori-indiani/ veröffentlicht wurde.