Unter den Unterzeichnern ist neben dem Mitgründer von Apple, Steve Wozniak, auch Elon Musk, der zusammen mit Sam Altman OpenAI gegründet hat. Das Manifest mahnt zur Vorsicht beim Upgrade von ChatGpt und Co. Alle Details
Füttere die KI nicht . Im Wesentlichen ist dies der Appell von über 1100 führenden Persönlichkeiten der Technologie- und Forschungsszene, die sich bewusst sind, dass künstliche Intelligenzen Algorithmen sind, die lernen und verfeinern können und sich – präzise – aus jeder Information und Interaktion nähren. Persönlichkeiten, die ein echtes Manifest fördern, fordern zur Vorsicht bei der Entwicklung jeglicher Art von Tests für künstliche Intelligenz auf, die leistungsfähiger sind als GPT-4, das Future of Life Institute , eine gemeinnützige Organisation.
WER DAS ANTI-CHATGPT-MANIFEST UNTERZEICHNET HAT
Unter den Unterzeichnern finden wir neben dem Mitgründer von Apple, Steve Wozniak , Evan Sharp (Mitgründer von Pinterest), Chris Larsen (Mitgründer von Ripple), Ingenieure und Entwickler von Amazon, Meta und Google Elon Musk , ein Unternehmer, der zusammen mit Sam Altman OpenAI selbst gegründet hat.
Und die zitierte und verbotene Technologie ist genau die, die ChatGPT zugrunde liegt, der Software des US-amerikanischen Softwarehauses, die bereits viele Menschen für ihre Fähigkeit, überzeugende Texte zu einer nahezu unbegrenzten Menge von Themen zu erstellen, verblüfft hat.
Musks Beitritt mag verdächtig erscheinen, da er darauf abzielt, die Fähigkeiten der Software, an deren Entwicklung er mitgewirkt hat, positiv zu bewerben. Aber das Problem auf dem Tisch ist unabhängig von der Anwesenheit des südafrikanischen Tycoons, der am besten für Tesla bekannt ist.
WAS UNTERZEICHNER FRAGEN
„KI-Systeme, die mit Intelligenz ausgestattet sind, die mit Menschen konkurrieren kann, können tiefgreifende Risiken für die Gesellschaft und die Menschheit darstellen, wie gründliche Forschung gezeigt und von den besten KI-Labors anerkannt wurde“, heißt es in dem Text, der mit einer Reihe von Fragen fortgesetzt wird: „Sollen wir Maschinen unsere Nachrichtenkanäle mit Propaganda und Unwahrheiten überschwemmen? Sollten wir alle Jobs automatisieren, auch die befriedigendsten? Sollten wir nichtmenschliche Köpfe entwickeln, die uns schließlich zahlenmäßig übertreffen, klüger und veraltet sein und uns ersetzen könnten? Sollten wir riskieren, die Kontrolle über unsere Zivilisation zu verlieren? Diese Entscheidungen dürfen nicht an nicht gewählte Technologieführer delegiert werden.“
EINE PAUSE ZUM NACHDENKEN
Die Forderung der Unterzeichner des von der Presse so bezeichneten „Anti-ChatGpt-Manifests“ lautet auf eine mindestens sechsmonatige Pause von allen Aktivitäten der mächtigsten KI-Labore von GPT-4: „Diese Pause sollte öffentlich und überprüfbar sein und schließen Sie alle Hauptakteure ein. Wenn diese Pause nicht schnell umgesetzt werden kann, sollten die Regierungen eingreifen und ein Moratorium einführen."
Die Beschwerdeführer fügen hinzu: „KI-Labore und unabhängige Experten sollten diese Pause nutzen, um gemeinsam eine Reihe gemeinsamer Sicherheitsprotokolle für fortschrittliches KI-Design und -Entwicklung zu entwickeln und umzusetzen, die von unabhängigen externen Experten streng geprüft und überwacht werden.“
Kurz gesagt, wir scheinen den Punkt erreicht zu haben, an dem Wissenschaft und Science-Fiction verschmelzen und Isaac Asimovs drei Gesetze der Robotik zum Leben erweckt werden. Oder besser gesagt, sie nehmen genau Gestalt an, um zu verhindern, dass ChatGpts und dergleichen zu viel Leben nehmen, dank einer Sicherheitskette (sogar ethisch), die vor weiteren Entwicklungen vorbereitet werden muss
In dem offenen Brief erinnern die Unterzeichner an andere Prinzipien, jene von Asilomar für künstliche Intelligenz, wonach „fortgeschrittene KI eine tiefgreifende Veränderung in der Geschichte des Lebens auf der Erde darstellen könnte und mit Sorgfalt und angemessenen Ressourcen geplant und verwaltet werden sollte. Leider findet dieses Planungs- und Managementniveau nicht statt." Für die Unterzeichner „haben KI-Labore einen rasanten Wettlauf um die Entwicklung und den Einsatz immer mächtigerer digitaler Köpfe geführt, die niemand – nicht einmal ihre Schöpfer – zuverlässig verstehen, vorhersagen oder kontrollieren können“.
Ein verstörendes Manifest, vielleicht übertrieben im Ton, das ChatGpt und die Unternehmen, die ähnliche Algorithmen entwickeln, sicherlich besser bewerben kann als jede andere Werbung . Und wenn das das Ziel war, hoffen wir zumindest, dass die Idee nicht von einer künstlichen Intelligenz stammt: Die im Marketing am Werk waren schon schlimm genug.
Dies ist eine Übersetzung eines Artikels, der am Thu, 30 Mar 2023 08:22:31 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/il-manifesto-dei-prof-e-manager-anti-chatgpt-cosa-chiede-chi-teme-una-ia-troppo-scaltra/ veröffentlicht wurde.