Aus diesem Grund hat das Alan Turing Institute, Großbritanniens führendes nationales Institut für künstliche Intelligenz, einen umfassenden Bericht veröffentlicht, in dem er die Regierung auffordert, „rote Linien“ für die Implementierung generativer künstlicher Intelligenz festzulegen, insbesondere in Kontexten, in denen die Technologie irreversible Maßnahmen ergreifen könnte ohne direkte menschliche Kontrolle. Der am späten Freitag veröffentlichte Bericht unterstreicht die Bedenken des Instituts hinsichtlich der Unzuverlässigkeit und Fehleranfälligkeit aktueller generativer KI-Tools, insbesondere in Hochrisikoszenarien innerhalb der nationalen Sicherheit.
Unzuverlässigkeit generativer künstlicher Intelligenz und nationale Sicherheitsrisiken
Der Bericht des Alan Turing Institute hebt die aktuellen Mängel generativer künstlicher Intelligenzwerkzeuge hervor und unterstreicht deren Unzuverlässigkeit und Fehleranfälligkeit, insbesondere in Kontexten, die für die nationale Sicherheit von entscheidender Bedeutung sind. Dies unterstreicht die Notwendigkeit eines grundlegenden Umdenkens, um den unbeabsichtigten oder zufälligen Auswirkungen der generativen KI auf die nationale Sicherheit Rechnung zu tragen. Der Bericht legt nahe, dass die übermäßige Abhängigkeit der Benutzer von KI-generierten Ergebnissen dazu führen könnte, dass sie zurückhaltend gegenüber potenziell falschen Informationen sind.
Der Bericht identifiziert insbesondere autonome Agenten als eine Hauptanwendung der generativen KI, die im Kontext der nationalen Sicherheit einer genauen Überwachung bedarf. Er erkennt zwar das Potenzial der Technologie zur Beschleunigung der nationalen Sicherheitsanalyse, warnt jedoch davor, dass autonomen Agenten das Denken auf menschlicher Ebene fehlt und sie das angeborene Risikoverständnis, das für die Vermeidung von Misserfolgen entscheidend ist, nicht reproduzieren können.
Zu den vorgeschlagenen Abhilfemaßnahmen gehören die Aufzeichnung von Aktionen und Entscheidungen autonomer Agenten, das Hinzufügen von Warnungen zu jedem Schritt der generativen KI-Ausgabe und die Dokumentation von Worst-Case-Szenarien.
Regierungsempfehlungen und strenge Beschränkungen
Das Alan-Turing-Institut empfiehlt strenge Beschränkungen in Bereichen, in denen „vollkommenes Vertrauen“ erforderlich ist, etwa bei der nuklearen Führung und Kontrolle, und möglicherweise auch in weniger existenziellen Bereichen wie Polizeiarbeit und Strafjustiz. Der Bericht schlägt die Einführung von Sicherheitsbremsen für KI-Systeme vor, die kritische Infrastrukturen überwachen, ähnlich wie Bremssysteme in anderen Technologien. Es unterstreicht jedoch, wie wichtig es ist, Einschränkungen und Risiken zu berücksichtigen, insbesondere für hochrangige Beamte, die möglicherweise nicht die Vorsicht des operativen Personals teilen.
Der Bericht weist auch auf den böswilligen Einsatz generativer KI als Sicherheitsproblem hin und betont, dass die Technologie bestehende soziale Risiken wie Fehlinformationen, Betrug und Kinderpornografie erhöht. Eine Bedrohung stellen böswillige Akteure dar, die sich nicht an die Anforderungen an Genauigkeit und Transparenz halten. Der Bericht empfiehlt staatliche Unterstützung für manipulationssichere Wasserzeichenfunktionen, die Zusagen von GPU-Herstellern wie NVIDIA und eine internationale staatliche Koordinierung erfordern. Die Herausforderungen bei der Umsetzung gelten als gewaltig.
Der Bericht ist der dringende Aufruf des Alan Turing Institute zu „Roten Linien für generative KI“ und untersucht die heikle Schnittstelle zwischen technologischer Innovation und nationaler Sicherheit. Der Schwerpunkt des Instituts auf einem Paradigmenwechsel erkennt die Unzuverlässigkeit aktueller generativer KI-Tools an, insbesondere in Hochrisikoszenarien, und unterstreicht die Notwendigkeit strenger Beschränkungen und Sicherheitsmaßnahmen.
Während sich die britische Regierung mit der Regulierung von KI auseinandersetzt, dienen die Empfehlungen als Fahrplan und fordern einen proaktiven Ansatz zur Minderung der mit autonomen Agenten und böswilliger Nutzung verbundenen Risiken. Die Frage bleibt: Wie können regulatorische Rahmenbedingungen angepasst werden, um Innovation und Sicherheit in Einklang zu bringen und die verantwortungsvolle Entwicklung generativer KI in unserer komplexen soziotechnischen Landschaft sicherzustellen? Die Herausforderung besteht darin, diese Empfehlungen in wirksame Richtlinien umzusetzen, die vor potenziellen Bedrohungen schützen und gleichzeitig den kontinuierlichen technologischen Fortschritt fördern.