KI-Gesetz: Die europäische Gesetzgebung soll sicherstellen, dass auf den europäischen Markt gebrachte Systeme sicher sind und die Grundrechte und EU-Werte respektieren. Hier sind die unzulässigen Anträge nach dem KI-Gesetz
Europa bewegt sich in Richtung einer Regulierung künstlicher Intelligenz. Das KI-Gesetz ist fertig. Brüssel hat sich auf unerforschtes Terrain begeben, aber es muss im Hinblick auf die Chancen und Risiken definiert werden, die sich aus der Entwicklung der KI ergeben, die mit der Verbreitung von Chatbots wie ChatGPT explosionsartig zugenommen hat.
AI ACT, HIER SIND DIE NEUIGKEITEN
Der harte Kern des Gesetzes ist die Annahme eines risikobasierten Ansatzes. Mit anderen Worten: Den Anbietern und Entwicklern von KI-Systemen werden je nach festgestelltem Risikoniveau eine Reihe von Verpflichtungen auferlegt. Eines der wichtigsten Kapitel, zu dem die Verhandlungen stundenlang ins Stocken gerieten, betrifft die Verbote von KI-Praktiken, weil sie ein inakzeptables Risiko für die Sicherheit und die Grundrechte darstellen.
DIE FRAGE DER GESICHTSERKENNUNG
Symbol aller Kämpfe ist das Verbot biometrischer Echtzeit- und Fernerkennungssysteme wie der Gesichtserkennung, deren Einsatz nun auf bestimmte Fälle beschränkt wird.
Die umstrittenen Punkte
Zu den kontroversen Punkten gehört auch der zu Grundlagenmodellen wie GPT-4, auf der Grundlage von ChatGPT. Die Vereinbarung enthält strengere Verpflichtungen für Modelle mit hoher Auswirkung und systemischem Risiko. Regeln, die Berlin, Paris und teilweise Rom gerne in Verhaltenskodizes verwässert hätten, aus Angst, dass die auferlegten Belastungen die Innovation in der EU abwürgen.
ALLE PUNKTE DES KI-GESETZES (Agi-Blatt)
Nach dreitägigen Verhandlungen haben der Europäische Rat und das Europäische Parlament eine Einigung über den Vorschlag für harmonisierte Regeln zur künstlichen Intelligenz (KI) erzielt. Die weltweit erste Verordnung dieser Art soll sicherstellen, dass die in der Europäischen Union eingesetzten Systeme der künstlichen Intelligenz sicher sind und die Grundrechte und EU-Werte respektieren, und außerdem Investitionen und Innovationen in diesem Sektor in Europa anregen.
Die Hauptidee besteht darin, künstliche Intelligenz auf der Grundlage ihrer Fähigkeit zu regulieren, der Gesellschaft Schaden zuzufügen, und zwar nach einem „risikobasierten Ansatz“, der vom minimalen Risiko zum inakzeptablen Risiko reicht: Je höher das Risiko, desto strenger werden die Regeln sein. Die meisten KI-Systeme gehören zur Kategorie des minimalen Risikos.
KI-Systeme, die als „hohes Risiko“ gelten, müssen strenge Regeln einhalten, wie etwa Risikominderungssysteme, Aktivitätsprotokollierung, detaillierte Dokumentation, klare Benutzerinformationen, menschliche Aufsicht und ein hohes Maß an Cybersicherheit.
Zu den hochriskanten KI-Systemen zählen einige kritische Infrastrukturen im Gas-, Strom- und Wassersektor, aber auch medizinische Geräte, Systeme für den Zugang zu Bildungseinrichtungen oder für die Personalrekrutierung sowie Systeme für Strafverfolgungsbehörden, Grenzkontrollen und die Rechtspflege. Auch biometrische Identifikationssysteme fallen in die Hochrisikokategorie.
Bei dem „inakzeptablen Risiko“ handelt es sich um Systeme der künstlichen Intelligenz, die eine Bedrohung der Grundrechte von Menschen darstellen und daher verboten werden: KI-Systeme oder Anwendungen, die menschliches Verhalten manipulieren, um den freien Willen von Menschen zu umgehen, beispielsweise Spielzeuge, die über einen Sprachassistenten zu gefährlichem Verhalten ermutigen bei Minderjährigen oder Systeme, die soziales Scoring durch Regierungen und prädiktive Polizeianwendungen ermöglichen.
Dann gibt es noch die Kategorie der spezifischen Risiken, wie zum Beispiel Chatbots. Bei der Nutzung sollte sich der Nutzer darüber im Klaren sein, dass er mit einer Maschine interagiert. Deepfakes und andere KI-generierte Inhalte müssen als solche gekennzeichnet werden und Benutzer müssen informiert werden, wenn sie ein biometrisches Kategorisierungs- oder Emotionserkennungssystem verwenden. Lieferanten müssen Systeme so entwerfen, dass synthetische Text-/Bild-/Audio-/Videoinhalte in einem maschinenlesbaren Format wiedergegeben werden und als künstlich erzeugt oder manipuliert erkennbar sind.
Die Verordnung gilt nicht für Bereiche außerhalb des Geltungsbereichs des EU-Rechts und sollte die Zuständigkeiten der Mitgliedsländer in Fragen der nationalen Sicherheit nicht beeinträchtigen. Das KI-Gesetz gilt dann nicht für Systeme, die ausschließlich militärischen oder verteidigungstechnischen Zwecken dienen. Schließlich sieht die Vereinbarung vor, dass die Verordnung nicht für KI-Systeme gilt, die ausschließlich zu Forschungs- und Innovationszwecken eingesetzt werden, oder für solche, die künstliche Intelligenz für nichtberufliche Zwecke nutzen.
DIE ANALYSE VON CORRIERE DELLA SERA
„Wenn große Anbieter künstlicher Intelligenz wie Google, Meta oder Microsoft ihre Dienste weiterhin an Bürger und Unternehmen in der Europäischen Union verkaufen wollen, müssen sie die Qualität und Transparenz von Algorithmen und Daten garantieren und zertifizieren. Es ist eine der Säulen des europäischen KI-Gesetzes – schrieb der Corriere della sera – Einer der relevanten Punkte bleibt die Verantwortung der großen Technologieunternehmen, die eine Zertifizierung für die Algorithmen erhalten müssen, die bereinigt werden müssen Vorurteile und über die Daten, die Umwelt- und Sicherheitskonformität aufweisen müssen.
DIE ZEITEN DES AI ACT
Die endgültige Abstimmung über den Gesetzestext wird für Anfang Februar 2024 erwartet. Ab diesem Zeitpunkt sind die Versuchsphasen geplant, die auch die freiwillige Übernahme der gestaffelt in Kraft tretenden neuen Regeln durch Unternehmen in vollem Umfang vorsehen Corriere della sera fügte hinzu: „Der Text, zu dem die Kommission von Ursula von der Leyen am späten Freitagabend nach sehr zähen Verhandlungen das politische Ja von Parlament und Rat erhalten hat, enthält viele bahnbrechende und neue Elemente.“ Die Herausforderung besteht darin, die Messlatte angesichts einer Technologie zu halten, die sich wie keine andere weiterentwickelt, unser Leben verändern wird und vorerst ein kolossales Geschäft vorantreibt.“
WIE KÜNSTLICHE BILDER BEHANDELT WERDEN
Das Risikominderungssystem ist das Herzstück des Regulierungssystems, das auch mit der Einrichtung eines KI-Büros in Brüssel mit eigenem Budget und der Aufgabe der Koordinierung und Überwachung umgesetzt wird. Einzelne Länder werden außerdem aufgefordert, eine unabhängige Behörde zu schaffen oder die Aufsicht über künstliche Intelligenz (KI) einer bereits bestehenden Behörde zu übertragen. Und wiederum enthält das KI-Gesetz zusätzlich zum Schutz der Privatsphäre sowie der individuellen und kollektiven Rechte die erwarteten Beschränkungen für die Produktion und Verbreitung von „Deep Fakes“ im Internet, falschen Inhalten und den Urheberrechtsschutz. „Im ersten Fall – schreibt Corriere della sera – wird das sogenannte digitale Wasserzeichen eingeführt, die Verpflichtung für Entwickler, die Zeichenfolge einzufügen, die vor den von der KI erstellten Inhalten warnt.“ Das Bild des Papstes mit der Bettdecke, um ein berühmtes „falsches“ Bild zu zitieren, wird nur mit der Leiste auf unseren Geräten ankommen können, die uns warnt, dass es sich um eine KI-Erfindung handelt. Was das Urheberrecht betrifft, ist die Nutzung von Inhalten für fortgeschrittene Chatbots wie ChatGpt oder Gemini nicht möglich, wenn der Autor beantragt hat, seine eigenen Inhalte, an denen er die Rechte besitzt, nicht zu verwenden. Technologieunternehmen müssen transparent sein, welche Inhalte bereits zum Trainieren der Algorithmen herangezogen wurden, und „ausreichend detaillierte“ Zusammenfassungen dessen bereitstellen, was verwendet wurde.
WAS VON DER LEYEN SAGTE
„Ein historischer Moment“, jubelte Ursula von der Leyen und feierte eines der Flaggschiffe ihrer Amtszeit bei der Europäischen Kommission, die den Vorschlag im Jahr 2021 vorgelegt hatte. Die Gesetzgebung werde „einen wesentlichen Beitrag zur Entwicklung globaler Regeln und Prinzipien für eine KI“ leisten „Der Mensch steht im Mittelpunkt“, sagte der erste Gemeindevorsteher. Es handelt sich um den sogenannten „Brüssel-Effekt“, mit dem die EU wie bei anderen Dossiers die KI-Regulierung auf globaler Ebene steuern will.
URSO UND BUTTI'S KOMMENTAR
„Ein bedeutender Schritt für die Entwicklung der KI“ war der Toast des Wirtschaftsministers Adolfo Urso und des für Innovation zuständigen Unterstaatssekretärs des Premierministers Alessio Butti auf die politische Einigung, die nun endgültig genehmigt werden muss der Mitgliedstaaten sowie des Europäischen Parlaments. Und was ein zentrales Dossier für die Regierung von Giorgia Meloni betrifft: KI wird auch unter italienischer Präsidentschaft eines der Themen der G7 sein.
DIE WORTE DES AI ACT-SPRECHERS
„Einige Regierungen, darunter auch die italienische, hätten sich mehr freie Hand bei der Kontrolle und Profilierung der Bürger gewünscht, aber sie sahen auf unserer Seite eine unüberwindbare Mauer zum Schutz der Freiheiten“, behauptete der Leiter der PD-Delegation im Europäischen Parlament und Berichterstatter des AI Act, Brando Benifei.
DIE KRITIK
Für Amnesty International hat die EU jedoch „grünes Licht für dystopische digitale Überwachung“ gegeben und damit „einen verheerenden Präzedenzfall auf globaler Ebene“ geschaffen. Auch der Europäische Verbraucherverband (BEUC) äußert sich kritisch und beklagt „das Ausmaß der Risiken, vor denen Verbraucher in Zukunft nur unzureichend geschützt werden“.
Dies ist eine Übersetzung eines Artikels, der am Sun, 10 Dec 2023 09:42:00 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/ai-act-cosa-ce-e-cosa-non-ce/ veröffentlicht wurde.