Risikostufen, biometrische Erkennung, Urheberrecht, Deepfakes und Sanktionen. Das enthält das KI-Gesetz, das weltweit erste Gesetz zur künstlichen Intelligenz (KI), das gestern vom Europäischen Parlament verabschiedet wurde. Alle Details (inkl. Umsetzungszeiten)
Mit 523 Ja-Stimmen, 46 Nein-Stimmen und 49 Enthaltungen hat das Europäische Parlament gestern das KI-Gesetz verabschiedet , das weltweit erste Gesetz zur künstlichen Intelligenz (KI), das, wie Brando Benifei (Pd-Pse), Mitberichterstatter, sagte Ziel des Gesetzes ist es, „die Risiken zu begrenzen und die Chancen“ dieser Technologie zu erhöhen.
Für das Inkrafttreten bedarf es lediglich des grünen Lichts des EU-Rats, für das keine Hindernisse in Sicht sind. Benifei stellte jedoch klar, dass die Verordnung für Unternehmen und Institutionen nicht sofort verbindlich sein wird, da sie 24 Monate nach ihrem Inkrafttreten vollständig anwendbar sein wird, mit Ausnahme von Verboten verbotener Praktiken (nach 6 Monaten) und Verhaltenskodizes (nach 9 Monaten). , allgemeine Regeln für KI-Systeme einschließlich Governance (nach 12 Monaten) und Verpflichtungen für Hochrisikosysteme (nach 36 Monaten).
DIE PYRAMIDE DER KI-RISIKEN
Um die Risiken von KI auf einer gemeinsamen Ebene festzulegen, hat sich die EU eine Pyramide mit vier Risikograden vorgestellt: minimal (KI-gestützte Videospiele und Anti-Spam-Filter), begrenzt (Chatbots), hoch (Zuordnung von Punktzahlen zu Schule und Berufsprüfungen, Sortierung von Lebensläufen, Beurteilung der Zuverlässigkeit von Beweisen vor Gericht, robotergestützte Chirurgie) und inakzeptabel (alles, was eine „eindeutige Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen“ darstellt, wie z. B. die Zuweisung eines „sozialen Punktes“ durch Regierungen) .
Für Systeme mit geringem Risiko ist kein Eingriff vorgesehen, für Systeme mit begrenztem Risiko wird Transparenz gefordert. Hochrisikotechnologien müssen jedoch reguliert werden und solche, die als inakzeptabel gelten, sind verboten.
VERBOTE UND AUSNAHMEN ZUR BIOMETRISCHEN ERKENNUNG
Biometrische Kategorisierungssysteme auf der Grundlage sensibler Merkmale und die wahllose Extrapolation von Gesichtsbildern aus dem Internet oder CCTV-Aufzeichnungen zur Erstellung von Gesichtserkennungsdatenbanken gehörten zu den heißen Themen bei der Ausarbeitung des KI-Gesetzes.
Mit der Gesetzgebung sind Emotionserkennungssysteme am Arbeitsplatz und in Schulen, Sozialkreditsysteme und prädiktive Polizeipraktiken (sofern sie ausschließlich auf Profilerstellung oder der Bewertung von Merkmalen basieren) in jeder Hinsicht verboten und werden auch verboten. einer Person) und Systeme, die menschliches Verhalten manipulieren oder die Schwachstellen von Menschen ausnutzen.
Selbst Strafverfolgungsbehörden werden „im Prinzip“ nicht in der Lage sein, biometrische Identifikationssysteme zu verwenden, außer in bestimmten, gesetzlich ausdrücklich vorgesehenen Situationen. Eine „Echtzeit“-Identifizierung kann nur unter Einhaltung strenger Garantien eingesetzt werden, beispielsweise wenn die Nutzung zeitlich und räumlich begrenzt ist und einer richterlichen oder behördlichen Genehmigung bedarf. Zu den zulässigen Verwendungszwecken zählen unter anderem die Suche nach einer vermissten Person oder die Verhinderung eines Terroranschlags.
Der nachträgliche Einsatz dieser Systeme gilt als risikoreich und daher muss in diesem Fall die richterliche Genehmigung mit einer Straftat verknüpft werden.
COPYRIGHT UND DEEPFAKE
Das KI-Gesetz sieht außerdem vor, dass Allzweck-KI-Systeme und die ihnen zugrunde liegenden Modelle bestimmte Transparenzanforderungen erfüllen und während der Trainingsphasen der verschiedenen Modelle den EU-Urheberrechtsbestimmungen entsprechen müssen. Leistungsstärkere Modelle, die systemische Risiken bergen können, werden auch andere Pflichten haben, wie etwa die Durchführung von Modellbewertungen, die Minderung systemischer Risiken und die Berichterstattung über Vorfälle.
Darüber hinaus müssen künstliche oder manipulierte Bilder sowie Audio- oder Videoinhalte (sog. „Deepfakes“) eindeutig als solche gekennzeichnet werden.
UNTERSTÜTZUNG FÜR INNOVATION
Um Innovation und Sicherheit zu unterstützen, heißt es im KI-Gesetz, dass die EU-Länder auf nationaler Ebene regulatorische Experimentierräume und Testmechanismen unter realen Bedingungen (Sandboxen) einrichten und zugänglich machen müssen, damit KMU und Start-ups KI-Systeme trainieren können, bevor sie sie einführen zum Markt.
DIE SANKTIONEN
Bei Verstößen gegen das KI-Gesetz muss ein Unternehmen einen Prozentsatz seines weltweiten Jahresumsatzes im vorangegangenen Geschäftsjahr oder einen vorher festgelegten Betrag zahlen: 35 Millionen Euro oder 7 % für Verstöße gegen verbotene Anwendungen; 15 Millionen Euro oder 3 % bei Verstößen gegen gesetzliche Pflichten; 7,5 Millionen Euro oder 1,5 % wegen falscher Angaben. Für KMU und Start-ups gelten jedoch verhältnismäßige Obergrenzen.
WAS NOCH ZU TUN IST
Wie sowohl Benifei als auch der andere Mitberichterstatter des KI-Gesetzes, Dragos Tudorache (Renew, Rumänien), betonten, bleibt über das Gesetz hinaus noch viel zu tun, insbesondere im Bereich der KI am Arbeitsplatz, für den die Kommission zuständig war um eine konkrete Weisung gebeten.
„Künstliche Intelligenz wird uns dazu bringen, den Gesellschaftsvertrag zu überdenken, der unseren Demokratien zugrunde liegt. Zusammen mit unseren Bildungsmodellen, unseren Arbeitsmärkten und der Art und Weise, wie wir Kriege führen. Das KI-Gesetz ist nicht das Ende der Reise, sondern vielmehr der Ausgangspunkt für ein neues technologiebasiertes Governance-Modell“, kommentierte Tudorache.
Dies ist eine Übersetzung eines Artikels, der am Thu, 14 Mar 2024 09:55:25 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/ai-act-tutto-su-regole-divieti-ed-eccezioni/ veröffentlicht wurde.