Das KI-Gesetz ist eine umfangreiche und sehr wirkungsvolle Regelung, die so weit geht, dass einige Staaten (einschließlich Italien) vorgeschlagen hatten, Verhaltenskodizes vorzuziehen. Laura Turrinis Analyse für den Newsletter Appunti di Stefano Feltri
Alle reden darüber, aber noch hat niemand den offiziellen Text gelesen, der im Januar 2024 veröffentlicht wird. Dennoch ist die erste Verabschiedung des europäischen KI-Gesetzes – KI steht für Künstliche Intelligenz – am 8. Dezember 2023 erfolgt allerdings eine Tatsache, die an sich schon berichtenswert ist.
Sie gilt als weltweit erste Verordnung zu künstlicher Intelligenz und steht an zweiter Stelle nach China, das im vergangenen Sommer ein Gesetz verabschiedet hat, das am 15. August 2023 in Kraft trat.
Eine interessante Parallele zwischen den beiden Disziplinen, die eine kommt vom Kontinent mit der höchsten Garantieorientierung und die andere aus dem Staat, der die Entwicklung von KI-Systemen weltweit am meisten vorantreibt.
SYSTEME MIT NIEDRIGEM UND HOHEM RISIKO
Aus den ersten Pressemitteilungen sowie aus den vor der endgültigen Genehmigung verbreiteten Entwürfen geht hervor, dass die europäische Gesetzgebung einen risikobasierten Ansatz verfolgt und Systeme mit geringem Risiko von Systemen mit hohem Risiko unterscheidet.
Bei ersteren handelt es sich um solche, die weder die Rechte noch die Sicherheit der Bürger gefährden, etwa Empfehlungssysteme oder Anti-Spam-Filter, und die keinen besonderen Verpflichtungen unterliegen, obwohl ihre Ersteller sich auf freiwilliger Basis an Verhaltenskodizes halten können.
Besonders gefährdet sind vielmehr diejenigen, die einen erheblichen Einfluss auf das Leben eines jeden von uns haben, zum Beispiel medizinische Geräte, Systeme zur Bestimmung des Zugangs zu Schulen oder zur Personalauswahl, Systeme zur Rechtspflege, zur Grenzkontrolle, biometrische Systeme Identifikation.
Hinzu kommen Systeme, die kritische Infrastrukturen wie die Versorgung mit Wasser, Gas und Strom regeln.
Hochrisikosysteme müssen strenge Kriterien erfüllen, Risikominderung und qualitativ hochwertige Trainingsdaten bereitstellen und einer Reihe von Kontrollen der durchgeführten Aktivitäten und der ergriffenen Sicherheitsmaßnahmen unterzogen werden. Es muss auch eine menschliche Aufsicht gewährleistet sein.
KI ist einem inakzeptablen Risiko ausgesetzt
Zu diesen beiden Kategorien künstlicher Intelligenz kommt eine dritte hinzu, die als mit einem inakzeptablen Risiko verbunden eingestuft wird.
Das KI-Gesetz sieht vor, dass bestimmte Systeme der künstlichen Intelligenz eine Gefahr für die Grundrechte der Menschen darstellen können und verboten sind.
Zum Beispiel Systeme, die menschliches Verhalten manipulieren, bestimmte prädiktive Polizeianwendungen oder Systeme, die „Social Scoring“ durch Regierungen oder Unternehmen ermöglichen. Hinzu kommen die am Arbeitsplatz eingesetzten Emotionserkennungssysteme und einige Auswahlsysteme, die auf biometrischer Erkennung basieren.
Zusätzlich zu den spezifischen Verpflichtungen schreibt das KI-Gesetz eine allgemeine Verpflichtung zur Transparenz im gesamten Prozess vor, von der Programmierung bis zur Schulung. Zur Umsetzung wird auf von Unternehmen entwickelte Verhaltenskodizes zurückgegriffen und strengere Auflagen für Modelle mit höherem Risiko eingeführt.
Eine weitere Regel ist, dass der Nutzer immer wissen muss, wann er mit einem System der künstlichen Intelligenz interagiert, beispielsweise über einen Chatbot, und dass die von der künstlichen Intelligenz generierten Inhalte so gekennzeichnet sein müssen, dass sie für Menschen, aber auch für Menschen erkennbar sind ein maschinenlesbares Format.
SANKTIONEN UND AUFSICHT IM KI-GESETZ
Wer gegen die Regeln des KI-Gesetzes verstößt, muss mit hohen Bußgeldern rechnen, die bei verbotenen Anwendungen bis zu 35 Millionen Euro oder 7 Prozent des Umsatzes und bei Verstößen gegen das KI-Gesetz bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes betragen können gesetzlich vorgeschriebene Pflichten. Kleinere und mittlere Unternehmen werden mit geringeren Bußgeldern belegt.
Ein neues Gremium, das European AI Office, wird die Einhaltung der Gesetze überwachen und dabei mit den Aufsichtsbehörden der verschiedenen Nationen der Europäischen Union zusammenarbeiten.
Nach der Veröffentlichung des KI-Gesetzes, voraussichtlich im Januar 2024, wird es für die Einführung aller Verbote eine Übergangsfrist geben, die je nach Fall sechs Monate bis zwei Jahre beträgt. In der Zwischenzeit beabsichtigt die Kommission, Entwickler künstlicher Intelligenz zusammenzubringen, um einen KI-Pakt zu unterzeichnen, eine freiwillige Vereinbarung, die Unternehmen dazu verpflichtet, sofort mit der Entwicklung von Systemen zu beginnen, die den Bestimmungen der Verordnung entsprechen.
Das KI-Gesetz ist eine umfangreiche und sehr wirkungsvolle Regelung, die so weit geht, dass einige Staaten, darunter Italien, vorgeschlagen hatten, Verhaltenskodizes vorzuziehen, weil sie befürchteten, dass eine strenge Regulierung die Entwicklung dieser für die industrielle Entwicklung so wichtigen Technologie behindern könnte . Wie wir bereits sagten, ist es jedoch nicht das erste, das auf den Markt gebracht wurde.
IN DER Zwischenzeit IN CHINA
In China traten am 15. August 2023 die „Provisional Measures for the Management of Generative Artificial Intelligence Services“ in Kraft, die von der Cyberspace Administration of China, der für die Bewertung von Inhalten im Internet zuständigen Stelle, veröffentlicht wurden.
Im Gegensatz zum KI-Gesetz, das sich mit künstlicher Intelligenz im weitesten Sinne befasst, greift das chinesische Gesetz nur in die generative künstliche Intelligenz ein, d andere sind nicht reguliert.
Darüber hinaus sieht die chinesische Gesetzgebung einen stärkeren Schutz des Urheberrechts vor und sieht ausdrücklich vor, dass KI-Systeme dies tun müssen
„Respektieren Sie die gesetzlichen Rechte und Interessen anderer; Schäden an der körperlichen und geistigen Gesundheit anderer, Verletzungen ihrer Bildrechte, ihres Rufs und ihrer Privatsphäre sowie Verletzungen geistiger Eigentumsrechte verhindern. Die illegale Beschaffung, Offenlegung oder Nutzung persönlicher und privater Informationen sowie von Geschäftsgeheimnissen ist verboten.“
Das KI-Gesetz sieht jedoch lediglich eine Verpflichtung zur Transparenz über die Herkunft der Daten vor.
Kein Wunder, denn China ist einer der ersten Staaten, der das Urheberrecht an Werken, die mit künstlicher Intelligenz geschaffen wurden, anerkennt, wenn auch unter bestimmten Bedingungen, und dies wird ein weiteres Thema sein, mit dem wir uns bald auf diesen Seiten befassen werden.
Im Rahmen des Gesetzes sieht es vor, dass künstliche Intelligenz in China unbedingt im Einklang mit dem chinesischen Sozialismus stehen muss und dass KI-Systeme den Grundwerten des Sozialismus entsprechen müssen, keine Anstiftung zur Untergrabung der Staatsmacht erzeugen, das sozialistische System stürzen oder gefährden dürfen die nationale Sicherheit und Interessen verletzen und gesetzlich verbotene Inhalte wie ethnische Diskriminierung, Gewalt, Obszönität und schädliche Falschinformationen verbreiten.
Artikel 5 sieht vor, dass diejenigen, die Systeme der künstlichen Intelligenz zur Bereitstellung von Diensten nutzen, für die erzeugten Inhalte verantwortlich sind, und begründet damit die volle Verantwortung des Nutzers auch für Verletzungen des Urheberrechts und der Privatsphäre.
Die Anbieter von Systemen der künstlichen Intelligenz sind jedoch gemäß Artikel 7 für die Methoden und Daten verantwortlich, die in der Trainings- und Optimierungsphase des Systems verwendet werden.
Es wird außerdem erwartet, dass alle KI-Systeme vor dem Inverkehrbringen einen detaillierten Bericht über die ergriffenen Sicherheitsmaßnahmen an die Cyberspace Administration of China vorlegen müssen.
Im Wesentlichen geht es der chinesischen Gesetzgebung auch darum, die Entwicklung von Systemen der künstlichen Intelligenz zu steuern, um die Entstehung gefährlicher Drifts zu verhindern, und zwar auf der Grundlage der Grundlagen ihres eigenen Staates.
Die auferlegten Regeln beziehen sich jedoch einerseits nur auf generative KI und wirken andererseits schlanker und zielgerichteter als die europäischen, auch wenn man bedenkt, dass sie nur auf fünf Textseiten enthalten sind.
Das Risiko besteht daher darin, dass die europäische Regulierung zu einer Bürokratisierung des Prozesses führen könnte, wie dies bereits bei der DSGVO der Fall war, mit einer Belastung von Unternehmensabläufen, die nicht immer dem Inhalt der Verhaltensweisen entsprechen.
Digital Europe, der wichtigste Verband der digitalen Industrien in Europa, hat errechnet, dass die Einhaltung der Regeln des KI-Gesetzes für ein Unternehmen mit fünfzig Mitarbeitern über 300.000 Euro kosten könnte.
Eine Ausgabe, die gerechtfertigt ist, wenn sie in Sicherheitsmaßnahmen investiert wird, und eine Verschwendung, wenn sie durch bloße Formalitäten aufgezehrt wird.
(Auszug aus dem Notes -Newsletter von Stefano Feltri)
Dies ist eine Übersetzung eines Artikels, der am Sat, 16 Dec 2023 06:03:21 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/ai-act-regolazione-intelligenza-artificiale/ veröffentlicht wurde.