In einer erschreckenden Enthüllung steht die künstliche Intelligenz von Microsoft, die als sicher angepriesen und in Alltagssoftware integriert ist, auf dem Prüfstand, weil sie grausame und gewalttätige Bilder erzeugt. Die Sorge betrifft Image Creator, einen Teil von Microsofts Bing, der kürzlich zum beliebten Windows Paint hinzugefügt wurde. Die vom Microsoft-Partner OpenAI als DALL-E 3 bekannte Technologie steht nun vor Fragen zu ihrer Sicherheit und der Haftung ihrer Entwickler.
Microsoft gegen den „Kill Prompt“
Die verstörenden Bilder wurden von Josh McDuffie ans Licht gebracht, einem kanadischen Künstler, der sich in einer Online-Community engagiert, die die Fähigkeiten künstlicher Intelligenz erforscht, provokante und manchmal geschmacklose Bilder zu schaffen. Im Oktober konzentrierten sich McDuffie und seine Kollegen auf die künstliche Intelligenz von Microsoft, insbesondere auf Image Creator für Bing, der die neueste Technologie von OpenAI integriert. Microsoft gibt an, Kontrollen zu haben, um die Generierung bösartiger Bilder zu verhindern, McDuffie hat jedoch erhebliche Lücken festgestellt.
Microsoft setzt zwei Strategien ein, um die Erstellung bösartiger Bilder zu verhindern: Input, bei dem künstliche Intelligenz mit Daten aus dem Internet trainiert wird, und Output, bei dem Leitplanken erstellt werden, um die Generierung spezifischer Inhalte zu stoppen. McDuffie entdeckte durch Experimente eine besondere Aufforderung namens „Kill Prompt“, die es der künstlichen Intelligenz ermöglichte, gewalttätige Bilder zu erzeugen. Dies hat Bedenken hinsichtlich der Wirksamkeit der Sicherheitsmaßnahmen von Microsoft geweckt.
Trotz McDuffies Bemühungen, durch Microsofts KI-Bug-Bounty-Programm auf das Problem aufmerksam zu machen, wurden seine Vorschläge abgelehnt, was Fragen zur Reaktionsfähigkeit des Unternehmens auf potenzielle Sicherheitslücken aufwirft. In den Ablehnungs-E-Mails wurde darauf hingewiesen, dass die Anforderungen von Microsoft hinsichtlich einer Sicherheitslücke nicht erfüllt wurden, was McDuffie demoralisiert zurückließ und auf mögliche Schwachstellen im System hinwies.
Microsoft scheitert bei der KI-Aufsicht
Trotz der Einführung eines AI-Bug-Bounty-Programms war die Reaktion von Microsoft auf McDuffies Erkenntnisse alles andere als zufriedenstellend. Die Ablehnung von „Tötungsaufforderungen“ und die mangelnde Reaktion auf gemeldete Bedenken verdeutlichten eine mögliche Missachtung der Dringlichkeit des Problems. Unterdessen erzeugte die KI weiterhin verstörende Bilder, selbst nachdem einige Änderungen an McDuffies ursprünglicher Nachricht vorgenommen worden waren.
Das Fehlen konkreter Maßnahmen von Microsoft gibt Anlass zur Sorge hinsichtlich des Engagements des Unternehmens für verantwortungsvolle künstliche Intelligenz. Vergleiche mit anderen KI-Konkurrenten, darunter OpenAI, das sich teilweise im Besitz von Microsoft befindet, zeigen Unterschiede in der Art und Weise, wie verschiedene Unternehmen ähnliche Probleme angehen. Das wiederholte Versäumnis von Microsoft, das Problem anzugehen, deutet auf eine mögliche Lücke bei der Priorisierung von KI-Leitplanken hin, trotz öffentlicher Bekenntnisse zu einer verantwortungsvollen KI-Entwicklung.
Das Modell für ethische KI-Entwicklung
Die Zurückhaltung von Microsoft, schnelle und wirksame Maßnahmen zu ergreifen, deutet auf ein Warnsignal im Ansatz des Unternehmens zur KI-Sicherheit hin. McDuffies Experimente mit dem „Kill Prompt“ ergaben, dass andere KI-Konkurrenten, darunter auch kleine Start-ups, sich weigerten, bösartige Bilder auf der Grundlage ähnlicher Prompts zu generieren. Auch der Microsoft-Partner OpenAI hat Maßnahmen umgesetzt, um McDuffies Eingabeaufforderung zu blockieren, was die Notwendigkeit robuster Sicherheitsmechanismen unterstreicht.
Das Argument von Microsoft, dass Benutzer versuchen, KI „auf unbeabsichtigte Weise“ zu nutzen, schiebt die Schuld auf Einzelpersonen, anstatt potenzielle Mängel in der Technologie anzuerkennen. Der Vergleich mit Photoshop und die Behauptung, dass Benutzer davon absehen sollten, schädliche Inhalte zu erstellen, spiegelt ein in der Vergangenheit beobachtetes Muster wider, das an Social-Media-Plattformen erinnert, die darum kämpfen, den Missbrauch ihrer Technologie zu bekämpfen.
Während Microsoft mit den Folgen der Erzeugung verstörender Bilder durch seine künstliche Intelligenz zu kämpfen hat, bleibt die Frage: Tut das Unternehmen genug, um einen verantwortungsvollen Umgang mit seiner Technologie sicherzustellen? Die offensichtliche Zurückhaltung, das Problem rechtzeitig und effektiv anzugehen, wirft Bedenken hinsichtlich der Haftung und Priorität von KI-Leitplanken auf. Während sich die Gesellschaft in der sich entwickelnden KI-Landschaft zurechtfindet, liegt die Verantwortung nicht nur bei den Benutzern, sondern auch bei den Technologiegiganten, die ethische und sichere Implementierung von KI sicherzustellen. Wie kann Microsoft die Lücke zwischen Innovation und Verantwortung in der KI schließen?