Start Zeitschrift 

Warum streicht Altman das KI-Sicherheitskomitee von Open AI?

Gepostet von: babelfisch

Warum streicht Altman das KI-Sicherheitskomitee von Open AI?

Nach Ilya Sutskever, dem ehemaligen wissenschaftlichen Leiter von OpenAI, verabschiedet sich auch seine rechte Hand Jan Leike kontrovers aus der Gruppe, was den Gerüchten über eine interne Fehde Substanz verleiht und die Vorwürfe von Elon Musk bekräftigt: „Wir müssen verstehen, wie wir die KI kontrollieren können.“ intelligenter als wir. Sicherheitskultur und -prozesse sind gegenüber glänzenden Produkten in den Hintergrund getreten.“

Die Seifenoper von OpenAI geht weiter, das Startup – in das Microsoft 11 Milliarden Dollar investiert hat – ist für die wichtigste generative künstliche Intelligenz verantwortlich (zumindest was die Bekanntheit betrifft): ChatGpt. Nach Ilya Sutskever , dem ehemaligen wissenschaftlichen Leiter von OpenAI , verlässt auch seine rechte Hand Jan Leike das Unternehmen.

WAS PASSIERT IN OPENAI?

Als Start die Nachricht vom Abschied des russischen Ingenieurs aus dem Unternehmen verkündete, hatte er den immer hartnäckigeren Gerüchten Beachtung geschenkt, denen zufolge Sutskever (der im vergangenen November den CEO Sam Altman (im Bild) disqualifiziert hatte), der jedoch aufgrund des großen Geldes in den engeren Kreis zurückgerufen wurde auf dem Spiel) war weggegangen und hatte die Tür zugeschlagen.

DAS TEAM, DAS KÜNSTLICHE INTELLIGENZ ENTHALTEN IST

Nun, mit Jan Leikes Rücktritt werden diese Gerüchte faktisch offiziell. Tatsächlich beförderten beide Mitglieder von OpenAIs Superalignment , einem internen Ausschuss, der sich mit moralischen Fragen im Zusammenhang mit der Entwicklung einer unbekannten und potenziell gefährlichen Technologie befassen soll, nicht nur im Hinblick auf die Entwicklung besonders raffinierter Deep Fakes, sondern auch im Hinblick auf deren Auswirkungen . über die Arbeitswelt. OpenAI hatte versprochen, 20 % der verfügbaren Rechenleistung für diesen edlen Zweck bereitzustellen.

Laut TechCrunch- Quellen stellte das von Sam Altman geführte Softwarehaus jedoch nie die erforderlichen Rechenressourcen zur Verfügung, was die Arbeit des Teams effektiv blockierte. Ein Team, das mit dem Abschied von Sutskever zuerst und Leike gleich danach faktisch enthauptet und auf ein Minimum reduziert ist.

„Ich war der Leiter der OpenAI-Superorganisation und diesen Job zu verlassen ist eines der schwierigsten Dinge, die ich je getan habe“, schrieb Jan Leike auf X, „weil wir dringend verstehen müssen, wie wir KI-Systeme steuern und steuern können, die intelligenter sind als wir.“ “.

Leikes Vorwürfe gegenüber Openai

Der Beitrag, mit dem das ehemalige Mitglied des Softwarehauses, das gerade den Schleier über Gpt-4o gelüftet hat, einen deutlich polemischen Unterton hat: „Ich bin OpenAI beigetreten, weil ich dachte, es sei der beste Ort der Welt, um diese Art von Forschung zu betreiben – er.“ erklärte immer Leike – Allerdings bin ich seit einiger Zeit mit den von der Unternehmensführung gesetzten Prioritäten nicht einverstanden. Ich glaube, dass ein Großteil unserer Bandbreite für die Vorbereitung auf die Sicherheit, Überwachung, Superausrichtung und sozialen Auswirkungen der nächsten Modellgenerationen aufgewendet werden sollte. Aber in den letzten Monaten hatte mein Team Schwierigkeiten, über die nötige Rechenleistung für diese wichtige Forschung zu verfügen.“

SAM ALTMANS NEUESTER HIT?

Die Worte des ehemaligen Mitarbeiters untermauern die Hypothese, dass es innerhalb von OpenAI zwei Fraktionen gab: die von Ilya Sutskever angeführte, die alle Risiken verstehen wollte, die mit der Entwicklung immer intelligenterer Algorithmen verbunden sind, selbst auf Kosten einer Verlangsamung dieser Kommerzialisierung und die einer ganz anderen Meinung unter der Führung von Sam Altman, der vor allem Investoren auf seiner Seite haben würde. So sehr, dass es dem Vorstand im vergangenen November zunächst gelang, den CEO zu verdrängen, nun das Gegenteil geschieht und die Säuberung von Cesaricides in OpenAI begonnen zu haben scheint.

„OpenAI hat eine Verantwortung gegenüber der Menschheit. „Aber in den letzten Jahren sind die Kultur und die Prozesse in Bezug auf Sicherheit gegenüber glänzenden Produkten in den Hintergrund gerückt“, warf der ehemalige Leiter des Teams, das für ethische und moralische Fragen des Softwarehauses zuständig ist, vor. Es ist nicht möglich, die Richtigkeit von Leikes Worten zu bestätigen, aber die Tatsache an sich erlaubt es uns zumindest zu bestätigen, dass es niemals eine gute Idee ist, die Qualifikation des Controllers mit der Rolle der kontrollierten Person zu verwechseln. Das passiert bei analogen Unternehmen, aber offensichtlich auch bei den High-Tech-Unternehmen.

Die von Musk gegen Openai erhobenen Vorwürfe verstärkten sich

Nun fragen sich viele im Internet, ob die Gründung eines skrupellosen Konzerns unter der Führung eines Mannes droht, den immer mehr Beobachter als stereotypen Bösewicht aus einem 007-Film darstellen. Allerdings könnte es sich auch um einen einfachen Werbegag handeln das alte Sprichwort „solange wir darüber reden“.

Elon Musk selbst, einer der ersten Finanziers von OpenAI und heute ein erbitterter Gegner des Konzerns, hatte die Angst vor potenziellen Gefahren für Werbezwecke ausgenutzt, indem er sein Startup auf generative künstliche Intelligenz gründete. Allerdings hat Musk in der jüngeren Vergangenheit mehrfach betont, dass das von ihm finanzierte Unternehmen zunächst gemeinnützig war, heute jedoch einen gewinnorientierten Zweck verfolge.

UND WAS SAGT MICROSOFT?

Bei alledem wäre es jedoch interessant, die Position von Microsoft, dem Hauptsponsor von ChatGpt und seinen Partnern, zu verstehen, der seit Monaten wiederholt, dass KI der Menschheit nur dann Vorteile bringen wird, wenn sie den Appetit privater und öffentlicher Investoren anregt mit erstaunlichen Versprechungen wirtschaftlicher Auswirkungen auf das BIP ( laut einer von Ambrosetti in Auftrag gegebenen Studie könnte die Produktivität des italienischen Systems dank der Einführung generativer künstlicher Intelligenz um bis zu 18 % steigen ). Wie geht der Redmonder Riese, der zuletzt aufgrund zahlreicher Entlassungen im Gaming-Bereich im Zentrum der Kontroversen stand , mit dem Thema um?

Dies ist eine Übersetzung eines Artikels, der am Mon, 20 May 2024 09:48:17 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/perche-altman-rottama-il-comitato-di-sicurezza-di-open-ai-sullia/ veröffentlicht wurde.