Das US-amerikanische AI Safety Institute, das dem Handelsministerium untersteht, hat fünf neue Mitglieder für sein Führungsteam bekannt gegeben. Unter den fünf neuen Mitgliedern ist einer, der vorhersagte, dass die Wahrscheinlichkeit, dass die Entwicklung künstlicher Intelligenz letztendlich die Menschheit gefährden wird, bei 50 % liegt. Dies ist jedoch nicht seine einzige Präsentation. Es sind einige sehr wichtige Innovationen zu verzeichnen.
Neue Mitglieder des KI-Sicherheitsteams
Ob künstliche Intelligenz zu einer existenziellen Bedrohung für den Menschen werden wird, wird schon seit langem diskutiert. Viele Experten argumentieren jedoch, dass dies übertrieben und überbewertet sei und eine solche Vorhersage den Fortschritt auf diesem Gebiet behindern könnte. Die Aufgabe des neu ernannten Teams besteht darin, die Entwicklung zu fördern, damit künstliche Intelligenz den Menschen einen Nutzen bringt, entgegen dieser Wahrnehmung des Schadens, so das National Institute of Standards and Technology (NIST).
Laurie E. Locascio, Direktorin des NIST und stellvertretende Handelsministerin für Standards und Technologie, sagte:
„Ich freue mich sehr, diese talentierten Experten im Führungsteam des US AI Safety Institute begrüßen zu dürfen, um dabei zu helfen, die Messwissenschaft zu etablieren, die die Entwicklung sicherer und vertrauenswürdiger künstlicher Intelligenz unterstützen wird.“ Sie alle bringen einzigartige Erfahrungen mit, die dem Institut helfen werden, eine solide Grundlage für die KI-Sicherheit der Zukunft zu schaffen.“
Zu den neuen Mitgliedern gehört Adam Russell, Chief Vision Officer, der auch Direktor der KI-Abteilung des Information Sciences Institute der University of California ist. Der leitende Berater wird der aus Stanford stammende Prof. Rob Reich sein, der als stellvertretender Direktor des Institute for Human-Centered AI arbeitet und außerdem Experte für Politikwissenschaft ist.
Mara Quintero Campbell wird zur Chief Operating Officer und Stabschefin ernannt. Derzeit arbeitet er bei der Commerce Economic Development Administration als stellvertretender Betriebsleiter. Mark Latonero wird die internationalen Bemühungen leiten, kommt vom Büro für Wissenschafts- und Technologiepolitik des Weißen Hauses und arbeitet als stellvertretender Direktor des National AI Initiative Office.
Künstliche Intelligenz ist an Bord, aber es gibt noch mehr
Das neue Mitglied namens AI Doomer ist kein geringerer als Paul Christiano. Er wird zum Leiter der KI-Sicherheit des Teams ernannt. Er ist ein ehemaliger OpenAI-Forscher und Gründer des Alignment Research Center. Er ist außerdem der Erfinder einer wichtigen KI-basierten Sicherheitstechnik namens Reinforcement Learning, die menschliches Feedback einbezieht. Sein Label „KI-Ruiner“ erhielt er, nachdem er in einem Podcast nach der Möglichkeit gefragt wurde, dass die Ambitionen der menschlichen KI im Ruin enden könnten, woraufhin er eine gewisse Besorgnis über den Untergang der Menschheit zum Ausdruck brachte, sagte er.
„Ich denke, die Wahrscheinlichkeit, dass die KI die Macht übernimmt und die meisten Menschen sterben, liegt bei 10–20 %, das nehme ich sehr ernst.“
Er sagte auch:
„Insgesamt besteht vielleicht eine um 50/50 höhere Wahrscheinlichkeit, dass Sie unmittelbar nach dem Erwerb von KI-Systemen auf menschlicher Ebene ruiniert werden.“
Quelle: Unbanked Podcast.
Christiano äußerte diese Gedanken im Bankless-Podcast mit den Moderatoren David Hoffman und Ryan Sean Adams, betont jedoch, dass seine Ansichten nicht so extrem sind wie die des berühmten KI-Doomer Eliezer Yudkowsky, was auf ein völlig negatives Szenario schließen lässt.
US-Handelsministerin Gina Raimondo sagte außerdem, dass wir die besten Talente des Landes brauchen, um die weltweite Führungsrolle bei verantwortungsvoller KI zu sichern, die Sicherheit der KI zu gewährleisten und die damit verbundenen Risiken zu mindern Ihre Fachgebiete schließen sich nun dem Führungsteam des AI Safety Institute of the United States an.
Die Pressemitteilung des US-Handelsministeriums finden Sie hier .