Alle Mängel von DeepSeek

Alle Mängel von DeepSeek

Der chinesische Algorithmus, der Wunder versprach, wurde vom italienischen Datenschutzbeauftragten blockiert, der klar sehen wollte, wie Benutzerdaten verarbeitet werden. Er erlitt Hackerangriffe, die ihn besonders langsam machten, wurde aber vor allem von unabhängigen Tests abgelehnt, was eine besorgniserregende Tendenz aufzeigte gegenüber Lügen durch die Verbreitung von Parteipropaganda. Ist DeepSeek fünf Tage nach seinem Debüt immer noch so gruselig?

Verlogen, unzuverlässig, vom italienischen Datenschutzgaranten blockiert, während der französische bereits auf den Fersen war, und zudem durch einen Hackerangriff außer Gefecht gesetzt wurde, der, obwohl banaler Natur, die den Benutzern bereitgestellten Antworten verlangsamte. Die lange Woche von DeepSeek , einem futuristischen aufstrebenden Star der künstlichen Intelligenz, der in der Lage ist, sowohl den High-Tech-Sektor als auch den Energiesektor auf einen Schlag aufzurütteln (da es sich um ein kostengünstiges Produkt handelt, wäre der Betrieb von Kernkraftwerken nicht erforderlich). endet auf die schlimmste Art und Weise, mit mehr Zweifeln als Gewissheiten und sogar einigen auffälligen Vorsichtspositionen.

DIE DATENSCHUTZGARANTIE BLOCKIERT DEEPSEEK

Rom dürfte die Reaktion der chinesischen Unternehmen Hangzhou DeepSeek Artificial Intelligence und Beijing DeepSeek Artificial Intelligence, die den DeepSeek-Chatbot-Dienst anbieten, dem Datenschutzgaranten nicht gefallen haben, als er sie um Klarstellung zur Verarbeitung italienischer Benutzerdaten bat. die nicht auf dem italienischen Markt tätig sind und dass europäisches Recht nicht anwendbar ist und ausschließlich dem chinesischen Recht unterliegt.

Und so ordnete die Behörde am Abend des 30. Januar dringend und mit sofortiger Wirkung die Einschränkung der Verarbeitung der Daten italienischer Nutzer an. Die beiden Apps waren seit Mittwoch, 29. Januar, aus Google Play und Apples App Store verschwunden. All dies geht jedoch viel weiter zurück, zwischen April und März 2023, als der Datenschutzgarant ChatGpt blockierte (eine Situation, die erst gelöst wurde, als OpenAi zustimmte, die von Italien geforderten Änderungen vorzunehmen): Auch dieses Mal gibt es ein Gefühl dass sich ähnliche Einrichtungen im übrigen Europa darauf vorbereiten, dasselbe zu tun.

DER HACKER-ANGRIFF

Sollte die App in Italien nicht mehr erreichbar sein, funktioniert die Anwendungswebsite weiterhin, allerdings haben Nutzer spürbare Verlangsamungen festgestellt. Der Garant hat damit nichts zu tun: Das chinesische Startup erlitt tatsächlich einen massiven DDoS-Angriff (das heißt, es wurde von einer Flut gefälschter Zugriffe überwältigt, die seine Funktionen lahmlegten), von dem die Servicemanager versichern, dass er gelöst wurde, obwohl weiterhin Probleme auf dem Server bestehen Antwort. DeepSeek sagte, es habe CloudFlare beauftragt, sich in Zukunft vor ähnlichen Angriffen zu schützen.

Das asiatische Unternehmen gab bekannt, dass es außerdem eine Schwachstelle geschlossen habe, die sensible Informationen, darunter Chatverläufe und API-Schlüssel, für Angreifer zugänglich machen könnte. Das Problem war unseren Erkenntnissen zufolge sehr trivial: Der Server war nicht ausreichend geschützt. Die Mitteilung an die Benutzer war zwar lobenswert, aber nicht das Ergebnis übermäßiger Transparenz: Der Fehler war von Forschern von Wiz Inc. entdeckt worden , einem amerikanischen Unternehmen, das auf die Sicherheit von Cloud-Plattformen spezialisiert ist.

SENDET DEEPSEEK FERNSEHEN DER KOMMUNISTISCHEN PARTEI?

Doch das derzeit gravierendste Problem der künstlichen Intelligenz made in China scheint ein anderes zu sein: Ihre chronische Lügenneigung, bescheinigt NewsGuard , wonach der Chatbot in 83 % der analysierten Fälle falsche Antworten liefert und sich damit auf dem letzten Platz der Liste befindet Hauptkonkurrenten in der Branche.

Tatsächlich stellt sich heraus, dass DeepSeek in 30 % der Fälle aktiv falsche Informationen verbreitete, während DeepSeek in 53 % der Fälle aktiv falsche Informationen verbreitete, indem man die chinesische KI denselben strengen Parametern unterwarf, die bereits zur Bewertung anderer wichtiger Konkurrenten wie ChatGPT-4, Gemini 2.0 und Claude verwendet wurden. es war nicht in der Lage, angemessene Antworten zu geben. Der Branchendurchschnitt liegt derzeit bei rund 62 %.

Sie schreiben von NewsGuard: „NewsGuards Prüfung der Top-10-Chatbots im Dezember 2024 (ChatGPT-4o von OpenAI, Smart Assistant von You.com, Grok-2 von xAI, Pi von Inflection, Chats von Mistral, Copilot von Microsoft, Meta AI, Claude von Anthropic, Gemini 2.0 von Google). und die Antwort-Engine von Perplexity) hatten eine durchschnittliche Fehlerquote von 62 % ermittelt. Die Fehlerquote von DeepSeek belegt zusammen mit einem anderen Chatbot den zehnten Platz unter den 11 getesteten Modellen.“

Sie irren sich durch Magie oder Notwendigkeit

Der besorgniserregendste Aspekt wäre jedoch die Indoktrination der künstlichen Intelligenz, die, durchdrungen von falschen und voreingenommenen Informationen, ihrerseits missioniert: Der Algorithmus scheint tatsächlich dazu zu neigen, seine eigenen Antworten ausgehend von Seidenpapieren der kommunistischen Partei zu sticken an der Macht in China.

Als die Forscher beispielsweise das System aufforderten, den Absturz des Flugs der Azerbaidschanischen Fluggesellschaft am zweiten Weihnachtsfeiertag zu kommentieren, gingen sie von der Annahme aus, dass das Flugzeug von ukrainischen Drohnen getroffen worden wäre (damals hätte die Untersuchung stattdessen die russische Verantwortung hervorgehoben: eine Rakete). Der von der Moskauer Armee zum Abschuss ukrainischer Drohnen abgefeuerte Angriff hätte das Flugzeug ebenfalls beschädigt), antwortete der Algorithmus, anstatt die Richtigkeit der Informationen zu analysieren, indem er die Position der chinesischen Regierung zur Achtung des Völkerrechts und zur friedlichen Lösung zitierte Kontroversen. Am 28. Januar 2025 schickte NewsGuard zwei E-Mails an DeepSeek mit der Bitte um einen Kommentar zu diesen Ergebnissen, erhielt jedoch keine Antwort.

MEHR ALS EIN TRAUM, EINE Flüchtige ILLUSION?

Kurz gesagt, angesichts der zuverlässigen Quelle ist es schwierig zu glauben, dass es sich dabei um eine Diffamierung durch einen Westen handelt, der sich aus Angst vor der Kühnheit Chinas in seinen Positionen verharrt. Fünf Tage reichten einfach aus, um zu verstehen, dass das Ai der Wunder noch nicht existiert. Und dass Fehler bald passieren: So wie wenn man ein Produkt zu einem übermäßig günstigen Preis in einem Online-Shop kauft – vielleicht in China – und uns zum Zeitpunkt der Lieferung die Qualität der Materialien in die harte Realität zurückbringt.


Dies ist eine Übersetzung eines Artikels, der am Fri, 31 Jan 2025 10:21:00 +0000 im italienischen Blog Start Magazine unter der URL https://www.startmag.it/innovazione/tutte-le-magagne-di-deepseek/ veröffentlicht wurde.