Die niedrigen Kosten von DeepSeek lassen sich auf Unterschiede in der Programmierung zurückführen. DeepSeek funktioniert nämlich ohne teure, manuell gelabelte Datensätze oder massive Rechenressourcen. Im Wesentlichen gibt es drei Unterschiede:
Eine Untersuchung der University of Pennsylvania in Zusammenarbeit mit dem Unternehmen "Robust Intelligence" hat schwerwiegende Sicherheitsmängel aufgedeckt. Die Anwendung konnte vom Forschungsteam mit einer Erfolgsquote von 100 % geknackt werden. Das bedeutet, dass die Schutzmechanismen vollständig umgangen werden konnten.
Forschende setzten hierfür einen sogenannten automatischen Jailbreak-Algorithmus auf 50 zufällig ausgewählte Eingabeaufforderungen aus dem "HarmBench"-Benchmark ein.
Ein "Jailbreak" bedeutet, dass die KI so manipuliert werden kann, dass sie sich anders verhält als vorgesehen – etwa um illegale oder schadhafte Aktionen auszuführen. Die Manipulation gestaltete sich zu einfach für solch ein System – entsprechend groß sind die damit verbundenen Missbrauchssorgen.
DeepSeek ist nach chinesischem Recht dazu verpflichtet, alle Daten in der Volksrepublik zu speichern. Das chinesische Geheimdienstgesetz verpflichtet zudem die Bevölkerung und Organisationen dazu, mit den Sicherheitsbehörden zu kooperieren. Von etlichen China-Beobachterinnen und -Beobachtern wird genau dieser Paragraf als Zugriffsrecht des Spionageapparats auf sämtliche in der Volksrepublik gespeichert Daten interpretiert.
In Deutschland reagiert nun die Datenschutzaufsicht. Der Datenschutzbeauftragte in Rheinland-Pfalz bereitet ein Prüfverfahren gegen DeepSeek vor. Auch andere deutsche Aufsichtsbehörden planen offenbar parallel vorzugehen.
Ein weiteres Problem: Laut EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen. Eine Vorgabe, die DeepSeek bislang nicht erfüllt hat. Eine Anfrage der Deutschen Presse-Agentur (dpa) zu diesen Bedenken ließ DeepSeek bislang unbeantwortet.
Handelsunternehmen, die DeepSeek in ihre Systeme integrieren oder deren Mitarbeitende mithilfe von DeepSeek Aufgaben bewältigen, sollten sich zunächst der obengenannten Risiken bewusst sein. Ein Datenklau oder ein möglicher Cyberangriff könnten zu einem Verlust sensibler Daten führen, was wiederum das Vertrauen von Kundinnen und Kunden sowie Partnerinnen und Partnern nachhaltig zerstören kann. Zusätzlich kann es rechtliche Konsequenzen durch Datenschutz- oder Urheberrechtsverstöße geben.
Zudem ist jedes LLM fehleranfällig. Fehlinformationen werden nicht immer von Mitarbeitenden direkt als solche erkannt, so können Entscheidungen auf Grundlage falscher Informationen getroffen werden. Bislang ist jedoch die Frage, wer in einem Schadensfall haftet, nicht wirklich geklärt.
In jedem Falle sollten Unternehmen ihre Mitarbeitenden zu den Risiken aufklären – durch den europäischen AI Act ist eine KI-Schulung seit Februar 2025 sogar Pflicht. Wer ganz sicher gehen möchte, sollte auf die Verwendung verzichten, bis gesicherte Informationen entweder auf nationaler oder EU-Ebene vorliegen.
Ob sich DeepSeek gegen ChatGPT durchsetzt oder nicht – der Entwicklungsmarathon zwischen den weltweiten KI-Unternehmen bleibt spannend. Auf HANDEL.INSIGHT berichten wir regelmäßig über neueste Digitalisierungstrends für den Handel. Lest auch unseren Artikel zu den Auswirkungen von KI auf die Cybersicherheit oder erfahrt, welche Urheberrechtsfragen bei KI-Anwendungen beachtet werden sollten.