Gehypte ChatGPT-Konkurrenz aus China: DeepSeek
Die Künstliche Intelligenz (KI) "DeepSeek" erregt momentan großes Aufsehen. DeepSeek ist wie ChatGPT des Unternehmens OpenAI ein sogenanntes Large Language Model (LLM). Die Anwendungen sind in ihrer Leistung vergleichbar – der große Unterschied liegt jedoch in den Kosten.
Nach Angaben des chinesischen Startups DeepSeek, das hinter der gleichnamigen Anwendung steht, lagen die Entwicklungskosten bei lediglich 6 Millionen US-Dollar – ein Bruchteil der Milliardenbeträge für ChatGPT.
Die niedrigen Kosten von DeepSeek lassen sich auf Unterschiede in der Programmierung zurückführen. DeepSeek funktioniert nämlich ohne teure, manuell gelabelte Datensätze oder massive Rechenressourcen. Im Wesentlichen gibt es drei Unterschiede:
- Das Modell kann die eigene Leistung selbst bewerten.
- Es optimiert sich eigenständig durch wiederholtes Training.
- Große Modelle werden zudem in kompaktere Versionen umgewandelt, um sie effizienter und vielseitiger nutzbar zu machen.
Sounds good! Was ist also das Problem?
Eine Untersuchung der University of Pennsylvania in Zusammenarbeit mit dem Unternehmen "Robust Intelligence" hat schwerwiegende Sicherheitsmängel aufgedeckt. Die Anwendung konnte vom Forschungsteam mit einer Erfolgsquote von 100 % geknackt werden. Das bedeutet, dass die Schutzmechanismen vollständig umgangen werden konnten.
Forschende setzten hierfür einen sogenannten automatischen Jailbreak-Algorithmus auf 50 zufällig ausgewählte Eingabeaufforderungen aus dem "HarmBench"-Benchmark ein.
Was bedeutet das nun?
Ein "Jailbreak" bedeutet, dass die KI so manipuliert werden kann, dass sie sich anders verhält als vorgesehen – etwa um illegale oder schadhafte Aktionen auszuführen. Die Manipulation gestaltete sich zu einfach für solch ein System – entsprechend groß sind die damit verbundenen Missbrauchssorgen.
Datenschutzbedenken: Hat China Zugriff auf DeepSeek-Daten?
DeepSeek ist nach chinesischem Recht dazu verpflichtet, alle Daten in der Volksrepublik zu speichern. Das chinesische Geheimdienstgesetz verpflichtet zudem die Bevölkerung und Organisationen dazu, mit den Sicherheitsbehörden zu kooperieren. Von etlichen China-Beobachterinnen und -Beobachtern wird genau dieser Paragraf als Zugriffsrecht des Spionageapparats auf sämtliche in der Volksrepublik gespeichert Daten interpretiert.
In Deutschland reagiert nun die Datenschutzaufsicht. Der Datenschutzbeauftragte in Rheinland-Pfalz bereitet ein Prüfverfahren gegen DeepSeek vor. Auch andere deutsche Aufsichtsbehörden planen offenbar parallel vorzugehen.
Ein weiteres Problem: Laut EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen. Eine Vorgabe, die DeepSeek bislang nicht erfüllt hat. Eine Anfrage der Deutschen Presse-Agentur (dpa) zu diesen Bedenken ließ DeepSeek bislang unbeantwortet.
Sollte ich DeepSeek nun lieber nicht verwenden?
Handelsunternehmen, die DeepSeek in ihre Systeme integrieren oder deren Mitarbeitende mithilfe von DeepSeek Aufgaben bewältigen, sollten sich zunächst der obengenannten Risiken bewusst sein. Ein Datenklau oder ein möglicher Cyberangriff könnten zu einem Verlust sensibler Daten führen, was wiederum das Vertrauen von Kundinnen und Kunden sowie Partnerinnen und Partnern nachhaltig zerstören kann. Zusätzlich kann es rechtliche Konsequenzen durch Datenschutz- oder Urheberrechtsverstöße geben.
Zudem ist jedes LLM fehleranfällig. Fehlinformationen werden nicht immer von Mitarbeitenden direkt als solche erkannt, so können Entscheidungen auf Grundlage falscher Informationen getroffen werden. Bislang ist jedoch die Frage, wer in einem Schadensfall haftet, nicht wirklich geklärt.
In jedem Falle sollten Unternehmen ihre Mitarbeitenden zu den Risiken aufklären – durch den europäischen AI Act ist eine KI-Schulung seit Februar 2025 sogar Pflicht. Wer ganz sicher gehen möchte, sollte auf die Verwendung verzichten, bis gesicherte Informationen entweder auf nationaler oder EU-Ebene vorliegen.
Ob sich DeepSeek gegen ChatGPT durchsetzt oder nicht – der Entwicklungsmarathon zwischen den weltweiten KI-Unternehmen bleibt spannend. Auf HANDEL.INSIGHT berichten wir regelmäßig über neueste Digitalisierungstrends für den Handel. Lest auch unseren Artikel zu den Auswirkungen von KI auf die Cybersicherheit oder erfahrt, welche Urheberrechtsfragen bei KI-Anwendungen beachtet werden sollten.