DeepSeek & Datenschutz: Verstöße, Risiken und Konsequenzen

KI-basierte Sprachmodelle wie ChatGPT finden zunehmend Anwendung in deutschen Unternehmen. Zwar kann Künstliche Intelligenz ihren menschlichen Kollegen viel Arbeit abnehmen. Doch mit der Nutzung solcher Sprachmodelle gehen auch erhebliche datenschutzrechtliche Herausforderungen einher.  

Insbesondere DeepSeek bereitet Datenschutzbehörden in Europa Bauchschmerzen: Der leistungsstarke KI-gestützte Chatbot aus China, der quasi über Nacht zu einem ernstzunehmenden Konkurrenten für ChatGPT wurde, ist aktuell Gegenstand verschiedener Prüfverfahren.

Was ist DeepSeek – und warum steht die KI im Fokus?

DeepSeek ist ein generatives KI-Modell aus China. Es funktioniert ähnlich wie ChatGPT, soll aber wesentlich effizienter arbeiten. In die Entwicklung des im Januar 2025 vorgestellten Modells DeepSeek-R1 sei laut dem Anbieter zudem nur ein Bruchteil der Kosten geflossen, die OpenAI in die ChatGPT-Entwicklung investiert hat.  

Die chinesische Software ist ein Large Language Model (LLM), das komplexe Anfragen verarbeitet, kreative Texte schreibt, Code-Beispiele liefert oder sogar rechtliche Einschätzungen abgeben kann. Das Problem: DeepSeek unterliegt als chinesischer Anbieter nicht denselben strengen datenschutzrechtlichen Regelungen wie europäische Dienste.  

Das erschwert den Nutzern und insbesondere Unternehmen in Europa nicht nur die Einhaltung der Datenschutzgrundverordnung (DSGVO), sondern birgt auch erhebliche Risiken für personenbezogene und geschäftskritische Daten.

Unternehmen können heute aus einer Reihe von LLM-Anbietern wählen. Wir empfehlen, sich die Zeit zu nehmen, jeden Anbieter genau unter die Lupe zu nehmen, um Chancen und Risiken sorgfältig abzuwägen.
Hischam El-Danasouri, Data Privacy Manager

Exkurs: Was unterscheidet DeepSeek, ChatGPT und Co.?

Seit ChatGPT 2022 im November die internationale KI-Bühne betreten hat, ist die Entwicklung in diesem Bereich rasant fortgeschritten. Zu den bekanntesten LLMs gehören neben ChatGPT auch Gemini und Copilot. Allerdings zeigen sich sowohl bei der Funktionalität als auch in Sachen Datenschutz und Herkunft deutliche Unterschiede zu DeepSeek. Wir stellen Ihnen drei Modelle und den Umgang ihrer Entwickler mit dem Thema Datenschutz vor.  

• ChatGPT von OpenAI gehört zu den bekanntesten KI-Modellen. Unternehmen können den Chatbot per Browser bedienen oder über Microsoft Azure in ihre internen Anwendungen und Systeme zu integrieren. Ein datenschutzsensibler Einsatz der Microsoft-KI ist möglich, erfordert allerdings unter anderem eine saubere Klassifizierung der Daten, eine Datenschutzfolgenabschätzung und das sorgfältige Management von Berechtigungen. Mehr über den Einsatz des KI-Modells aus den USA erfahren Sie in unserem kostenlosen ChatGPT-Leitfaden.

• Claude von Anthropic gilt als ein Vertreter der sogenannten Trustworthy AI. Das Modell nutzt Constitutional AI, das bedeutet, Claude AI integriert ethische Werte, um moralische Prinzipien und den Datenschutz zu fördern.

• Gemini von Google ist eng mit der Google-Cloud-Infrastruktur verknüpft. Die Integration mit bestehenden Google-Diensten macht Gemini besonders attraktiv für Unternehmen, die Google Workspace nutzen. Allerdings sind auch bei diesem KI-Modell Technische und organisatorische Maßnahmen (TOM) erforderlich, um Unternehmensdaten zu schützen.

Anders als bei den KI-Modellen aus den USA ist bei DeepSeek unklar, welche Maßnahmen Unternehmen ergreifen können, um ihre Daten vor Missbrauch zu schützen. Denn dafür müsste der chinesische Anbieter konkrete Angaben dazu machen, wie Daten verarbeitet, wo sie gespeichert oder wie sie geschützt werden. Da dies nicht der Fall ist, birgt die Nutzung von DeepSeek erhebliche DSGVO-Risiken für EU-Unternehmen.

DeepSeek und der Datenschutz: Das sind die zentralen Probleme

Die neue KI aus China steht aus verschiedenen Gründen in der Kritik. Neben Datenlecks und Zensurvorwürfen wirft vor allem die Datenverarbeitung Fragen auf: Bei der Software handelt es sich um eine Anwendung eines Anbieters außerhalb der EU, der in einem Drittland ohne Angemessenheitsbeschluss sitzt.

Konkret heißt dies, dass die EU in China derzeit kein dem europäischen Datenschutz vergleichbares angemessenes Datenschutzniveau feststellen kann. Nutzer einer Anwendung aus einem Land ohne Angemessenheitsbeschluss müssen zusätzliche Maßnahmen wie Standardvertragsklauseln (SCC) oder verbindliche Unternehmensregelungen ergreifen, um sicherzustellen, dass personenbezogener Daten sicher und DSGVO-konform übertragen werden. Allerdings ist aktuell (Stand April 2025) noch unklar, welche Instrumente infrage kommen.

Ein weiteres zentrales Problem ist, dass DeepSeek derzeit keinen Auftragsverarbeitungsvertrag (AVV) zur Verfügung stellt und damit die Einhaltung von Art. 28 DSGVO und Art. 32 DSGVO nicht gewährleistet ist. Es ist zudem fraglich, ob der Anbieter einen ihm vorgelegten AVV unterzeichnen würde.

DeepSeek hat China wieder an die Spitze des KI-Rennens gebracht. Spitzenmodelle der chinesischen KI-Industrie können europäische Unternehmen derzeit jedoch nicht ohne erhebliche Compliance-Risiken nutzen.
Hischam El-Danasouri, Data Privacy Manager

Europäische Datenschutzbehörden bemängeln bei DeepSeek außerdem folgende Punkte:  

• Intransparenz über die Art und Weise der Datenverarbeitung

• Training der KI mit Prompts von Nutzern, die Unternehmensdaten enthalten können  

• fehlende Hinweise auf TOMs

• unklare Datenflüsse zwischen Client und Server

• fehlende Opt-out-Option bei der Speicherung von Daten auf Servern in China

DSGVO-Verstöße durch DeepSeek: Diese Paragrafen sind betroffen

Eine datenschutzkonforme Nutzung von DeepSeek in einem Unternehmen in Europa scheint derzeit kaum möglich. Denn die Anwendung der Software kann gleich gegen mehrere zentrale Artikel der DSGVO verstoßen.

Welche Daten speichert DeepSeek?

Laut bisherigen Analysen von Sicherheitsexperten speichert DeepSeek-R1 unter anderem persönliche Nutzerdaten, die User bei der Anmeldung preisgeben. Außerdem werden sämtliche Tastatureingaben gespeichert, mit denen es möglich wäre, Nutzer wiederzuerkennen (Profiling), sowie hochgeladene Dokumente.

Ein Blick in die Datenschutzerklärung von DeepSeek zeigt, dass neben Nutzerdaten auch IP-Adressen, Zahlungsdaten und Informationen über das Gerät gesammelt werden, von denen aus User auf DeepSeek zugreifen. Die dritte Kategorie von Daten, die DeepSeek aufzeichnet, sind „Daten von anderen Quellen“ wie Websites.  

DeepSeek Leak: Welche Folgen hat ein Datenleck in DeepkSeek?

Bereits kurz nach Veröffentlichung von DeepSeek wurde ein massives Datenleck bekannt: Ein Cloud-Security-Anbieter entdeckte im Internet eine öffentlich zugängliche Datenbank von DeepSeek, die über eine Million Benutzereingaben enthielt.​  

Die Datenbank sei so einfach zu finden gewesen sein, dass vermutlich auch Kriminelle Zugriff auf die Daten hatten. Schwer auffindbar war dagegen eine Stelle bei DeepSeek, der das Leck hätte gemeldet werden können.

Da DeepSeek Daten weitreichend speichert, ist der Datenschutz gefährdet. Gelangen Unternehmensdaten durch ein DeepSeek-Leak an die Öffentlichkeit, können für betroffene Organisationen hohe Kosten für die Beseitigung des Datenlecks oder für Schadensersatzforderungen betroffener Kunden und Partner entstehen.

Prüfverfahren gegen DeepSeek: So reagieren Datenschutzbehörden

Infolge des Datenlecks haben im Februar 2025 mehrere europäische Datenschutzbehörden Prüfverfahren gegen DeepSeek eingeleitet. Italien hat bereits mit einem Verbot der chinesischen KI reagiert.

Der Vorwurf der Aufsichtsbehörden: DeepSeek verstößt gegen die Grundsätze der DSGVO und trifft unzureichende Sicherheitsvorkehrungen (Art. 5, 32 DSGVO). Auch die Anwender haben datenschutzrechtliche Bedenken beim Einsatz von DeepSeek: Viele Unternehmen sind unsicher, ob sie DeepSeek nutzen können.

Was sind mögliche Risiken für Unternehmen?

DeepSeek gibt an, dass sämtliche Daten ohne Einschränkungen aufgezeichnet, übertragen, gespeichert oder analysiert und für verschiedene Zwecke verarbeitet werden. Angaben des Anbieters zufolge kann dieser nach chinesischen Recht dazu verpflichtet sein, Daten an den chinesischen Geheimdienst und die Sicherheitsbehörden zu übermitteln. Darüber hinaus ist unklar, ob und wie der Anbieter die Daten- und IT-Sicherheit der Nutzer sicherstellt.  

Daraus ergeben sich verschiedene Risiken für Unternehmen

• Verlust der Datenhoheit, insbesondere bei geschäftskritischen Informationen

• Keine Möglichkeit auf das Durchsetzen von Betroffenenrechten der DSGVO

• Image- und Vertrauensschaden, falls Datenschutzvorfälle publik werden

• Bußgelder durch Datenschutzaufsichtsbehörden

• Missbrauch sensibler Daten durch Cyberkriminelle  

Darüber hinaus fehlt ohne AVV eine Rechtsgrundlage für die Verarbeitung personenbezogener Daten durch den Dienstleister. Das kann dazu führen, dass Unternehmen gegenüber Aufsichtsbehörden oder Betroffenen für rechtsgrundlose Datenverarbeitung haften müssen.

Wie können Sie Ihr Unternehmen schützen?

Laut dem Landesbeauftragten für den Datenschutz Niedersachsen ist der DSGVO-konforme Einsatz von DeepSeek aktuell nicht möglich. Unternehmen, die trotzdem mit dem KI-Modell aus China arbeiten möchten, können lediglich versuchen, das Datenschutzrisiko einzudämmen:

• DeepSeek sollte nicht in produktiven Systemen mit Internetzugang installiert und genutzt werden.

• Geben Sie keine sensiblen oder personenbezogenen Daten ein.

• Schulen Sie Mitarbeitende hinsichtlich der Risiken KI-basierter Systeme aus unsicheren Drittstaaten.

• Nutzen Sie bevorzugt KI-Tools mit klaren DSGVO-Garantien und EU-Rechtskonformität.

• Achten Sie auf Anbietertransparenz, Sicherheitskonzepte und dass der Anbieter der KI einen EU-Vertreter nach Art. 27 DSGVO benannt hat.

Datenschutz mit DeepSeek: Eine Herausforderung für Unternehmen

Das Beispiel DeepSeek zeigt, wie wichtig eine datenschutzkonforme Auswahl und Prüfung von KI-Anwendungen für Unternehmen ist. Da KI-Tools Daten benötigen, um trainieren und bessere Ergebnisse liefern zu können, müssen Unternehmen sicherstellen, dass die verarbeiteten Informationen bestmöglich vor Cyberkriminellen und ausländischen Behörden geschützt sind.  

Bei Tools aus den USA gewährleisten sorgfältige Sicherheitsmaßnahmen einen gewissen Grad an Datenschutzkonformität, da für die USA ein Angemessenheitsbeschluss besteht, der auf einem mit der EU vereinbarten Datenschutzrahmen beruht. Dagegen ist bei DeepSeek noch nicht absehbar, ob und wie eine Nutzung im Einklang mit der DSGVO möglich ist.  

Gerade KMU sollten vor der Nutzung von KI-Software genau prüfen, wie sie die Daten ihrer Kunden, Partner und Mitarbeiter schützen können und bei Unsicherheit auf DSGVO-konforme Alternativen zurückgreifen. Unsere Datenschutzexperten unterstützen Sie bei der Auswahl der passenden Tools und bei der Schulung Ihres Teams.