Chatkontrolle und Datenschutz: Diese Rechte sind gefährdet

Datenschützer sind fassungslos: Die EU-Kommission will private Chats auf kindesmissbräuchliche Inhalte überprüfen lassen. Mithilfe einer umfassenden Scan-Software und künstlicher Intelligenz sollen Messenger-Dienste wie WhatsApp & Co. verdächtige Nachrichten, Videos und Bilder den Polizeibehörden zuspielen. Doch welche Folgen hätte eine sogenannte Chatkontrolle für die Privatsphäre der EU-Bürger? Und was sagt der Datenschutz dazu?

In diesem Artikel erfahren Sie, worum es in dem Gesetzentwurf der EU-Kommission geht und welche Gefahren eine solche Chatkontrolle mit sich bringen würde.

Kindesmissbrauch: Deshalb spricht sich die EU für eine Chatkontrolle aus

Der europäische Datenschutzausschuss hat gemeinsam mit EU-Datenschutzbeauftragten vergangene Woche eine ausführliche Stellungnahme zum Gesetzentwurf der EU-Kommission vom 11. Mai 2022 veröffentlicht. Der Tenor: Die von der EU-Innenkommissarin Ylva Johansson vorgeschlagene "Chatkontrolle" sei weder notwendig noch verhältnismäßig. Mehr noch: Die massenhafte Überprüfung privater Chatverläufe verletze alle EU-Bürger in ihren Grundrechten.

Dabei ist der Zweck, dem die - zugespitzt formulierte - Chatkontrolle dienen soll, ein guter: In der EU ist man sich einig, dass es präventiver Maßnahmen gegen Kindesmissbrauch und sexualisierter Gewalt gegen Kinder bedarf. So sollen verdächtige Verhaltensweisen frühzeitig erkannt und das Begehen von Straftaten effektiv unterbunden werden. Ziel ist es, besser gegen Kinderpornografie im Netz vorzugehen und straffällige oder gefährliche Personen ausfindig zu machen.

In einem Blogbeitrag verteidigt sich Ylva Johansson deshalb gegen die zahlreichen Einwände, die sie seit der Veröffentlichung der Pressemitteilung zum Gesetzentwurf erhält:

"(...) Kindesmissbrauch ist eine schreckliche Tat. Sie kann das Leben der Menschen und ihr Selbstwertgefühl zerstören. Wenn Bilder jahrelang online kursieren, können die psychologischen Auswirkungen auf die Person katastrophal sein. Dieses Recht, Bilder nicht in Umlauf zu bringen, dieses Recht auf Privatsphäre fehlt in der Stellungnahme vollständig. Unser Gesetzesvorschlag schafft das richtige Gleichgewicht zwischen den verschiedenen betroffenen Grundrechten, insbesondere angesichts der Schwere des sexuellen Missbrauchs von Kindern (...)"

Plattformanbieter sollen verdächtige Inhalte an die Polizei weiterleiten 

Nicht überall trifft dieser Vorschlag auf Zustimmung. Uneinigkeit herrscht insbesondere im Hinblick auf die Vorgehensweise. So sieht der Gesetzentwurf der EU-Kommission vor, dass die Anbieter von Kommunikationsplattformen bei der Bekämpfung von Kindesmissbrauch eigenständig aktiv werden und sämtliche Verläufe und E-Mails auf verdächtige Inhalte überprüfen. Potenzielle Verdachtsfälle sollen sodann an die jeweiligen Strafverfolgungsbehörden und andere zuständige Stellen weitergeleitet werden.

Die Realisierung dieses Entwurfs dürfte sich als schwierig erweisen, zumal die Plattformanbieter in der Regel weder juristisch geschult noch für das Thema sensibilisiert sind. Zudem ist davon auszugehen, dass hier größtenteils automatisierte Scan-Tools zum Einsatz kommen. Inwiefern diese in der Lage sind, Gefahrensituationen zu erkennen, Fälle sexualisierter Gewalt richtig zu interpretieren und somit qualitativ hochwertige Vorarbeit für die Ermittlungen bei sexuellem Kindesmissbrauch zu leisten, bleibt ungeklärt.

Wenn eine Scan-Software zum Einsatz kommt, findet in aller Regel keine Selektion statt. Das massenhafte Scannen führt also dazu, dass alles gescannt wird - auch Inhalte, die nicht verdächtig oder zumindest nicht strafbar sind. Der Weg für eine uferlose Massenüberwachung und damit verbundene falsche Verdächtigungen wegen sexuellen Kindesmissbrauchs wäre demnach geebnet.

Konkret: Sollte ein solches neues Gesetz in die Wege geleitet und realisiert werden, kann kein EU-Bürger mehr sicher private Gespräche über Messenger-Dienste wie WhatsApp führen. Es gäbe dort schlichtweg keine private Kommunikation mehr.

Über diese schweren Einwände sieht die EU-Kommission zum Schutz von Kindern vor Missbrauch allerdings hinweg. Ylva Johansson weist in ihrem Blogbeitrag darauf hin, dass durch die Nachrichten- und Chatkontrolle keine flächendeckende Überwachung stattfinden soll, ohne dabei allerdings näher auf die dafür notwendige Technologie einzugehen:

"(...) Die Verhältnismäßigkeit wird durch den Prozess unter Einbeziehung aller relevanten Interessengruppen vor jeder Anordnung, durch die strengen Auflagen und Garantien sowie durch die Einbeziehung einer zweiten unabhängigen Behörde gewährleistet. Dies erlaubt kein allgemeines und unterschiedsloses Scannen von Inhalten praktisch aller Arten elektronischer Kommunikation. Automatisierte Tools suchen nach spezifischen Indikatoren für möglichen sexuellen Missbrauch von Kindern, d. h. sie sollen prüfen, ob es sich bei bestimmten Inhalten wahrscheinlich um sexuellen Missbrauch von Kindern handelt, aber nicht, worum es bei diesen Inhalten geht (...)"

Bundesdatenschutzbeauftragter Ulrich Kelber hält die geplante Chatkontrolle für eine "anlasslose Massenüberwachung". Eine Massenüberwachung wie in autoritären Staaten - damit trifft Kelber einen wunden Punkt. Die Datensicherheit und der Datenschutz - auch bei einer privaten Kommunikation - gehören zu den wichtigsten Standards, die die EU angesichts der wachsenden Digitalisierung durch gezielte Maßnahmen (wie der DSGVO) vorantreibt. Allgemeine Chatkontrollen passen dabei nicht in den Wertekanon, auf den sich die Mitgliedsstaaten geeinigt haben.

Welche Rechte sind bei einer Chatkontrolle betroffen?

Wenn bei einem privaten Chat eine automatisierte Analyse stattfindet, hebt dies in der Regel die verschlüsselte Kommunikation auf. Dies führt dazu, dass die gesamte Kommunikation potenziell durch Dritte eingesehen werden kann. Die Überprüfung einer privaten Kommunikation berührt dabei eine Vielzahl von Rechten, deren Schutz aber gerade die Aufgabe eines jeden EU-Staates ist. Zum einen fallen private Gespräche - auch über Messenger-Dienste und soziale Netzwerke - unter das Recht auf Privatsphäre der betroffenen Bürger (allgemeines Persönlichkeitsrecht, Art. 2 Abs. 1 GG i.V.m. Art. 1 Abs. 1 GG).

Zum anderen bringt eine Nachrichten- und Chatkontrolle auch aus politischer Sicht gravierende Folgen mit sich. Kritiker prangern an, was mit der Meinungsfreiheit geschieht, wenn innerhalb der EU nicht mehr sicher über Online-Plattformen kommuniziert werden kann. Eine verschlüsselte Kommunikation wäre dann nicht mehr möglich.

Das Fernmeldegeheimnis (Art. 10 GG), aber auch die Pressearbeit, die zunehmend in der Onlinewelt stattfindet und die damit verbundene Pressefreiheit (Art. 5 Abs. 1 Satz 2 GG) - sämtliche Grundpfeiler der Europäischen Union wären gefährdet. Stefan Brink, Datenschutzbeauftragter des Landes Baden-Württemberg, beschreibt den Gesetzentwurf deshalb mit klaren Worten als "freiheitsfeindlich".

Chatkontrolle vs. Datenschutz: Wie wird sich die EU entscheiden?

Bis zur Finalisierung dieses Entwurfs ist es noch ein langer Weg. Zunächst sind die EU-Mitgliedsstaaten an der Reihe. Diese sind dazu berechtigt, Stellungnahmen zu veröffentlichen, Änderungen vorzuschlagen und Fragen zu stellen.

Die Bundesregierung hat mit einem Katalog von insgesamt 61 sehr detaillierten Fragen den Anfang gemacht. Unter anderem wird nach einer genaueren Charakterisierung der erforderlichen Technologie gefragt, aber auch die Offline-Prävention von Kindesmissbrauch ist ein Thema. In Berlin ist man sich ohnehin einig: Der Gesetzentwurf lässt viele Fragen offen, die für eine Entscheidung von großer Bedeutung sind.

Auch das EU-Parlament muss mit den Vorschlägen einverstanden sein. Es bleibt also abzuwarten, ob sich die EU zum Wohl der Kinder für eine Nachrichten- und Chatkontrolle entscheidet oder ob sie den datenschutzrechtlichen Bedenken und den Grundrechtseingriffen mehr Relevanz beimisst. 

Sie haben Fragen zum Thema Chatkontrolle oder benötigen datenschutzrechtliche Unterstützung in Ihrem Unternehmen? Gerne beraten unsere Datenschutzexperten Sie individuell und unverbindlich in einem Erstgespräch. Teilen Sie uns Ihr Anliegen mit und wir melden uns umgehend bei Ihnen zurück.