Aufsichtsbehörde warnt vor Werbung in ChatGPT – DS News KW 40-2026

Transkript zur Folge:

Herzlich willkommen zum Datenschutz-Talk, eurem wöchentlichen Datenschutz-Update der Migosense.
Mein Name ist David Schmidt und bei mir ist diese Woche Julia Krivet. Grüß dich, Julia.
Grüß dich.
Heute ist Freitag, der 2. Oktober 2026. Unser Redaktionsschluss war heute um 9.30 Uhr.
Und wie jede Woche schauen wir gemeinsam mit euch auf die wichtigsten Datenschutzthemen.
Julia, was hat es bei dir auf den Zettel geschafft diese Woche?
Ich habe heute ein Urteil des Landgerichts Köln über Snapchat's KI-Bot,
eine kurze Info zum Amtsantritt des neuen BFDI und was über einen Cyberangriff
von HelloBetter. Was hast du denn dabei?
Ich berichte über personalisierte Werbung in ChatGBT.
Den Cyberangriff auf die LMU München und von den Big Brother Awards,
die letzte Woche stattgefunden haben.
Spannend.
Du sagst es, dann starten wir auch rein mit dem ersten spannenden Thema.
Wer Nutzer zur freien Texteingabe auffordert, kann sich nach einem Urteil des
Landgerichts Kölns nicht darauf zurückziehen, sensible Angaben seien ihm nur aufgedrängt worden.
Ein bloßer Hinweis, solche Daten nicht einzugeben, reichte dem Gericht bei Snapchats MyAI nicht aus.
Das Landgericht Köln hat am 17. September 2026 über eine Klage des Verbraucherzentrale
Bundesverbands gegen die Snap Group Limited entschieden.
Im Mittelpunkt stand der in Snapchat integrierte KI-Chatbot MyAI.
Nutzer können dem Chatbot frei formulierte Fragen stellen und dabei natürlich
auch persönliche Informationen eingeben.
Genau hier lag auch das datenschutzrechtliche Problem.
Snap argumentierte, dass sensible Daten nicht absichtlich erhoben werden würden.
Und wenn Nutzer trotzdem etwa Gesundheitsdaten oder andere besonders geschützte
Informationen eingeben, seien diese Daten dem Unternehmen gewissermaßen aufgedrängt.
Das Landgericht Köln ließ dieses Argument allerdings nicht gelten.
Für die Anwendung von Artikel 9 DSGVO komme es nicht darauf an,
ob der Verantwortliche gezielt sensible Informationen erhalten will.
Das Gericht verweist auch auf die Rechtsprechung des Europäischen Gerichtshofs hierbei.
Entscheidend war außerdem, wie der Chatbot konkret ausgestaltet war.
Snapchat ermunterte Nutzer bei der ersten Nutzung dazu, dem Chatbot alle möglichen Fragen zu stellen.
Zwar gab es an anderer Stelle im sogenannten Privacy- und Safety-Hub den Hinweis,
keine vertraulichen oder sensiblen Informationen weiterzugeben.
Das Gericht wertete diesen Hinweis aber nur als unverbindlichen Ratschlag.
Hinzu kommt dabei, dass sich Snapchat bereits an Nutzer ab 13 Jahren richtet.
Und gerade beim Minderjährigen hielt das Gericht es für besonders naheliegend,
dass sie sensible Informationen mit dem Chatbot teilen.
Und diese Eingaben wurden tatsächlich auch verarbeitet, denn nach Feststellung
des Gerichts konnten die eingegebenen Texte unter anderem dafür genutzt werden,
zu entscheiden, welche Werbung innerhalb von MyAI angezeigt wird.
Eine ausdrückliche Einwilligung nach Artikel 9 Absatz 2 DSGVO hätte SNAP nicht
eingeholt und auch einen anderen Ausnahmetabbestand nach Artikel 9 Absatz 2 sah das Gericht nicht.
Damit war die Verarbeitung nach Auffassung des Landgerichts unzulässig.
Spannend ist die Entscheidung natürlich vor allem deshalb, weil das Problem
weit über KI-Chatbots hinausgeht.
Freitextfelder haben wir überall, also gibt es ja in Kontaktformularen,
Bewerbungsportalen, Ticketsystemen, Kundenchats oder auch in ganz klassischen E-Mails.
Und überall dort können Nutzer ungefragt Gesundheitsdaten, Angaben zu Religion,
zu Gewerkschaftszugehörigkeiten oder eben andere besonders geschützte Informationen beteilen.
Für die Praxis ist deshalb besonders wichtig, dass ein Verantwortlicher nicht
allein mit dem Hinweis arbeiten sollte, bitte keine sensiblen Daten eingeben.
Das Urteil zeigt vielmehr, dass die Gestaltung und auch die tatsächliche Verarbeitung
eine zentrale Rolle hierbei spielen.
Also wer offene Eingaben ermöglicht, sollte sich vorher fragen,
wo besondere Kategorien personenbezogener Daten typischerweise auftauchen können,
und was anschließend mit diesen Informationen geschieht.
Interessant ist dazu auch eine Orientierungshilfe des Bayerischen Landes,
beauftragen für den Datenschutz.
Dort wird für unbeabsichtigt anfallende sensible Daten ein etwas differenzierter Ansatz vertreten.
Danach soll es eine Rolle spielen, ob der Verantwortliche tatsächlich Vorkehrungen
getroffen hat, damit solche Daten möglichst nicht verarbeitet werden.
Und genannt werden insbesondere technische und organisatorische Maßnahmen,
etwa Filter, automatische Schwerzungen, Löschroutinen oder strukturierte Eingabefelder
anstelle völlig freier Texteingaben.
Wie weit sich dieser Ansatz mit der weiten Auslegung von Artikel 9 durch den
Europäischen Gerichtshof vereinbaren lässt, ist allerdings nicht abschließend geklärt.
Wer sensible Daten also eigentlich gar nicht haben will, sollte dies also nicht
nur in einen Datenschutzhinweis schreiben, er sollte auch technisch und organisatorisch
dafür sorgen, dass solche Angaben möglichst nicht weiterverarbeitet werden.
Und spätestens, wenn Inhalte für Werbung, Profilbildung, Scoring oder andere
zusätzliche Zwecke ausgewertet werden, wird die Argumentation einer nur zufälligen
oder aufgedrängten Verarbeitung natürlich deutlich schwieriger.
Für Datenschutzbeauftragte lohnt sich deshalb ein Blick auf alle Systeme mit freien Texteingaben.
Die entscheidende Frage lautet dabei nämlich nicht nur, welche Daten das Unternehmen
abfragen möchte, sondern natürlich auch, welche Datennutzer dort realistischerweise
eingeben könnten und was das System damit abschließend macht.
Ja, vor allem das Letzte finde ich halt sehr wichtig, was du sagst.
Es lassen sich nicht an allen Stellen freie Textfelder vermeiden.
Das ist nun mal in der Praxis so.
Aber man muss sich natürlich immer die Frage stellen, wie wahrscheinlich ist
es, dass Menschen dort ungefragt auch sensible Daten eingeben.
Wenn ich einen Online-Shop betreibe und dort ein Kontaktformular habe,
muss ich wahrscheinlich nicht damit rechnen, dass mir jemand Gesundheitsdaten offenbart.
So, wenn ich aber im gesundheitlichen Bereich irgendwie unterwegs bin,
auch wenn das Formular eigentlich nicht dafür da sein soll, dann vielleicht schon eher.
Genau, dass man einfach wirklich prüft, wie es in der eigenen Praxis wäre, was da vorstellbar ist.
Wir hatten ja auch selber in der Beratungspraxis öfter die Frage bei den Freitagsfeldern,
dass man da ja theoretisch alles eingeben kann, aber dass man natürlich auch
davon ausgehen muss, was da erwartbar ist.
Ja, genau. Also ich glaube, da müssen halt tatsächlich Erwartungshaltung und
dann auch eben das tatsächliche Handeln der Leute, die da Daten eingeben,
aufeinandertreffen und ausgewogen werden.
Sehr schön. Der Landesbeauftragte für den Datenschutz in Niedersachsen warnt
auf seiner Website davor, dass OpenAI plant, in ChatGBT künftig auch in der,
Europäischen Union personalisierte Werbung anzuzeigen.
Als Rechtsgrundlage soll die Einwilligung des Nutzers eingeholt werden und damit
sollen dann sowohl frühere als auch aktuelle Chats ausgewertet werden,
um auf den User zugeschnittene Werbung anzuzeigen.
Ausgerollt werden soll das Ganze erstmal in der kostenlosen ChatGBT-Version
und dem Abo-Modell ChatGBT Go.
Welche Werbung konkret angezeigt wird, will OpenAI in Echtzeit bestimmen und
dafür neben Chat-Inhalten auch Geräte und Kontextinformationen auswerten.
Besonders kritisch schaut die Behörde gerade auf die Chat-Inhalte.
Da diese einen entscheidenden Unterschied zur klassischen personalisierten Werbung
begründen, Denn aktuelle Auswertungen zeigen, dass ChatGBT zunehmend auch für
sehr persönliche Fragen, zum Beispiel zur Gesundheit, genutzt werden.
Es steht somit die Befürchtung im Raum, dass aus solchen Unterhaltungen besonders
aussagekräftige Persönlichkeitsprofile entstehen können,
bis hin zu Informationen aus der Intimsphäre oder zur aktuellen Stimmung eines
Nutzers, die natürlich auch sehr, sehr relevant ist für Kaufentscheidungen,
wenn wir über Werbung sprechen.
Wer nicht einwilligt, soll weiterhin Werbung sehen, die sich nach Angaben von
OpenAI aber nur auf begrenzte Daten wie den aktuellen Chat-Kontext,
die Sprache oder den allgemeinen Standort stützt und keine Nutzerprofile verwendet.
Das ist trotzdem ganz schön viel, finde ich. Deswegen wird sich zeigen,
ob man das Ganze auf ein berechtigtes Interesse stützen kann,
so wie OpenAI das vorhat.
Und für die Praxis ist meines Erachtens erstmal wichtig, dass Unternehmen sich
anschauen, welches Paket haben sie von ChatGBT gebucht,
ist das betroffen und vor diesem Hintergrund dann nochmal die neuen Risiken
und ihre Regeln für die dienstliche Nutzung von ChatGBT überprüfen.
Ja, werden in Chats vertrauliche personenbezogene oder anderweitige sensible
Informationen eingegeben, dann können diese möglichen Folgen eben auch natürlich
das Unternehmen treffen.
Man sitzt da zusammen im Boot mit OpenAI und der niedersächsische Datenschutzbeauftragte
empfiehlt deshalb unter anderem die Nutzer anzuhalten, keine Einwilligung in
personalisierte Werbung zu erteilen,
die entsprechenden Datenschutzeinstellungen zu überprüfen und für sensible Themen
möglichst temporäre Chats zu verwenden und,
oder aber komplett auf die Eingabe von sensiblen Informationen zu verzichten.
Sehr spannendes Thema. Ist natürlich für die Unternehmen sehr relevant,
schon mal zu wissen und auch zu prüfen, aber ich finde auch für Privatpersonen,
weil ich glaube mittlerweile nutzen wir ja alle hier und da bei ChatGPT.
Ja, das ist absolut, absolut. Und ich nehme es auch aus meiner persönlichen
Sphäre wahr, dass das eben nicht nur als,
kleiner Helfer für eine zum Beispiel Einkaufsliste genutzt wird,
sondern dass Personen tatsächlich sich mit Chatschibiti auch über die aktuelle Lage unterhalten,
Politik, alles sensible Themen.
Ja, unter den Gesichtspunkten wirklich sehr kritisch zu betrachten.
Ja.
Moritz Hennemann ist seit dem 1. Oktober offiziell Bundesdatenschutzbeauftragter.
Bundespräsident Frank-Walter Steinmeier hatte Hennemann am 29.
September offiziell ernannt.
Damit ist der im Juni vom Bundestag beschlossene
Wechsel an der Spitze der Bundesdatenschutzbehörde nun vollzogen.
Zum Amtsantritt betonte Hennemann, Datenschutz und Informationsfreiheit seien
nicht nur für den Einzelnen, sondern auch für das Gemeinwesen von großer Bedeutung.
Beide Bereiche leisteten aus seiner Sicht zudem einen wichtigen Beitrag zur
digitalen Souveränität Deutschlands.
Welche konkreten fachlichen Schwerpunkte er in seiner Amtszeit setzen will,
möchte Hennemann am 6. Oktober vorstellen.
Für die Datenschutzpraxis dürfte deshalb vor allem interessant sein,
welche Akzente er dabei etwa bei Digitalisierung, KI und der weiteren Entwicklung
des Datenschutzrechts setzen wird.
Ja, erstmal Gratulation und es wird sehr spannend, welcher Kurs da gefahren
wird. Wir halten euch auf dem Laufenden.
Auf jeden Fall.
Die Ludwig-Maximilians-Uni in München ist Opfer eines Cyberangriffs geworden,
der nun leider doch ein sehr großes Ausmaß annimmt.
Danach ist das Ausmaß mit rund 600.000 Datensätzen über aktuelle und ehemalige
Studierende, auf die die Angreifer sich Zugriff verschafft haben,
deutlich höher als zunächst angenommen.
Dieser Fall zeigt, welches hohe Schadenspotenzial in über Jahre gewachsenen
Datenbeständen steckt.
Nach den aktuellen Erkenntnissen reicht der betroffene Datenbestand ungefähr 50 Jahre zurück.
Wie umfangreich dabei die abgegriffenen Informationen sind, hängt dabei vom
jeweiligen Zeitraum ab.
Bei älteren Datensätzen geht es vor allem um Stammdaten, um die Semesterhistorie
und bei Jüngeren können unter anderem auch Kontakt und sogar Bankdaten sowie
weitere Angaben zum Studienverlauf hinzukommen.
Passwörter und Prüfungsinformationen wurden aber nicht abgegriffen, so die Uni.
Weiterhin wird diese langfristige Speicherung von der Uni damit begründet,
dass bestimmte Studieninformationen auch Jahrzehnte später noch für Nachweise
benötigt werden können, etwa gegenüber der Rentenversicherung.
Das heißt, ob und inwiefern diese lange Speicherung tatsächlich unzulässig war,
das bleibt noch zu klären.
Für die Praxis ist es, denke ich, wichtig, neben der zulässigen Speicherdauer
auch zu prüfen, wie lange ältere Daten in produktiven Systemen unmittelbar erreichbar sein müssen.
Denn selbst rechtmäßig gespeicherte Daten vergrößern natürlich im Fall eines
erfolgreichen Angriffs das mögliche Schadenausmaß.
Ein Sicherheitsvorfall bei HelloBeta zeigt, wie gravierend Datenpannen bei digitalen
Gesundheitsanwendungen sein können.
Schon die Nutzung eines bestimmten Programms kann nämlich Rückschlüsse auf eine Diagnose zulassen.
Eingreifer hatten sich am 6. September Zugriff auf ein Business Intelligence
System und die damit verbundene Datenbank verschafft.
Hello Better bemerkte den Zugriff am folgenden Morgen und beendete ihn nach
eigenen Angaben sofort.
Allerdings waren bis dahin bereits Daten im bedeutsamen Umfang entwendet worden.
Betroffen sein können neben Namen, Geburtsdaten und versicherten Nummern auch
Antworten aus Fragebögen, Angaben
zum Programmverlauf, Freitexte aus Tagebuchfunktionen und Supportanfragen,
Besonders heikel ist das, weil HelloBetter unter anderem Anwendungen für Panikstörungen,
Schlafstörungen, chronische Schmerzen oder Depressionen anbietet und damit schon
die Nutzung eines Programms sensible Rückschlüsse zulassen kann.
Ein erheblicher Teil der Daten war nach Unternehmensangaben pseudonymisiert und verschlüsselt.
Dennoch kann HelloBetter nicht vollständig ausschließen, dass einzelne Informationen
lesbar waren und die Personen identifiziert werden können.
Wie viele Menschen betroffen sind, welche Schwachstellen ausgenutzt wurden und
ob Angreifer auch Zugriff auf Verschlüsselungsschlüssel hatten, ist bislang offen.
Für die Praxis zeigt der Fall damit sehr deutlich, dass bei digitalen Gesundheitsangeboten
nicht nur der Schutz einzelner Datensätze zählt, sondern auch die Frage,
welche sensiblen Informationen sich bereits aus Nutzung, Kontext und Verknüpfung ableiten lassen.
Letzte Woche Freitag fand einmal mehr die jährliche Verleihung der Big Brother Awards statt.
Und die Big Brother Awards sind eine Art Negativpreis für Unternehmen,
Behörden oder Personen, die besonders kritisch mit Datenschutz und Privatsphäre umgehen.
Sie sollen in satirischer Weise auf die Überwachung, Datenmissbrauch und problematische
digitale Praktiken aufmerksam machen.
Und dieses Jahr haben abgeräumt einmal unser Bundesinnenminister Alexander Dobrindt für die,
Registermodernisierung und insbesondere
die Nutzung der Steuer-ID als registerübergreifendes Personenkennzeichen.
Damit hat Herr Dobrindt ein Alleinstellungsmerkmal, denn er hat diesen Preis
jetzt schon zum zweiten Mal gewonnen.
Die EU-Kommission hat auch einen Preis bekommen und zwar für den geplanten digitalen
Omnibus, dem der Preisverleiher Digital Courage eine Schwächung bestehender,
Datenschutzstandards vorwirft.
Dann hat Apollo Optik und Vielmann einen Preis bekommen für den Vertrieb von MetaSmart Glasses.
Ebenfalls einen Preis bekommen hat das Landeskirchenamt der Evangelischen Lutherischen
Kirche in Norddeutschland.
Die sogenannte Nordkirche für die verpflichtende Einführung von Microsoft 365.
Und dann wurden noch zwei präventive Preise verliehen. Einmal an die Deutsche
Telekom wegen einer möglichen Fusion mit T-Mobile US und der damit nach Auffassung
von Digital Courage verbundene,
Risiken für Datenschutz und digitale Souveränität.
Und ebenfalls präventiv ging ein Preis an ein mögliches Social Media Verbot für junge Menschen.
Damit wird sich gegen die pauschale Social-Media-Altersgrenze gewährt und unter
anderem, weil dafür dann nochmal erforderliche Alterskontrollen anfallen werden,
die natürlich dann auch wieder Verarbeitung von personenbezogenen Daten auslösen.
Beratulieren allen Preisträgern, würde ich sagen.
Herzlichen Glückwunsch.
Immer wieder lustig eigentlich.
So, dann kommen wir jetzt zu heute nur den Veröffentlichungen.
Wer sich mit Cloud-Diensten und dem Schutz über Daten beschäftigt,
findet in einem neuen Arbeitspapier der Berlin Group Hinweise dazu,
welche Rolle Confidential Computing für den Datenschutz spielen kann.
Confidential Computing soll Daten nicht nur bei der Speicherung und Übertragung
schützen, sondern auch während ihrer Verarbeitung.
Dafür werden besonders geschützte Ausführungsumgebungen genutzt,
in denen Daten verarbeitet werden können, ohne dass andere Teile des Systems
ohne weiteres darauf zugreifen können.
Das Arbeitspapier ordnet diese Technik aus datenschutzrechtlicher Sicht ein
und zeigt, welche Chancen, aber auch welche Anforderungen mit ihrem Einsatz verbunden sind.
Also ein interessanter Lesetipp für alle, die sich mit technischem Datenschutz,
Cloud-Infrastrukturen und dem Schutz besonders sämmer Daten beschäftigen.
Den Link dazu packen wir euch in die Shownotes.
Ja, vielen Dank, Julia. Das waren unsere Datenschutz-News schon wieder für diese Woche.
Wir bedanken uns ganz herzlich fürs Zuhören, wünschen euch ein schönes Wochenende,
wenn ihr uns schon heute hört oder einen guten Start in die neue Woche,
wenn ihr uns erst am Montag hört.
Bleibt uns gesonnen und auf bald.
Bis dann.