KI-Anbieter übermitteln Chatdaten an Dritte – DS News KW 41-2026

Transkript zur Folge:

Herzlich willkommen zum Datenschutz-Talk, eurem wöchentlichen Datenschutz-Update der Migrosense.
Mein Name ist Natalia Wozniak und bei mir ist meine liebe Kollegin Julia Kriwert. Hallo Julia.
Hallo.
Hi. Heute ist Freitag, der 9. Oktober 2026.
Unser Redaktionsschluss war wie gewohnt um 10 Uhr heute.
Und wir schauen heute gemeinsam mit euch auf die wichtigsten Datenschutzthemen
dieser Woche. Julia, was hast du denn Schönes mitgebracht?
Ich habe eine Meldung über die Weitergabe von KI-Chat-Daten an Drittanbieter.
Eine Info zu einer Sicherheitslücke bei ChatGPT und eine Warnung von mehreren
Datenschutzbeauftragten vor Betrugsnachrichten mit Hoteldaten und eine kurze
Info zum neuen Datenschutzbeauftragten in Schleswig-Holstein. Was hast du denn dabei?
Ich habe ein Bußgeld in Höhe von 350.000 Euro aus Griechenland mitgebracht.
Das wurde verhängt nach einem Datenschutzvorfall wegen veralteter Tom.
Und ich habe zwei Kurzmeldungen. Einmal ein Update zum neuen BFTI,
insbesondere zu den vorgestellten Schwerpunkten seiner Amtszeit.
Und eine Info zur Entwicklung der Deutschland-App durch die Bundesregierung.
Ich würde sagen, wir haben einen sehr bunten Strauß an Themen mitgebracht heute.
Ja.
Julia, fang gerne an.
Gerne. Wer vertrauliche Informationen in KI-Chatbots eingibt,
muss nach einer neuen Studie damit rechnen, dass diese unter Umständen auch
für Drittanbieter zugänglich werden.
Forscher des spanischen IMDEA Networks Institute haben untersucht,
welche Daten neun bekannte KI-Dienste an externen Unternehmen weitergeben.
Darunter waren ChatGPT, Claude, Gemini, Grog, DeepSeq und Microsoft Copilot,
also alles Dienste, die man schon mal gehört hat oder auch verwendet hat.
Das Ergebnis? Alle neun untersuchten Anbieter übermitteln Nutzerdaten an Dritte,
darunter Werbenetzwerke und andere externe Dienstleister.
Besonders brisant hierbei ist, dass fünf der neun Anbieter laut Studie auch
sogenannte Permalinks zu Chatverläufen an Drittanbieter übermitteln.
Das sind dauerhafte Internetadressen, über die sich einzelne Unterhaltungen aufrufen lassen.
Sind diese Links nicht zusätzlich durch eine Zugangskontrolle geschützt,
können die Empfänger möglicherweise vollständige Gespräche einsehen.
Damit könnten dann nicht nur einzelne Fragen, sondern auch zum Beispiel vertrauliche
Unternehmensinformationen oder generell personenbezogene Daten offengelegt werden,
die Beschäftigte oder natürlich auch Privatpersonen in einen Chatbot eingegeben haben.
Die Forscher wollten deshalb wissen, ob Dritte tatsächlich auf solche Gespräche zugreifen.
Dafür platzierten sie spezielle Testlinks in den Chats, die einen Zugriff erkennbar machen sollten.
Bei mehreren KI-Anbietern registrierten sie entsprechende Zugriffe,
sobald die Chatlinks an Drittanbieter übermittelt wurden.
Besonders auffällig war das bei Grog. Dort wurden die Testlinks offenbar auch
später noch mehrfach aufgerufen.
Das deutet darauf hin, dass Dritte erneut auf die entsprechenden Gesprächsinhalte
zugegriffen haben könnten.
Aber auch ohne Zugriff auf die vollständigen Chatverläufe können sensible Informationen abfließen.
Denn laut Studie übermittelt ein Drittel der untersuchten Anbieter auch automatisch
erstellte Zusammenfassungen von Gesprächen an Werbepartner.
Darin können beispielsweise gesundheitliche Fragen oder Angaben zum Einkommen,
und zu finanziellen Verhältnissen enthalten sein.
Also im Endeffekt können ja alle möglichen Informationen enthalten sein,
weil wir da ja natürlich wieder diese Freitextfelder haben, wo man theoretisch alles eingeben kann.
Und teilweise werden solche Informationen zusammen mit E-Mail-Adressen oder
dauerhaften Nutzerkennungen weitergegeben, die dann eine Zuordnung der einzelnen Personen ermöglichen.
Auch die Möglichkeiten der Nutzer, diese Datenweitergabe zu verhindern, erscheinen begrenzt.
Nach den Ergebnissen der Untersuchung bleiben rund 81% der erfassten Drittanbietertracker
selbst dann aktiv, wenn Nutzer nicht notwendige Cookies ablehnen.
Und wer für einen Premium-Zugang bezahlt, ist offenbar ebenfalls nicht wesentlich besser geschützt.
Die Forscher stellten nämlich fest, dass kostenlose und kostenpflichtige Zugänge
von weitgehend denselben Drittanbietern getrackt werden.
Insgesamt identifizierten die Wissenschaftler 44 verschiedene Tracking- und
Werbedienstleister, wobei die konkrete Zusammensetzung zwischen den einzelnen Testläufen variierte.
Allerdings handelte es sich bei der Untersuchung bislang um ein wissenschaftlich
noch nicht begutachtetes Preprint.
Außerdem bedeutet natürlich nicht jede Datenübermittlung automatisch,
dass Dritte tatsächlich jetzt die vollständigen Gespräche erhalten oder lesen können.
Für die Praxis finde ich die Ergebnisse dennoch sehr interessant,
denn bei der datenschutzrechtlichen Bewertung von KI-Diensten schauen wir häufig
darauf, wie der Anbieter selbst die eingegebenen Informationen verarbeitet und
ob diese beispielsweise zum Training der KI verwendet werden.
Die Studie unterstreicht dabei nochmal, dass wir auch die Einbindung externer
Dienstleister, mögliche Tracking-Datenflüsse und den technischen Schutz von
Chat-Verläufen genauer betrachten sollten.
Dabei stellen sich insbesondere Fragen nach den Empfängern, den Verarbeitungszwecken
und natürlich auch den Rechtsgrundlagen für solche Datenübermittlungen.
Für Datenschutzbeauftragte kann die Untersuchung deshalb ein guter Anlass sein,
bestehende Freigaben und Nutzungsrichtlinien für KI-Dienste noch einmal zu überprüfen.
Vor allem natürlich bei vertraulichen Unternehmensinformationen und personenbezogenen
Daten sollte klar sein, welche Schutzmaßnahmen der jeweilige Dienst tatsächlich bietet.
Denn die bloße Ablehnung von Cookies oder der Abschluss eines kostenpflichtigen
Abonnements reichen nach diesen Studienergebnissen jedenfalls nicht aus,
um eine Weitergabe von Nutzerdaten an Dritte zuverlässig auszuschließen.
Ich finde, das ist eine sehr wichtige Info, die du jetzt mitgebracht hast und
auch für die Praxis, dass man sich tatsächlich nicht darauf verlassen sollte,
zum einen auf den Unterschied kostenpflichtige oder kostenfreie Angebote, aber auch generell,
sensibilisiert sein sollte und auch alle seine Mitarbeiter sensibilisieren sollte,
nach Möglichkeit, soweit es eben geht, keine Möglichkeit.
Personenbezogenen oder keine besonders sensiblen personenbezogenen Daten einzugeben,
solange solche Lücken eben möglich sind. Und ja, der Fall zeigt ja,
dass sie auch in der Praxis ja wahrscheinlich vorliegen.
Ja.
Ja, das Thema KI.
So, und damit bleiben wir noch kurz bei KI. Denn auch eine Sicherheitslücke
in der ChatGPT-App für macOS zeigt, welche Risiken KI-Anwendungen mit sich bringen können.
Sicherheitsforscher haben eine Schwachstelle entdeckt, über die Angreifer unter
anderem auf die gesamte Chat-GPT-Konversationshistorie zugreifen konnten.
Das Problem lag in einem Skriptinterpreter, über den sich fremde Befehle in
den Chat-GPT-Prozess einschleusen ließen.
OpenAI hat die Schwachstelle allerdings bereits Ende September durch ein Update geschlossen.
Und ob die Lücke tatsächlich für Angriffe ausgenutzt wurde, ist bislang nicht bekannt.
Voraussetzung für einen Angriff war hierbei auch, dass Nutzer zuvorschiedliche
Code auf ihrem Rechner ausführten.
Der Fall war deutlich, aber ein grundsätzliches Problem. KI-Agenten verlangen
häufig weitreichende Berechtigungen, etwa den vollständigen Festplattenzugriff.
Und wird eine solche Anwendung kompromittiert, können dadurch auch Informationen
gefährdet sein, auf die der Angriefer normalerweise keinen Zugriff hätte.
Also vielleicht ebenfalls nochmal ein Anstoß für Unternehmen,
wenn auch nicht geschehen, zur Prüfung, welche Zugriffsrechte ihre KI-Anwendung
tatsächlich benötigen und diese auf das notwendige Maß zu beschränken.
So ist es.
Ich komme zu meinem ersten Thema, nämlich einem Bußgeld aus Griechenland.
Die griechische Datenschutzbehörde verhängte nämlich eine Verwaltungsstrafe
in Höhe von 200.000 Euro gegen das griechische Ministerium für sozialen Zusammenhalt
und Familienangelegenheiten als Verantwortlicher.
Und ein weiteres Bußgeld in Höhe von 150.000 Euro gegen den Auftragsverarbeiter,
hier die Agentur für lokale Entwicklung und Kommunalverwaltung, kurz EETAA.
Das Ministerium als Verantwortlicher hat hier der Aufsichtsbehörde einen Angriff
auf seine Datenbanken gemeldet.
Die Datenbanken enthielten unter anderem Identifikations- und Kontaktdaten sowie
Finanz- und Gesundheitsdaten einer großen Anzahl von Betroffenen.
Die Meldung ist also erfolgt und damit nicht beanstandet worden durch die Aufsichtsbehörde.
Allerdings stellte die Behörde fest, dass der Erfolg des Angriffs damit zusammenhängt,
dass die EETRA, also der Auftragsverarbeiter,
trotz Kenntnis der entsprechenden Risiken weiterhin veraltete Informationssysteme
und unzureichende Sicherheitsmaßnahmen einsetzte.
Die Aufsichtsbehörde stellte also einen Verstoß gegen Artikel 28 DSGVO fest,
gegen die angemessene Maßnahmen, die getroffen werden sollen.
Die Datenschutzbehörde stellte zudem Mängel bei der Einhaltung der Anforderungen
des Artikels 28 fest, der das Verhältnis zwischen dem Verantwortlichen und dem
Auftragsverarbeiter regelt.
Daher wies die Aufsichtsbehörde die Partei neben den Bußgeldern auch an.
Einen Auftragsverarbeitungsvertrag überhaupt erst abzuschließen und die geplanten
Maßnahmen zur Stärkung der Sicherheit ihrer Informationssysteme vollständig umzusetzen.
Leider sind hier weitere Details nicht bekannt, aber ich glaube,
dass sich die Relevanz dennoch,
allein aus diesem Inhalt ergibt, denn die Entscheidung ist insbesondere für
die Gestaltung von AV-Verträgen und für die Prüfung von technischen und,
organisatorischen Maßnahmen relevant.
Sie verdeutlicht die Reichweite der Pflichten des Verantwortlichen bei Sicherheitsmängeln
eines Auftragsverarbeiters.
Das bedeutet neben dem tatsächlichen Abschluss eines AV-Vertrages auch die Sicherstellung,
dass die vereinbarten angemessenen Tom auch überprüft und umgesetzt werden beim
Dienstleister und auch auf Aktualität geprüft werden.
Aber auch der Dienstleister kann sich nicht auf seine Rolle als Auftragnehmer
bzw. Auftragsverarbeiter berufen, sondern muss seinerseits sicherstellen,
dass die getroffenen Toms aktuell und dem Stand der Technik angemessen bleiben.
Das heißt, beide Player, der Verantwortliche und der Auftragsverarbeiter,
sollten schauen, dass deren Teil der Verantwortlichkeit erfüllt ist und die
Pflichten auf beiden Seiten umgesetzt sind.
Von daher, ich glaube, ja, so ein kleiner Stoß in die Richtung,
dass sich keiner der beiden, ja, ausholt oder vielleicht überlegt,
okay, ich bin nicht der Verantwortliche, also bin ich jetzt nicht dran.
Von daher finde ich eine gute Klarstellung seitens der griechischen Aufsichtsbehörde.
Auf jeden Fall.
So, nächste Meldung, Julia.
Mehrere Datenschutzaufsichtsbehörden warnen vor einer zunehmenden Zahl von Phishing-Angriffen auf Hotelgäste.
Kriminelle nutzen dabei offenbar gestohlene Buchungsdaten, um an Zahlungsinformationen
und Geld der Betroffenen zu gelangen.
Beim hessischen Datenschutzbeauftragten sind in den vergangenen Monaten zahlreiche
Meldungen über Datenschutzverletzungen und Beschwerden betroffener Gäste eingegangen.
Auch die Datenschutzaufsicht in Mecklenburg-Vorpommern berichtet von einer auffälligen
Häufung solcher Vorfälle in den vergangenen Wochen.
Die Neutrhein-Westfälische Landesdatenschutzbeauftragte Bettina Geig hat ebenfalls
vor der Betrugsmasche gewarnt.
Betroffen sind hierbei nicht nur Hotels, sondern auch Campingplätze und Ferienwohnungen.
Nach Angabe der Behörden sind bei den Angriffen offenbar Stamm- und Buchungsdaten
von Gästen abgeflossen, in einzelnen Fällen auch Bank- und Zahlungsdaten.
Die Kriminellen nutzen diese Informationen, um ihre Phishing-Nachrichten besonders
glaubwürdig zu gestalten.
Sie geben sich dann per E-Mail oder Messenger als Hotel oder eben Buchungsplattform
aus und beziehen sich dabei auf tatsächliche Reservierungen.
Häufig setzen sie die Gäste unter Zeitdruck, indem sie beispielsweise mit einer
Stornierung der Buchung drohen, wenn nicht umgehend die Zahlungsdaten bestätigt werden.
Über mitgeschickte Links gelangen die Betroffenen auf gefälschte Webseiten,
die den Originalseiten der Anbieter sogar täuschend ähnlich sehen,
und dort sollen sie dann ihre Kreditkartendaten eingeben oder direkt eine Zahlung veranlassen.
Mit den erbeuteten Informationen können die Kriminellen anschließend unberechtigte
Abbuchungen vornehmen.
Der hessische Datenschutzbeauftragte empfiehlt deshalb, bei unerwarteten Zahlungsaufforderungen
besonders vorsichtig zu sein und natürlich keine mitgesendeten Links zu verwenden.
Wer Zweifel hat, sollte die Unterkunft direkt kontaktieren und dafür eine Telefonnummer
nutzen, die unabhängig von der verdächtigen Nachricht ermittelt wurde.
Also dann über die offizielle Website, zumindest nicht über die beigeschickten
Links, die sollten vermieden werden.
Und wer bereits Zahlungsdaten preisgegeben hat, sollte die betroffene Kreditkarte
sperren lassen, seine Kontobewegung überprüfen und gegebenenfalls,
je nachdem, die Bank und auch die Polizei informieren.
Für die Datenschutzpraxis zeigen die Fälle natürlich wieder einmal mehr,
dass Folgen einer Datenschutzverletzung weit über den ursprünglichen Datenabfluss hinausgehen können.
Gerade wenn Buchungsdaten kompromittiert wurden, sollten Unternehmen deshalb
auch das Risiko gezielter Folgeangriffe berücksichtigen und betroffene Gäste
möglichst konkret vor solchen Betrugsversuchen warnen, damit diese vorbereitet sind.
Ja, so ist das. Ich glaube, wir dürfen niemals nachlassen, aufmerksam und sensibel zu sein.
Ja, man sieht ja auch, dass die Phishing-Angriffe werden immer besser,
wenn dann jetzt sogar die Webseiten noch relativ originalgetreu nachgebaut werden
und man halt auf diese tatsächlichen Buchungen auch noch,
sich bezieht, dann ist es natürlich, es wird immer schwieriger zu unterscheiden.
Und ich habe mir sagen lassen, dass der Nachbau einer Webseite gar nicht so schwierig sein soll.
Also immer wachsam bleiben.
Richtig. Und damit kommen wir auch zu unseren Kurzmeldungen,
die wir jetzt auch mitgebracht haben.
Die erste Kurzmeldung betrifft unseren neuen Bundesdatensbeauftragten,
Herrn Moritz Hennemann.
Dieser hat sein Amt am 1. Oktober diesen Jahres angetreten. Wir berichteten
dazu bereits in der letzten Woche in der KW 40.
Nun hat er, wie angekündigt, auch die Schwerpunkte seiner Amtszeit vorgestellt.
Herr Hennemann will eine datenschutzkonforme Staatsmodernisierung fördern,
die digitale Souveränität Deutschlands und der Europäischen Union stärken und
neue Technologien frühzeitig datenschutzrechtlich einordnen.
Dabei setzt er auf eine lösungsorientierte Beratung der beaufsichtigten Behörden
und Stellen, sowie auf eine engere Zusammenarbeit mit Datenschutzaufsichten
und anderen Regulierungsbehörden.
Auch den Gesetzgeber will er bei der Entwicklung eines klaren,
praktikablen und technikgerechten Datenschutzrechts konstruktiv begleiten.
Hierzu hat er auch schon bereits konkretere Maßnahmen angekündigt.
Insbesondere sollen Geschäftsmodelle von DETA-Bruckern stärker überwacht werden
und bei hohen Risiken gegebenenfalls strengere Datenschutzvorgaben angestoßen werden.
Handlungsbedarf sieht er auch bei unerlaubten oder unbeabsichtigten Abflüssen
personenbezogener Daten aus der EU.
Hierfür reichen die bisherigen Instrumente der europäischen Datenschutzaufsicht
aus seiner Sicht nicht aus.
Herr Hennemann bekräftigt zudem verfassungsrechtliche Bedenken gegen die geplante
Neuordnung der Nachrichtendienstaufsicht und setzt auf Änderungen im parlamentarischen Verfahren.
Auch bei der Informationsfreiheit plädiert er für ein Bundestransparenzgesetz,
das Informationsfreiheit und Open Data zusammenführt.
Der Schreibtisch bei unserem neuen BFDI scheint also jetzt schon gut gefüllt
zu sein. Wir freuen uns auf das, was kommt.
Ja, so ist es. Schleswig-Holstein bekommt einen neuen Landesbeauftragten für Datenschutz.
Der Landtag hat Dr. Jens Ambrock einstimmig zum Nachfolger von Dr. Marit Hansen gewählt.
Er soll das Amt Ende Januar 2027 übernehmen. Die bisherige Landesdatenschutzbeauftragte
Dr. Marit Hansen ist seit 2015 im Amt und scheidet nach zwei Amtszeiten aus,
weil eine weitere Wiederwahl gesetzlich ausgeschlossen ist.
Ambrock leitet derzeit beim Hamburgischen Beauftragten für Datenschutz und Informationsfreiheit
das Referat für Wirtschaft und Behörden.
Zuvor war er bereits beim unabhängigen Landeszentrum für Datenschutz Schleswig-Holstein
tätig und kennt seine künftige Behörde damit schon aus eigener Erfahrung.
Okay, die nächste Meldung betrifft die Deutschland-App.
Die Bundesregierung treibt nämlich die Entwicklung der KI-gestützten Deutschland-App
voran und hat T-Systems mit der Konzeption und Entwicklung beauftragt.
Die Anwendung soll Bürgerinnen und Bürgern einen zentralen, dialogbasierten
und mobilen Zugang zu Verwaltungsleistungen über Ländergrenzen hinweg ermöglichen.
Erprobt wird die Plattform aktuell oder zunächst als Prototyp in Dortmund,
Dresden, Erfurt, Hamburg, Nürnberg und Wiesbaden, also tatsächlich über Deutschland gut verteilt.
Der aktuelle Testlauf umfasst vorerst nur ausgewählte Angebote aus den Bereichen
Familienwohnen, Soziales und Unternehmensgründung.
Es ist eine mehrstufige Entwicklungsstrategie vorgesehen, bei der insbesondere
zunächst auch nur Grundfunktionen getestet werden sollen.
Und die Authentifizierung soll über die E-ID-Funktion des Personalausweihens
erfolgen, wobei auch die EU-Brieftasche, also die EU-DI-Wallet, bereits erprobt wird.
BSI und Bundesdatenschutzbeauftragte begleiten das Vorhaben,
dessen Starttermin und endgültige Funktionsumfang noch offen sind.
Insofern, das Thema wird uns auch noch eine Zeit lang begleiten.
Ja, sehr spannend. Und natürlich auch schön zu wissen, dass der Datenschutz
dann auch von vornherein mit eingebunden ist.
Auf jeden Fall. Ja, und damit sind wir auch am Ende der heutigen Folge.
Oder haben wir noch was vergessen?
Das war es. Für öffentliche Veranstaltungen haben wir nicht.
Leider keine Lesetipps dieses Wochenende.
Das heißt, freies Wochenende für unsere Zuhörer.
Wir verabschieden uns damit für diese Woche. Wir wünschen euch ein schönes, freies Wochenende. Ja.
Und ja, falls ihr das diese Woche hört oder auch nächste Woche hört,
ja, macht's gut und bis zum nächsten Mal.
Bis dann, schönes Wochenende.
Ciao.