KI‑Apps exponieren Millionen Nutzerdaten- DS News KW 04/2026

Transkript zur Folge:

Herzlich Willkommen zum Datenschutz-Talk, eurem wöchentlichen Datenschutz-Update der Migosens.
Heute ist Freitag, der 23. Januar 2026.
Mein Name ist Gregor Wortberg, ich heiße euch herzlich Willkommen.
Redaktionsschluss war wie immer heute um 10 Uhr und bei mir ist mein lieber Kollege David Schmidt.
Hallo Gregor und hallo liebe Zuhörer.
David, wir haben auch in dieser Woche wieder einige Themen für unsere Hörerinnen und Hörer mitgebracht.
Es sind ein paar weniger geworden, aber welche Themen stehen denn bei dir heute auf dem Zettel?
Ich berichte von einem Urteil des Oberlandesgerichts München zu den Meta-Business-Tools.
Dann gibt es Neues zu der OIDI-Wallet, der Europäischen Digitalen Identitäts-Wallet.
Und ich habe einen neuen Phishing-Angriff mitgebracht, vor dem ich warnen möchte.
Und zuletzt natürlich auch wieder eine Veröffentlichung im Gepäck. Wie sieht es bei dir aus?
Ich habe eine gemeinsame Stellungnahme von ETSA und dem europäischen Datenschutzbeauftragten
zum digitalen KI-Omnibus mitgebracht und dann noch eine Untersuchung von Sicherheitsforschung
zur mangelnden Sicherheit von KI-Apps in Apples App Store.
Darüber hinaus darf natürlich auch eine Veröffentlichung diese Woche vom ETSA nicht fehlen.
Gut, dann starte ich einfach mal mit dem Oberlandesgericht München.
Dieses hat entschieden, dass die Sammlung personenbezogener Daten durch Meta
mithilfe der sogenannten Meta-Business-Tools gegen die Vorgaben der DSGVO verstößt.
Das Gericht hat einem Betroffenen deshalb 750 Euro Schadenersatz aus Artikel 82 DSGVO zugesprochen.
Hinter den sogenannten Business Tools von Meta verbirgt sich unter anderem das
Metapixel, das ja sehr verbreitet ist,
welches Website-Betreiber auf ihrer Website einbinden können und im Gegenzug
von Meta Analyseberichte über die Reichweite und den Erfolg der Webseite oder
von gebuchten Werbekampagnen auf den Meta-Plattformen erhalten.
Das Pixel wird jedoch von einem Meta-Server geladen, was bedeutet,
dass Meta wenigstens die IP-Adresse und gegebenenfalls noch andere Nutzungsdaten des Users sammelt.
Mit Verweis auf die Rechtsprechung des Europäischen Gerichtshofs hat das Münchner
Gericht erst einmal festgestellt,
dass es sich hierbei um eine gemeinsame Verantwortlichkeit zwischen Meta und
dem Website-Betreiber handelt.
Und das bedeutet, dass Meta auch selbst die Grundsätze der Verarbeitung der
DSGVO gegenüber dem Website-Besucher gewährleisten muss.
Problematisch ist hier vor allem die Rechtsgrundlage für die Verarbeitung durch Meta.
Im Optimalfall, sag ich mal, holt der Website-Betreiber ja eine Einwilligung
ein, um das Pixel zu aktivieren, aber Meta eben selbst nicht.
Das Gericht setzt in der Urteilsbegründung jetzt aber schon einen Schritt vorher
an und sieht schon einen Verstoß gegen den Grundsatz der Datenminimierung durch Meta.
Nach dem Grundsatz der Datenminimierung müssen Verantwortliche ja unter anderem
schon vor der Erhebung personenbezogener Daten festlegen, für welche Zwecke
diese Daten erhoben werden.
Und genau das werde aber von Meta nicht eingehalten.
Die Daten werden ja gesammelt und dann im Nachgang erst auf verschiedene Arten genutzt.
Eine ausreichend konkrete Festlegung der Zwecke dieser Datenverarbeitung,
bevor diese überhaupt beginnen, sei aus der Sicht des Gerichts schon systematisch
nicht möglich und nicht mit Metas Geschäftsmodell vereinbar.
In dem zugrunde liegenden Fall wurde der Klägerin wie gesagt einen Schadenersatz
von 750 Euro zugesprochen.
Meta hat bereits angekündigt, in die nächste Instanz, also vor den BGH zu ziehen.
Sollte man dort auch verlieren, was aus meiner Sicht sehr wahrscheinlich ist,
könnte das tatsächlich das Ende der Meta-Business-Tools in Deutschland sein.
Der Europäische Datenschutzausschuss und der Europäische Datenschutzbeauftragte
haben eine gemeinsame Stellungnahme zum neuesten Vorschlag der EU-Kommission,
zum sogenannten Digital Omnibus on AI, veröffentlicht.
Beide Stellen begrüßen grundsätzlich den Ansatz, die KI-Gesetzgebung praxistauglicher
zu machen und Organisationen, also Unternehmen, auch zu entlasten.
Gleichzeitig waren sie aber auch schon deutlich davor, zentrale Schutzmechanismen
dann doch auch aufzuweichen.
Ein zentraler Kritikpunkt ist zum Beispiel, dass der Vorschlag Anbietern und
Betreibern von KI-Systemen erleichtern würde, besondere Kategorien personenbezogener
Daten, also etwa zur ethnischen Herkunft oder Gesundheit, zur Erkennung von
Verzerrungen zu nutzen.
Also zur Erläuterung, Verzerrungen sind im KI-Kontext die systematische Benachteiligung
oder Bevorzugung bestimmter Personen, Personengruppen, ohne dass dafür ein sachlich
gerechtfertigter Grund besteht.
ETSA und EDSB sagen da ganz klar, dass das halt auch nur in begrenzten Ausnahmefällen
passieren darf und gerade vor diesem Hintergrund auch die geplante Verschiebung
der Kernbestimmung für Hochrisiko-KI,
etwa im Kontext der Transparenz, dann auch zudem kritisch gesehen wird.
Und auch im Kontext der Hochrisiko-KI kritisch gesehen wird,
dass die Registrierungspflicht für Hochrisiko-KI-Systeme wohl abgeschafft werden soll,
wenn Anbieter diese selbst als nicht hochriskant einstufen.
Das stärkt natürlich jetzt nicht gerade die Transparenz und verschafft dann
auch falsche Anreize, Risiken eben auch kleinzureden, um nicht in die Regularien zu fallen.
Positiv bewerten ETSA und EDSB die Idee von KI-Reallaboren auf EU-Ebene,
um eben die Innovation zu fördern.
Allerdings sollten dann hier auch die Datenschutzbehörden direkt eingebunden
werden, um halt auch Rechtssicherheit zu gewährleisten.
Das Bundesamt für Sicherheit in der Informationstechnik hat einen Handlungsleitfaden
zur Anbindung der europäischen digitalen Identitätswallet veröffentlicht.
Darin wird, was für alle interessant sein dürfte, erst einmal erläutert,
wie das Konzept der sogenannten Eudi-Wallet aussieht und wie die nationalen
Identitäts- und Attributsdaten gesichert werden.
Im Übrigen sind Adressat des Dokuments die Behörden, welche das Wallet bis zum
Ende des Jahres annehmen müssen und die dafür nötige Infrastruktur aufbauen
und konfigurieren müssen.
Hierzu gibt das BSI konkrete Handlungsempfehlungen ab.
Einem Team von Sicherheitsforschern ist es gelungen, millionenfach auf Daten
aus Datenbanken von KI-Apps aus Apples App Store zuzugreifen.
Diese wurden auch in einer öffentlichen Datenbank namens Firehound veröffentlicht.
Also dort sind die Ergebnisse dieser Untersuchung abrufbar.
Insgesamt wurden oder sind dort 198 Apps aufgeführt.
Bei 196 davon, schon eine ganz gute Quote, konnten Nutzerdaten abgerufen werden.
Wie dies gelang und nach welchen Kriterien die Apps jetzt tatsächlich den Weg
in das Verzeichnis geschafft haben, ist laut Heiser allerdings unklar.
Die genaue Anzahl der betroffenen Datensätze und Nutzer ist schwer zu beziffern.
Allein beim Spitzenreiter in dieser Datenbank, einer App namens Chat & Ask AI
bei Codeway, wurde auf 406 Millionen Datensätze von über 18 Millionen Nutzern zugegriffen.
Zugriff hier war möglich auf Chat-Verläufe, Namen und E-Mail-Adressen.
Die Sicherheitslücken seien zumeist auf falsch konfigurierte Datenbanken und
Cloud-Speicher zurückzuführen. Für Unternehmen...
Denke ich, lässt sich da am meisten daraus ableiten oder insbesondere daraus
ableiten, wie wichtig KI-Richtlinien im Unternehmen sind,
also die dann einerseits natürlich Prüfkriterien für neue KI-Systeme dann beinhalten,
aber auch Mitarbeitenden eine klare Orientierung bieten, welche KI-Systeme sie
vielleicht denn überhaupt nutzen dürfen und wenn sie diese nutzen dürfen,
welche Daten sie dort einspielen dürfen.
Der Passwortmanager LastPass warnt seine Nutzer vor einer anhaltenden Phishing-Welle.
Demnach versenden Angreifer E-Mails mit angeblicher Wartungsankündigung und
fordern zum Backup der Passwort-Treasury innerhalb von 24 Stunden auf.
Die gefälschten Mails sollen Panik auslösen und den Empfänger dazu bringen,
ihre Masterpasswörter preiszugeben.
LastPass betont, dass das Unternehmen nie zu solchen Backups auffordert,
listet die verwendeten Absenderadressen auf und rät verdächtige Nachrichten
an abuse at lastpass.com weiterzuleiten.
Ich glaube, ein wichtiges Thema, weil die Passwortmanager mittlerweile ja doch
sehr verbreitet sind, also nicht nur im Unternehmenskontext,
sondern auch privat habe ich das Gefühl, dass immer mehr Leute das nutzen,
was natürlich erstmal sehr gut ist.
Aber hier ist nochmal eine ganz besondere Sensibilität gefordert,
da natürlich dieses Masterpasswort letzten Endes der Schlüssel ist zu allen
generierten und genutzten Passwörtern.
Ich weiß nicht, ob es bei LastPass geht, aber bei einigen anderen Anbietern
gibt es noch zusätzliche Sicherungsmaßnahmen.
Man kann sich zum Beispiel einen digitalen Key generieren lassen,
der dann noch zusätzlich neben diesem Masterpasswort gebraucht wird,
um die Datenbank zu entschlüsseln.
Wunderbar. Vielen Dank, David. Wir befinden uns jetzt schon im Bereich der Veröffentlichung
und da möchte ich gerne mit dem Europäischen Datenschutzausschuss starten.
Der hat sein Referenzdokument für Binding Corporate Rules für Auftragsverarbeiter aktualisiert.
Binding Corporate Rules können ja genutzt werden als Instrument für Datenübermittlung
außerhalb des europäischen Wirtschaftsraums an Auftragsverarbeiter innerhalb
derselben Unternehmensgruppe.
Die Empfehlungen enthalten klare Kriterien und Erläuterungen,
um sicherzustellen, dass die von den Unternehmensgruppen oder eben von Unternehmen
entwickelten Binding Corporate Rules den Anforderungen entsprechen.
Darüber hinaus wurden dann aber auch nochmal Empfehlungen zur Antragstellung
auf Genehmigung der BCRs, also der Binding Corporate Rules, in das Dokument aufgenommen.
Die Empfehlungen können auch noch bis zum 2. März diesen Jahres öffentlich konsultiert werden.
Die französische Aufsichtsbehörde, die KNIL, hat ein FAQ zu den Transparenzpflichten,
die Organisationen bei der Entwicklung von KI-Systemen haben, veröffentlicht.
Dabei wird strikt zwischen den direkten Erhebungen bei den Nutzern und der indirekten
Erhebung durch Methoden wie Web-Scrapping oder Drittanbieter unterschieden,
wobei für Letztere unter bestimmten Bedingungen Ausnahmen von der individuellen
Informationspflicht bei unverhältnismäßigem Aufwand bestehen.
Außerdem wird betont, dass Informationen stets präzise, verständlich und leicht
zugänglich gestaltet sein müssen,
beispielsweise durch mehrstufige Datenschutzhinweise oder Schaubilder,
die den komplexen Trainingsprozess veranschaulichen.
Und darüber hinaus werden auch Empfehlungen zu Quellenangaben und zu Sicherheitsmaßnahmen
wie der Pseudonymisierung ausgesprochen.
Und mit diesen beiden Veröffentlichungshinweisen kommen wir dann auch schon
zum Ende unserer heutigen Folge, lieber David.
Vielen Dank, es hat mir wieder sehr viel Spaß gemacht.
Mir auch. Danke dir.
Und euch, liebe Zuhörerinnen und Zuhörer, wünschen wir natürlich,
wenn ihr uns am Freitag hört, ein schönes Wochenende.
Falls heute schon Montag sein sollte, dann natürlich einen guten Start in die
Woche und wir freuen uns auf nächste Woche. Bleibt uns gewogen und bis bald.
Bis bald.