Sicherheitsvorfall bei Meta durch KI-Agenten – DS News KW 13/2026

Transkript zur Folge:

Herzlich willkommen zum Datenschutz-Talk, eurem wöchentlichen Datenschutz-Update der Migosense.
Heute ist Freitag, der 27. März 2026, unser Rektionsschluss,
wie immer um 10 Uhr. Mein Name ist Heiko Gossen.
Und ich bin Julia Kriwett.
Und wir starten heute wieder gemeinsam mit euch ins Wochenende.
Gucken wie gewohnt einmal auf die wichtigsten Dinge, die im Datenschutz so passiert
sind diese Woche in der KW 1326 haben wir schon. Es ist unglaublich, oder Julia?
So ist es. Die Zeit verfliegt.
Quartal ist sozusagen so gut wie rum. Es ist schon viel passiert dieses Jahr,
aber wir gucken auf die Woche. Was hast du mitgebracht, Julia?
Ich habe heute einen Sicherheitsvorfall bei Meta durch KI-Agenten,
was zum Beschwerdeanstieg bei den Aufsichtsbehörden und Informationen zur europaweiten
Prüfung zu Transparenzpflichten im Rahmen des Coordinated Enforcement Frameworks. Was hast du denn dabei?
Auf meiner Liste stehen heute unter anderem ein Urteil des VG Düsseldorf zum
Thema Werbevideos auf Facebook.
Dann schauen wir auf ein Quickie zur Datenschutz-Zwischenkonferenz.
Da gibt es nämlich nur eine kurze Pressemitteilung.
Dann etwas eher Technisches im Bereich der Informationssicherheit,
nämlich Trivi. ein Trivi-Hack, nicht ganz unkritisch, nicht ganz unwichtig,
deswegen gucken wir da drauf.
Und wir haben ja beide auch noch ein bisschen was in der Rubrik Veröffentlichungen
und Veranstaltungen dabei.
Genau.
Gut, dann würde ich sagen, legen wir los. Die Bühne gehört dir, liebe Julia.
Danke schön. Mitte März 2026 kam es bei Meta zu einem sicherheitsrelevanten Vorfall.
Ein interner KI-Agent wurde zur Unterstützung in einem Entwicklerforum eingesetzt
Statt hilfreiche Antworten generierte der Agent jedoch eigenständig fehlerhafte
und nicht geprüfte Anweisungen.
Ein Mitarbeiter folgte diesen, mit der Folge, dass sensible Mitarbeiterdaten
und interne Informationen für rund zwei Stunden ungeschützt zugänglich waren.
Meta stufte den Vorfall als schwerwiegend ein.
Auch wenn kein Missbrauch der Daten festgestellt wurde, zeigt der Fall deutlich,
dass autonome KI-Systeme eigenständig Risiken erzeugen können und auch klassische
Kontrollmechanismen unterlaufen können.
So ein Vorfall wirft natürlich auch immer neue zentrale Fragen auf, wie zum Beispiel,
wer die Verantwortung für die Entscheidung eines solchen KI-Agenten im Endeffekt
trägt oder auch wie sichergestellt werden kann, dass KI keine unautorisierten
Datenzugriffe oder Offenlegungen auslöst und zu guter Letzt auch natürlich,
ob bestehende technische und organisatorische Maßnahmen noch ausreichen.
Das ist allerdings auch kein Einzelfall gewesen.
Auch zum Beispiel bei Amazon kam es zuletzt mehrfach zu Problemen durch KI-gestützte
Systeme, unter anderem zu massiven Systemausfällen und verlorenen Bestellungen
durch automatisierte Codeänderungen.
Diese Vorfälle zeigen zusätzlich, KI kann nicht nur Daten, sondern ganze Geschäftsprozesse destabilisieren.
Man merkt immer wieder, KI ist kein rein technisches Tool mehr,
sondern ein eigenständig handelnder Risikofaktor und die Datenschutzcompliance
muss sich daher stetig und dringend an neue Realitäten anpassen.
Ja, ich glaube, das ist etwas, das wahrscheinlich jetzt viele Unternehmen vielleicht
auch unterschätzen, aber auf jeden Fall auf dem Schirm haben sollten, wenn wir überlegen,
dass ja das Thema Digitalisierung, Automatisierung in sehr vielen Unternehmen
jetzt doch verstärkt angegangen wird.
Und einfach aufgrund der Möglichkeiten, die heute KI natürlich bietet,
glaube ich, ist das aber ein ganz entscheidender Punkt, dass man genau schaut,
wie weit darf eine KI denn gehen und ihr auch natürlich im Vorfeld am besten
irgendwelche Schranken setzt, technisch oder organisatorische Art,
um Entscheidungen dann noch kontrollieren zu können, ja.
Ja, aber mehr klare Regeln für den Einsatz von KI ist von großer Relevanz.
Kommen wir nach Düsseldorf. Das Verwaltungsgericht Düsseldorf hat klargestellt,
dass Urlauber nicht ohne Einwilligung in Werbevideos auf Facebook gezeigt werden dürfen,
weil ihre schutzwürdigen Interessen
regelmäßig überwiegen und auch das Kunsturhebergesetz hier nicht greift.
Ich sage mal so, es ist in der Kategorie wenig überraschend,
aber die Veröffentlichung von Videos mit Badegästen am Pool,
also hier konkret einem Luxus-Sky-Pool, bedarf einer Einwilligung,
sobald die Betroffenen erkennbar sind.
Kurz zum Sachverhalt. Ein Reisevermittler hatte auf seinem Facebook-Account
Videos von Reiseorten veröffentlicht, unter anderem aus einem Pool in Dubai.
Und darin waren dann entsprechend zahlreiche Personen erkennbar.
Nach einer Beschwerde hier schritt dann auch die Datenschutzaufsicht ein und
verlangt, alle entsprechenden Videos zu bearbeiten, sodass keine Identifizierung
mehr möglich ist oder sie entsprechend zu löschen.
Der Verantwortliche hier hat sich dagegen gewehrt. In dem Urteil geht es auch
sehr lange darum, was hier alles rechtmäßig ist und so weiter,
was den Beschluss angeht.
Aber kommen wir zur eigentlichen datenschutzrechtlichen Frage.
Und hier ist ganz schön, wie sauber das Gericht diese klassische dreistufige
Prüfung hier nach Artikel 6 Absatz 1 Lit F nochmal durchdekliniert.
Und daher kann man das meines Erachtens auch ganz gut für vergleichbare Fälle
als Vorlage natürlich nutzen.
Gehen wir das ganz kurz durch. Erster Schritt berechtigtes Interesse.
Hier hat das Gericht noch klar bejaht.
Hier die wirtschaftliche Interesse, Werbung zu machen und so weiter,
sieht das Gericht schon als berechtigtes Interesse an.
Zweiter Schritt, ihr kennt das alles, Erforderlichkeit. Hier wird es dann aber
kritisch, da sagt das Gericht ganz klar, naja, für Werbung ist es nicht erforderlich,
dass unbeteiligte Dritte identifizierbar im Video zu sehen sind.
Das hätte man anders lösen können, natürlich zum Beispiel durch Unkenntlichmachung.
Und dann der dritte Schritt, auch da wird es dann relativ klar vom Gericht her,
denn in der Interessenabwägung sagt es ganz klar,
dass hier die Interessen deutlich zugunsten der Betroffenen ausfallen,
denn die Personen waren im Urlaub, also Freizeit, teilweise sogar leicht bekleidet.
Dazu kommen, sie stehen in keinem direkten geschäftlichen Verhältnis zu dem Verantwortlichen.
Dann kommt es natürlich noch zu der enormen Reichweite bei Facebook.
Also summa summarum, in so einer Situation müssen Betroffene nicht damit rechnen,
weltweit in Werbevideos aufzutauchen.
Kurz noch zum Kunsturhebergesetz. Da sagt das Gericht ebenfalls klar,
das greift hier nicht. Der Grund ist einfach, wir sind nicht im journalistischen Kontext.
Also das heißt, nur weil jemand an die Öffentlichkeit geht, ist es nicht gleich Journalismus.
Und damit fehlt hier letztendlich dann auch die Öffnung an der 85 für das KUG.
Ja, so viel dazu. So, wenig überraschend, oder Julia?
Ja, das stimmt. Ist zu begrüßen, die Entscheidung. Die Zahl der Beschwerden
bei den Aufsichtsbehörden erreichte im Jahr 2025 neue Höchststände.
Mehrere Landesdatenschutzbehörden berichten für das Jahr 2025 von massiven Anstiegen,
darunter Hessen, Hamburg und Sachsen beispielsweise.
Parallel dazu nehmen auch Datenpannmeldungen, Beratungsanfragen und Bußgeldverfahren deutlich zu.
Dabei ist auch vielleicht, dass der Anstieg alle Branchen und Themenbereiche betrifft.
Da fragt man sich natürlich, woran das liegt und da sind wir wieder bei der KI.
Also ein zentraler Grund für diese Entwicklung ist die zunehmende Nutzung von
KI-Tools wie zum Beispiel Chatbots.
Diese helfen den Betroffenen nicht nur dabei, ihre Rechte besser zu verstehen,
sondern schlagen häufig sogar aktiv vor, sich an die Datenschutzbehörden zu wenden.
Inklusive fertig formulierter Beschwerden. Es ist also ziemlich einfach für
die Betroffenen, ihre Rechte geltend zu machen.
Und gleichzeitig zeigt sich natürlich auch, dass das Bewusstsein für Datenschutzrechte
deutlich wächst und dass Bürger ihre Rechte aktiver wahrnehmen und diese auch einfordern.
Ja.
Deckt sich ja auch ziemlich mit dem, was wir auch in der Beratung feststellen bei unseren Kunden.
Dann hat man natürlich einzelne Petenten mitunter dazwischen,
die das schon sehr massiv betreiben und die ja dann auch die Aufwandstreiber sind.
Und das ist bei den Aufsichtsbehörden nicht anders. Also da muss man sagen,
da zieht man mit den Aufsichtsbehörden, glaube ich, ein bisschen an einem Strang.
Und ist auch das, was natürlich, um jetzt mal ganz kurz einen Exkurs,
wir haben ja schon darüber berichtet, es gibt ja diesen Digitalomnibus,
also den Vorschlag von der EU-Kommission ja auch mit dem Auskunftsrecht in der
DSGVO ein wenig das zu schärfen.
Also ich glaube, wie gesagt, das ist grundsätzlich begrüßenswert,
weil einfach genau das natürlich die massiven Aufwände bei Behörden wie Unternehmen
einfach, die sind einfach zu hoch. Die muss man reduzieren.
Das stimmt.
Ja, kommen wir zu meinem angekündigten Quickie. Die Zwischenkonferenz der DSK,
also der Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder,
hat diese Woche stattgefunden und dort wurde beschlossen, Leitlinien zur Digitalisierung
der öffentlichen Verwaltung zu entwickeln.
Außerdem Themen waren die europäische digitale Brieftasche, eine engere Zusammenarbeit
mit dem Bundesamt für Sicherheit in der Informationstechnik,
dem BSI und auch der EU Digital Fitness Check war dort Thema.
Wir verlinken die Pressemitteilung mal, aber versprecht euch nicht zu viel.
Es steht nicht viel mehr drin als das, was ich gerade wiedergegeben habe.
Der Europäische Datenschutzausschuss ETSA hat für 2026 erneut eine gemeinsame
Prüfinitiative im Rahmen des sogenannten Coordinated Enforcement Framework gestartet.
Darüber hatten wir auch schon mal berichtet. Insgesamt beteiligen sich 25 Datenschutzaufsichtsbehörden
aus ganz Europa an dieser Aktion.
Aus Deutschland nehmen unter anderem die Aussichtsbehörden aus Brandenburg und Niedersachsenthal.
Der Schwerpunkt der diesjährigen Prüfung liegt auf der Einhaltung der Transparenzpflichten
nach Artikel 13 und 14 DSGVO, also der Frage, ob Unternehmen betroffene Personen
ausreichend darüber informieren, wie und warum ihre personenbezogenen Daten verarbeitet werden.
Das zeigt wieder, die Durchsetzung der DSGVO wird zunehmend koordiniert und
auch europaweit vereinheitlich, was ja grundsätzlich sehr begrüßenswert ist
und macht auch deutlich, auch Transparenz ist kein Nice-to-have,
sondern ein zentraler Compliance-Faktor,
sodass Unternehmen empfohlen es, ihre Informationspflichten lieber zu überprüfen,
bevor es die Aufsichtsbehörden dann tun.
Das BSI meldet eine schwere Lieferkettenattacke auf den beliebten Schwachstellen-Scanner Trivi.
Das ist bereits der zweite Vorfall dort in wenigen Wochen.
Diesmal ist der Sicherheitsscanner Ziel einer Supply-Chain-Attacke geworden,
bei der manipulierte Software Schadcode in Entwicklungsumgebungen eingeschleust hat.
Die Angreifer haben die Software selbst und zusätzlich rund 140 sogenannte NPM-Pakete kompromittiert.
Das sind also kleine Software-Bausteine, die aus einem öffentlichen Online-Archiv
die Entwickler zum Beispiel dann automatisch in ihre Projekte einbinden.
Über diese manipulierten Bausteine dürfte also Schadcode in wahrscheinlich viele
Anwendungen unbemerkt gelangt sein und es folgt so ein bisschen dem Prinzip,
wie wir das auch bei Solar Vines 2020 gesehen haben,
nutzt aber hier dann natürlich auch die Verbreitung von Open-Source-Komponenten nochmal aus.
Daher mein Tipp, die Eigenentwicklung, also wenn man im Unternehmen Eigenentwicklungen
hat, wo man externe Bibliotheken und so weiter einsetzt,
am besten mit den Entwicklern mal prüfen, ob hier gegebenenfalls kompromittierte
Pakete verwendet worden sein könnten, weil im Zweifelsfall hat man sich die
Schadsoftware da irgendwo reingeholt und hat es vielleicht selber noch gar nicht bemerkt.
So, dann sind wir auch schon bei den Veröffentlichungen und Veranstaltungen
angekommen. Ich habe eine Veröffentlichung von der Landesbeauftragten für den
Datenschutz und die Informationsfreiheit Baden-Württemberg, die ich euch gerne ans Herz legen möchte.
Diese hat auf Grundlage des Corporate Enforcement Framework Abschlussberichtes
2025 Best Practices für Verantwortliche zur Umsetzung des Rechts auf Löschung
nach Artikel 17 DSGVO zusammengestellt. Lohnt sich sicherlich mal reinzuschauen.
Dann hätte ich eine Veranstaltung, es ist eine Sprechstunde und zwar am 1. April.
Soll kein April-Scherz sein, lädt der Hamburgische Datenschutzbeauftragte ein,
Thomas Fuchs, zu einer digitalen Sprechstunde rund um seinen Tätigkeitsbericht,
den aktuellen, den er nämlich diese Woche vorgestellt hat.
Eine vorherige Anmeldung ist nicht erforderlich. Wir packen den Link zur Online-Teilnahme
dann auch in die Shownotes und dort kann man dann Fragen zu Tätigkeitsbericht stellen,
die Herr Fuchs dann wahrscheinlich alle schön beantwortet.
Außerdem hat der Europäische Datenschutzausschuss Leitlinie zur Rechtsgrundlage
des berechtigten Interesses veröffentlicht.
Das ist eine Sammlung, die auf zahlreichen Entscheidungen europäischer Datenschutzaufsichtsbehörden
basiert und praxisnah zeigt, wann sich Verantwortliche auf das berechtigte Interesse
stützen können und wann nicht.
Außerdem enthält das Dokument sowohl positive als auch negative Compliance-Beispiele.
Verlinken wir euch ebenfalls in den Shownotes.
Das Urteil von VG Düsseldorf ist wahrscheinlich noch nicht drin,
aber ich finde das Thema,
wie gesagt, ich weiß, am meisten bluten schon die Ohren, weil ich damit immer
wiederkomme, aber ich halte dieses Thema Berechtigungsinteresse nach wie vor
für ein ganz, ganz wichtiges, weil wir sehen das an sehr vielen Entscheidungen,
wie häufig da die Überlegungen, warum das Berechtigungsinteresse ausreichen
könnte, widerlegt werden.
Und deswegen ist eine vernünftige, strukturierte Herangehensweise einfach enorm wichtig.
Deswegen würde ich dieses Dokument auch, ohne es selber jetzt gelesen zu haben,
auf jeden Fall empfehlen.
So ist es.
Gut, vielen Dank Julia.
Danke dir.
Und euch auch vielen Dank fürs Dranbleiben. Wir wünschen euch ein schönes Wochenende.
Bleibt uns gewogen und auf bald.
Bis dann, schönes Wochenende.