Das Recht auf Löschung, auch als „Recht auf Vergessenwerden“ bekannt, gehört zu den wichtigsten Rechten, die betroffenen Personen durch die Datenschutz-Grundverordnung (DSGVO) eingeräumt werden. Im Kern erlaubt es einer Person, die Löschung ihrer personenbezogenen Daten zu verlangen, wenn diese beispielsweise für den Zweck, für den sie erhoben wurden, nicht mehr erforderlich sind, die Einwilligung widerrufen wurde oder die Verarbeitung unrechtmäßig war. Der Verantwortliche ist in diesen Fällen verpflichtet, die Daten unverzüglich zu löschen.

In der Praxis wurde diese Pflicht lange Zeit relativ einfach verstanden: die Daten der Person in den Datenbanken des Unternehmens identifizieren, sie aus den operativen Systemen löschen und die an die betroffene Person übermittelte Antwort dokumentieren. Die rasante Entwicklung von Systemen der künstlichen Intelligenz stellt diese Logik jedoch vor erhebliche Herausforderungen.

Das Problem entsteht, wenn personenbezogene Daten nicht nur gespeichert, sondern zum Trainieren, Feinabstimmen oder Bewerten eines KI-Modells verwendet wurden. In einem solchen Fall existieren die Daten nicht mehr zwangsläufig als einzelner, leicht identifizierbarer und löschbarer Datensatz. Sie können sich stattdessen indirekt in den Parametern des Modells, in statistischen Gewichtungen oder im Verhalten des Systems widerspiegeln. Mit anderen Worten: Die Information wurde in das Modell integriert, sodass die Entfernung des Beitrags der Daten einer einzelnen Person technisch wie rechtlich erheblich schwieriger wird – mitunter praktisch unmöglich.

Genau hier liegt die zentrale Spannung: Die DSGVO geht davon aus, dass personenbezogene Daten identifiziert, kontrolliert und, wo nötig, gelöscht werden können. KI-Modelle hingegen funktionieren häufig, indem sie Muster aus großen Datenmengen verallgemeinern. Verlangt eine Person heute die Löschung ihrer Daten, stellt sich nicht mehr nur die Frage, ob die Daten aus dem CRM, der Marketingplattform oder dem Nutzerkonto entfernt wurden. Die eigentliche Frage lautet: Was geschieht mit dem Modell, das bereits auf Grundlage dieser Daten trainiert wurde?

Diese Frage gewinnt umso mehr an Bedeutung, als die europäischen Datenschutzbehörden begonnen haben, das Verhältnis zwischen der DSGVO und KI-Modellen ausdrücklich zu untersuchen. In der Stellungnahme 28/2024 hat der Europäische Datenschutzausschuss (EDSA) drei relevante Aspekte behandelt:

1. Die Anonymität des KI-Modells: Ein KI-Modell kann nur nach einer Einzelfallprüfung als anonym gelten. Das Modell darf weder die direkte oder indirekte Identifizierung der Personen ermöglichen, deren Daten bei seiner Entwicklung verwendet wurden, noch die Extraktion personenbezogener Daten durch Abfragen des Modells.
2. Berechtigtes Interesse als Rechtsgrundlage: Ein berechtigtes Interesse kann die Verarbeitung von Daten zur Entwicklung oder Nutzung eines KI-Modells nur rechtfertigen, wenn drei Voraussetzungen erfüllt sind: das Bestehen eines berechtigten Interesses, die zwingende Erforderlichkeit der Verarbeitung sowie eine Abwägung dieses Interesses gegen die Rechte und Freiheiten der betroffenen Personen. Von Bedeutung ist zudem, ob die betroffenen Personen vernünftigerweise damit rechnen konnten, dass ihre Daten zu diesem Zweck verwendet werden.
3. Rechtswidrig verarbeitete personenbezogene Daten: Wurde ein KI-Modell unter Verwendung rechtswidrig verarbeiteter personenbezogener Daten entwickelt, kann dies die Rechtmäßigkeit der weiteren Nutzung des Modells beeinträchtigen. Eine Ausnahme kommt nur in Betracht, wenn das Modell ordnungsgemäß anonymisiert wurde.

Für Unternehmen ist die Botschaft eindeutig: Die bloße Behauptung, ein Modell „enthalte keine personenbezogenen Daten“, genügt nicht. Eine solche Schlussfolgerung muss durch eine fundierte, dokumentierte Analyse gestützt werden. In bestimmten Fällen kann ein Modell die Extraktion, Reidentifizierung oder Reproduktion personenbezogener Informationen ermöglichen, insbesondere wenn es mit sensiblen, begrenzten oder unzureichend bereinigten Datensätzen trainiert wurde. In anderen Fällen mag das Risiko geringer sein, doch darf nie automatisch angenommen werden, ein Modell sei anonym, nur weil die Daten nicht mehr in klassischer Form sichtbar sind.

Das praktische Risiko für Unternehmen besteht darin, nur eine scheinbare Konformität zu erreichen. Eine Organisation kann auf einen Löschantrag reagieren, die Daten aus ihren Kernsystemen entfernen und der betroffenen Person mitteilen, dass der Antrag bearbeitet wurde. Wurden diese Daten jedoch zuvor zur Entwicklung eines KI-Modells verwendet, ohne dass dieser Aspekt geprüft wurde, bleibt das Unternehmen möglicherweise weiterhin exponiert. Im Rahmen einer Untersuchung wird die Behörde nicht nur fragen: „Haben Sie den Datensatz gelöscht?“, sondern auch: „Wo wurden diese Daten sonst noch verwendet, und welche Auswirkungen hatte die Löschung auf die damit entwickelten KI-Systeme?“

Diese Problematik ist auch im breiteren Kontext des AI Act zu betrachten. Die Verordnung (EU) 2024/1689 schafft einen harmonisierten europäischen Rahmen für künstliche Intelligenz und verfolgt das Ziel, eine menschenzentrierte und vertrauenswürdige KI zu fördern und dabei ein hohes Schutzniveau für Gesundheit, Sicherheit und Grundrechte zu gewährleisten. Auch wenn der AI Act die DSGVO nicht ersetzt, müssen beide Regelwerke gemeinsam angewendet werden. Ein KI-System kann die technischen Anforderungen des AI Act erfüllen und dennoch erhebliche Probleme aufwerfen, wenn die für seine Entwicklung verwendeten personenbezogenen Daten nicht rechtmäßig, transparent und sorgfältig dokumentiert verarbeitet wurden.

Was sollten Organisationen tun, die KI-Systeme entwickeln oder nutzen?

Zunächst müssen Unternehmen wissen, welche Daten zu welchem Zweck, auf welcher Rechtsgrundlage und in welcher Phase des Lebenszyklus des KI-Systems verwendet wurden. Die Inventarisierung der Datensätze ist längst keine bloße Verwaltungsaufgabe mehr, sondern eine wesentliche Voraussetzung, um Anträge betroffener Personen überhaupt beantworten zu können.

Zweitens müssen die internen Verfahren zum Recht auf Löschung aktualisiert werden, um auch Szenarien abzudecken, in denen Daten zum Trainieren oder Feinabstimmen eines Modells verwendet wurden. Ein Verfahren, das nur die operativen Datenbanken prüft, ist unvollständig, sobald ein Unternehmen KI einsetzt.

Drittens müssen Organisationen dokumentieren, ob das entstandene Modell weiterhin als anonym gelten kann oder ob das Risiko besteht, dass personenbezogene Daten extrahiert, abgeleitet oder reproduziert werden können. Diese Analyse muss von Fall zu Fall erfolgen, abhängig von der Art des Modells, der Beschaffenheit der Daten, dem Umfang des Trainingsdatensatzes und den umgesetzten technischen Maßnahmen.

Viertens sind, wo eine tatsächliche Löschung aus dem Modell technisch nicht möglich ist oder unverhältnismäßige Kosten verursachen würde, alternative Maßnahmen zu prüfen: der Ausschluss der Daten aus künftigen Trainingsdatensätzen, das Neutrainieren des Modells, dessen Anpassung, die Einschränkung seiner Nutzung oder die Umsetzung risikomindernder Mechanismen. Entscheidend ist, dass die Organisation das Problem nicht ignoriert, sondern nachweisen kann, dass sie es tatsächlich bewertet hat.

Im Zeitalter der künstlichen Intelligenz bedeutet Compliance nicht mehr nur zu wissen, wo Daten gespeichert sind. Es bedeutet auch zu wissen, wie sie verwendet wurden, welche Systeme auf ihrer Grundlage entwickelt wurden und welche Auswirkungen diese Nutzung im Laufe der Zeit hat.

Das Recht auf Vergessenwerden verschwindet angesichts der künstlichen Intelligenz nicht. Im Gegenteil: Es wird zu einem Test organisatorischer Reife. Unternehmen, die KI einsetzen, müssen darauf vorbereitet sein, nicht nur die Frage zu beantworten „Haben wir die Daten gelöscht?“, sondern auch die schwierigere Frage: „Was hat das System aus diesen Daten gelernt, und können wir nachweisen, dass wir dieses Problem konform behandelt haben?“