EDSA: KI-Modelle sind selten anonym (Stellungnahme 28/2024)

Die irische Datenschutzbehörde hatte den Europäischen Datenschutzausschuss um eine Stellungnahme zu Fragen mit Auswirkungen in mehreren Mitgliedstaaten ersucht. Kern war die Frage, ob mit personenbezogenen Daten trainierte KI-Modelle selbst als personenbezogen einzustufen sind.

Kernaussagen

Der EDSA hält fest, dass die behauptete Anonymität eines Modells von den Aufsichtsbehörden im Einzelfall zu prüfen ist. Anonym kann ein Modell nur sein, wenn zwei Voraussetzungen kumulativ erfüllt sind: Sowohl die Wahrscheinlichkeit einer direkten Entnahme personenbezogener Daten als auch die Wahrscheinlichkeit, solche Daten über Abfragen zu erlangen, müssen unbedeutend sein.

Zum berechtigten Interesse nach Art. 6 Abs. 1 lit. f DSGVO beschreibt die Stellungnahme einen dreistufigen Prüfmaßstab: legitimes Interesse, Erforderlichkeit, Abwägung mit den Interessen der betroffenen Personen. Ein weiterer Abschnitt behandelt die Folgen, wenn ein Modell unter Verwendung unrechtmäßig verarbeiteter Daten entwickelt wurde.

Annahme und Anlass

Der EDSA nahm die Stellungnahme am 17. Dezember 2024 an. Die Pressemitteilung datiert vom 18. Dezember 2024.

Anlass war ein Ersuchen der irischen Datenschutzaufsicht vom September 2024 nach Art. 64 Abs. 2 DSGVO. Anders als Leitlinien, Empfehlungen und bewährte Verfahren, die der EDSA von sich aus nach Art. 70 Abs. 1 DSGVO herausgibt, beantwortet eine Stellungnahme nach Art. 64 Abs. 2 eine an ihn herangetragene Frage.

Die Stellungnahme knüpft an den Bericht der ChatGPT-Taskforce vom 23. Mai 2024 an.

Die vier Fragen

1. Wann ist ein KI-Modell als anonym anzusehen?
2. und 3. Wie können Verantwortliche die Geeignetheit des berechtigten Interesses als Rechtsgrundlage in der Entwicklungs- und in der Einsatzphase darlegen?
3. Welche Folgen hat eine unrechtmäßige Verarbeitung in der Entwicklungsphase für die spätere Verarbeitung oder den Betrieb des Modells?

Bei der zweiten und dritten Frage stützt sich der EDSA auf seine Leitlinien 1/2024 zum berechtigten Interesse und die dort beschriebene dreistufige Prüfung.

Abgrenzung von KI-System und KI-Modell

Die Stellungnahme unterscheidet ausdrücklich zwischen KI-Systemen und KI-Modellen. Sie hält fest, dass die KI-Verordnung (englisch AI Act) KI-Modelle nur mittelbar definiert: Modelle sind wesentliche Bestandteile von Systemen, bilden aber für sich genommen kein System; sie benötigen weitere Bestandteile, etwa eine Benutzeroberfläche.

Der EDSA weist zudem darauf hin, dass die im Ersuchen verwendete Definition eines KI-Modells enger ist als die der KI-Verordnung.