Anforderungen an eigenständige Hochrisiko-KI-Systeme (Anhang III)

Die KI-Verordnung (englisch AI Act) kennt zwei Wege in die Hochrisiko-Einstufung. Systeme, die nach Art. 6 Abs. 2 in Verbindung mit Anhang III als hochriskant gelten, unterliegen umfangreichen Anforderungen an Risikomanagement, Daten-Governance, technische Dokumentation, menschliche Aufsicht und Konformitätsbewertung.

Die acht Bereiche des Anhangs III

Jeder Bereich hat einen eigenen Eintrag mit den Ausnahmen und Abgrenzungen, die in der Praxis entscheiden. Die folgende Übersicht fasst zusammen.

1. Biometrie (soweit unionsrechtlich oder national zugelassen): biometrische Fernidentifizierungssysteme — nicht jedoch die bloße Verifizierung; biometrische Kategorisierung nach sensiblen oder geschützten Attributen; Emotionserkennung.

2. Kritische Infrastruktur: Systeme als Sicherheitsbauteile bei Verwaltung und Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- oder Stromversorgung.

3. Allgemeine und berufliche Bildung: Zugang, Zulassung und Zuweisung zu Bildungseinrichtungen; Bewertung von Lernergebnissen; Bewertung des angemessenen Bildungsniveaus; Überwachung und Erkennung verbotenen Verhaltens bei Prüfungen.

4. Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit: Einstellung und Auswahl, insbesondere gezielte Stellenanzeigen, Sichten und Filtern von Bewerbungen und Bewertung von Bewerbern; Entscheidungen über Bedingungen von Arbeitsverhältnissen, Beförderungen und Kündigungen, Aufgabenzuweisung aufgrund individuellen Verhaltens oder persönlicher Merkmale sowie Beobachtung und Bewertung von Leistung und Verhalten.

5. Zugänglichkeit grundlegender privater und öffentlicher Dienste: Beurteilung von Ansprüchen auf öffentliche Unterstützungsleistungen einschließlich Gesundheitsdiensten durch Behörden; Kreditwürdigkeitsprüfung und Bonitätsbewertung (außer Aufdeckung von Finanzbetrug); Risikobewertung und Preisbildung bei Lebens- und Krankenversicherungen; Bewertung und Klassifizierung von Notrufen sowie Entsendung und Priorisierung von Not- und Rettungsdiensten einschließlich Patiententriage.

6. Strafverfolgung (soweit zugelassen): Bewertung des Risikos, Opfer einer Straftat zu werden; Lügendetektoren und ähnliche Instrumente; Bewertung der Verlässlichkeit von Beweismitteln; Bewertung des Risikos, dass eine Person eine Straftat begeht oder erneut begeht, nicht nur auf Grundlage von Profiling; Erstellung von Profilen im Zuge von Aufdeckung, Ermittlung oder Verfolgung.

7. Migration, Asyl und Grenzkontrolle (soweit zugelassen): Lügendetektoren; Bewertung von Sicherheits-, Migrations- oder Gesundheitsrisiken einreisender Personen; Unterstützung bei der Prüfung von Asyl- und Visumanträgen sowie Aufenthaltstiteln; Aufdeckung, Anerkennung oder Identifizierung natürlicher Personen, ausgenommen die Überprüfung von Reisedokumenten.

8. Rechtspflege und demokratische Prozesse: Unterstützung von Justizbehörden bei Ermittlung und Auslegung von Sachverhalten und Rechtsvorschriften sowie bei der Rechtsanwendung, auch in der alternativen Streitbeilegung; Beeinflussung des Ergebnisses von Wahlen oder Referenden oder des Wahlverhaltens — nicht jedoch Instrumente zur administrativen oder logistischen Organisation politischer Kampagnen.

Anmerkungen

Zum Bereich Beschäftigung hält Erwägungsgrund 57 fest, dass einschlägige Arbeitsvertragsverhältnisse auch Personen erfassen sollen, die Dienstleistungen über Plattformen erbringen.

Nummer 2 ist von der Grundrechte-Folgenabschätzung nach Art. 27 ausgenommen, Nummer 5 Buchstaben b und c lösen sie aus.

Die Kommission kann Anhang III nach Art. 6 über delegierte Rechtsakte fortentwickeln; der Inhalt ist damit nicht dauerhaft festgeschrieben.

Verschiebung

Ursprünglich sollten diese Pflichten am 2. August 2026 greifen. Die Stammfassung des Art. 113 sah dafür keinen gesonderten Termin vor; Anhang-III-Systeme fielen unter den allgemeinen Geltungsbeginn.

Der geänderte Art. 113 Abs. 3 Buchstabe c bestimmt nunmehr: Kapitel III Abschnitte 1, 2 und 3 gelten — mit Ausnahme des Art. 6 Abs. 5 — ab dem 2. Dezember 2027 für Systeme nach Art. 6 Abs. 2 und Anhang III und ab dem 2. August 2028 für Systeme nach Art. 6 Abs. 1 und Anhang I. Als Begründung werden in den Materialien fehlende harmonisierte Normen und die verzögerte Benennung notifizierter Stellen genannt.