PflichtGeplant

Hochrisiko: Zugang zu grundlegenden Diensten (Anhang III Nr. 5)

KI-Systeme für die Prüfung von Ansprüchen auf öffentliche Leistungen, für Kreditwürdigkeitsprüfung, für Risikobewertung bei Lebens- und Krankenversicherungen sowie für die Notrufbearbeitung gelten als hochriskant. Zwei dieser Bereiche lösen die Grundrechte-Folgenabschätzung aus.

Status
Geplant
Gilt ab
Nächster Termin
· Zum Kalender hinzufügen
Betrifft
Anbieter, Betreiber, Behörde, Verbraucher
Ebene
EU
Rechtsgrundlage
Verordnung (EU) 2024/1689, Anhang III Nummer 5 i. V. m. Art. 6 Abs. 2
Zuletzt geprüft

Nummer 5 des Anhangs III erfasst vier Anwendungen beim Zugang zu grundlegenden privaten und öffentlichen Diensten und Leistungen.

Öffentliche Unterstützungsleistungen (Buchstabe a)

KI-Systeme, die bestimmungsgemäß von Behörden oder in deren Namen verwendet werden, um zu beurteilen, ob natürliche Personen Anspruch auf grundlegende öffentliche Unterstützungsleistungen und -dienste haben — einschließlich Gesundheitsdiensten — und ob solche Leistungen zu gewähren, einzuschränken, zu widerrufen oder zurückzufordern sind.

Kreditwürdigkeit (Buchstabe b)

KI-Systeme für die Kreditwürdigkeitsprüfung und Bonitätsbewertung natürlicher Personen.

Ausgenommen sind Systeme, die zur Aufdeckung von Finanzbetrug verwendet werden.

Versicherungen (Buchstabe c)

KI-Systeme für die Risikobewertung und Preisbildung in Bezug auf natürliche Personen im Fall von Lebens- und Krankenversicherungen. Weitere Versicherungssparten nennt der Wortlaut nicht.

Notrufe und Rettungsdienste (Buchstabe d)

KI-Systeme für die Bewertung und Klassifizierung von Notrufen sowie für die Entsendung oder Priorisierung des Einsatzes von Not- und Rettungsdiensten, einschließlich Polizei, Feuerwehr und medizinischer Nothilfe — sowie Systeme für die Triage von Patienten bei der Notfallversorgung.

Auslöser der Grundrechte-Folgenabschätzung

Die Buchstaben b und c sind in Art. 27 Abs. 1 ausdrücklich benannt: Betreiber solcher Systeme müssen eine Grundrechte-Folgenabschätzung durchführen, unabhängig davon, ob sie öffentliche oder private Stellen sind.

Geltungsbeginn

Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027. Ursprünglich war der 2. August 2026 vorgesehen; die Digital-Omnibus-Verordnung hat den Termin verschoben.

Was daraus folgt

Für Systeme dieser Gruppe gelten die Anforderungen aus Kapitel III Abschnitt 2 der KI-Verordnung — unter anderem Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht und Konformitätsbewertung. Die Pflichten der Anbieter regelt Art. 16, die der Betreiber Art. 26.

Verstöße gegen die Anbieterpflichten nach Art. 16 und die Betreiberpflichten nach Art. 26 sind nach Art. 99 Abs. 4 mit Geldbußen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes belegt, je nachdem, welcher Betrag höher ist.

Für Systeme nach den Buchstaben b und c ist die Grundrechte-Folgenabschätzung nach Art. 27 stets durchzuführen. Für die übrigen Buchstaben dieser Nummer richtet sie sich nach dem Betreiber.

Verlauf

  1. Der Geltungsbeginn für Anhang-III-Systeme wird durch die Digital-Omnibus-Verordnung vom 2. August 2026 auf den 2. Dezember 2027 verschoben.

    Quelle

Quellen

Entwurf maschinell erstellt. Am von mt gegen die oben genannten Quellen geprüft. Die Seite gibt Quellen wieder und bietet keine Rechtsberatung. Mehr zum Verfahren: KI-Transparenz.

Verwandte Einträge