PflichtGeplant

Hochrisiko: Strafverfolgung (Anhang III Nr. 6)

KI-Systeme zur Risikobewertung von Personen, als Lügendetektoren, zur Bewertung der Verlässlichkeit von Beweismitteln und zur Erstellung von Profilen gelten im Bereich der Strafverfolgung als hochriskant — soweit ihr Einsatz zugelassen ist.

Status
Geplant
Gilt ab
Nächster Termin
· Zum Kalender hinzufügen
Betrifft
Behörde, Anbieter, Verbraucher
Ebene
EU
Rechtsgrundlage
Verordnung (EU) 2024/1689, Anhang III Nummer 6 i. V. m. Art. 6 Abs. 2
Zuletzt geprüft

Nummer 6 des Anhangs III erfasst fünf Anwendungen im Bereich der Strafverfolgung — jeweils nur, soweit ihr Einsatz nach einschlägigem Unionsrecht oder nationalem Recht zugelassen ist.

Adressaten sind Strafverfolgungsbehörden, Stellen, die in deren Namen handeln, sowie Organe, Einrichtungen und sonstige Stellen der Union zur Unterstützung von Strafverfolgungsbehörden.

Was erfasst ist

Opferrisiko (Buchstabe a): Bewertung des Risikos einer natürlichen Person, zum Opfer von Straftaten zu werden.

Lügendetektoren und ähnliche Instrumente (Buchstabe b).

Verlässlichkeit von Beweismitteln (Buchstabe c): Bewertung im Zuge der Ermittlung oder Verfolgung von Straftaten.

Täterrisiko (Buchstabe d): Bewertung des Risikos, dass eine natürliche Person eine Straftat begeht oder erneut begeht — nicht nur auf der Grundlage der Erstellung von Profilen nach Art. 3 Abs. 4 der Richtlinie (EU) 2016/680, sowie die Bewertung persönlicher Merkmale und Eigenschaften oder vergangenen kriminellen Verhaltens von Personen oder Gruppen.

Profilerstellung (Buchstabe e): Erstellung von Profilen natürlicher Personen im Zuge der Aufdeckung, Ermittlung oder Verfolgung von Straftaten.

Verhältnis zum Landesrecht

Der Einsatz automatisierter Datenanalyse durch Polizeibehörden ist in Deutschland zusätzlich landesrechtlich geregelt; die einschlägigen Vorschriften der Länder sind in der Übersicht zur automatisierten Datenanalyse erfasst.

Behörden sind Einrichtungen des öffentlichen Rechts. Betreiber dieser Gruppe unterliegen nach Art. 27 Abs. 1 zusätzlich der Grundrechte-Folgenabschätzung.

Geltungsbeginn

Die Pflichten für Hochrisiko-KI-Systeme nach Anhang III gelten ab dem 2. Dezember 2027. Ursprünglich war der 2. August 2026 vorgesehen; die Digital-Omnibus-Verordnung hat den Termin verschoben.

Was daraus folgt

Für Systeme dieser Gruppe gelten die Anforderungen aus Kapitel III Abschnitt 2 der KI-Verordnung — unter anderem Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht und Konformitätsbewertung. Die Pflichten der Anbieter regelt Art. 16, die der Betreiber Art. 26.

Verstöße gegen die Anbieterpflichten nach Art. 16 und die Betreiberpflichten nach Art. 26 sind nach Art. 99 Abs. 4 mit Geldbußen bis zu 15 Millionen Euro oder 3 Prozent des weltweiten Jahresumsatzes belegt, je nachdem, welcher Betrag höher ist.

Ob im Einzelfall zusätzlich eine Grundrechte-Folgenabschätzung nach Art. 27 durchzuführen ist, richtet sich nach dem Betreiber und dem Anwendungsbereich.

Verlauf

  1. Korrektur Bezeichnung im Text von Matrix auf Übersicht geändert.

  2. Der Geltungsbeginn für Anhang-III-Systeme wird durch die Digital-Omnibus-Verordnung vom 2. August 2026 auf den 2. Dezember 2027 verschoben.

    Quelle

Quellen

Entwurf maschinell erstellt. Am von mt gegen die oben genannten Quellen geprüft. Die Seite gibt Quellen wieder und bietet keine Rechtsberatung. Mehr zum Verfahren: KI-Transparenz.

Verwandte Einträge