31 Einträge
PflichtIn Kraft
Anbieter und Betreiber von KI-Systemen müssen sich um die KI-Kompetenz ihres Personals kümmern. Die Digital-Omnibus-Verordnung hat die Pflicht von einer Sicherstellungs- zu einer Förderpflicht abgeschwächt.
PflichtIn Kraft
Die KI-Verordnung kennt eine eigene Kategorie für die leistungsfähigsten Modelle. Wer ein solches anbietet, muss es mit Angriffstests bewerten, systemische Risiken auf Unionsebene mindern, für Cybersicherheit sorgen und schwerwiegende Vorfälle unverzüglich dem Büro für Künstliche Intelligenz melden.
PflichtGeplant
Kapitel III Abschnitt 2 der KI-Verordnung legt fest, was ein Hochrisiko-KI-System können muss: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit.
PflichtGeplant
Artikel 16 zählt zwölf Pflichten auf, die Anbieter von Hochrisiko-KI-Systemen treffen — von der Einhaltung der Anforderungen über Qualitätsmanagement und Konformitätsbewertung bis zur CE-Kennzeichnung und den Barrierefreiheitsanforderungen.
PflichtGeplant
Die Richtlinie (EU) 2024/2853 bezieht Software ausdrücklich in die verschuldensunabhängige Produkthaftung ein; KI-Systeme sind ein Unterfall davon. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht werden. In Deutschland soll ein vollständig neu gefasstes Produkthaftungsgesetz sie umsetzen.
PflichtIn Kraft
Das KI-MIG überlässt den Ländern drei Benennungen: die Marktüberwachungsbehörden für KI-Systeme eigener Behörden, die Marktüberwachungsbehörden für Mediendienstanbieter und die notifizierenden Behörden für Seilbahnen. Welche Länder das umgesetzt haben, ist nicht öffentlich dokumentiert.
PflichtIn Kraft
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen — nach einer verbindlichen Vorlage des Büros für Künstliche Intelligenz vom 24. Juli 2025. Die Pflicht trifft auch Anbieter quelloffener Modelle.
PflichtIn Kraft
Das KI-MIG verteilt die Marktüberwachung auf acht Fallgruppen. Die Bundesnetzagentur ist nur zuständig, soweit nichts anderes bestimmt ist — und das ist es in sieben Absätzen. Für KI-Systeme öffentlicher Stellen der Länder liegt die Aufsicht bei den Ländern.
PflichtGeplant
KI-Systeme für Einstellung und Auswahl sowie für Entscheidungen über Arbeitsbedingungen, Beförderung, Kündigung, Aufgabenzuweisung und Leistungsbewertung gelten als hochriskant. Erfasst sind auch Plattformtätige.
PflichtGeplant
KI-Systeme für Zulassung, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus und Prüfungsüberwachung gelten als hochriskant — auf allen Ebenen der allgemeinen und beruflichen Bildung.
PflichtGeplant
Biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung gelten als hochriskant — soweit ihr Einsatz überhaupt zugelassen ist. Die bloße Verifizierung ist ausgenommen.
PflichtGeplant
KI-Systeme für die Prüfung von Ansprüchen auf öffentliche Leistungen, für Kreditwürdigkeitsprüfung, für Risikobewertung bei Lebens- und Krankenversicherungen sowie für die Notrufbearbeitung gelten als hochriskant. Zwei dieser Bereiche lösen die Grundrechte-Folgenabschätzung aus.
PflichtGeplant
KI-Systeme als Sicherheitsbauteile bei Verwaltung und Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- und Stromversorgung gelten als hochriskant. Von der Grundrechte-Folgenabschätzung ist dieser Bereich ausgenommen.
PflichtGeplant
KI-Systeme als Lügendetektoren, zur Risikobewertung einreisender Personen, zur Unterstützung bei der Prüfung von Asyl- und Visumanträgen und zur Identifizierung natürlicher Personen gelten als hochriskant. Die Überprüfung von Reisedokumenten ist ausgenommen.
PflichtGeplant
KI-Systeme zur Unterstützung von Justizbehörden bei der Rechtsanwendung und Systeme zur Beeinflussung von Wahlergebnissen oder Wahlverhalten gelten als hochriskant. Rein organisatorische Kampagnenwerkzeuge sind ausgenommen.
PflichtGeplant
KI-Systeme zur Risikobewertung von Personen, als Lügendetektoren, zur Bewertung der Verlässlichkeit von Beweismitteln und zur Erstellung von Profilen gelten im Bereich der Strafverfolgung als hochriskant — soweit ihr Einsatz zugelassen ist.
PflichtGeplant
Betreiber, die Arbeitgeber sind, müssen vor Inbetriebnahme eines Hochrisiko-KI-Systems am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten informieren.
PflichtGeplant
Wer ein Hochrisiko-KI-System einsetzt, trifft eigene Pflichten neben denen des Anbieters — unter anderem zu Eingabedaten, menschlicher Aufsicht, Überwachung und Vorfallmeldung. Die Pflichten greifen mit dem verschobenen Geltungsbeginn für Hochrisiko-Systeme.
PflichtGeplant
Einrichtungen des öffentlichen Rechts, private Einrichtungen mit öffentlichen Diensten und Betreiber bestimmter Systeme nach Anhang III Nr. 5 müssen vor Inbetriebnahme eines Hochrisiko-KI-Systems eine Grundrechte-Folgenabschätzung durchführen und deren Ergebnisse der Marktüberwachungsbehörde mitteilen.
PflichtIn Kraft
Die Digital-Omnibus-Verordnung fügt einen neuen Artikel 4a ein. Er erlaubt ausnahmsweise die Verarbeitung besonderer Kategorien personenbezogener Daten, soweit dies zur Erkennung und Korrektur von Verzerrungen unbedingt erforderlich ist — unter sechs kumulativen Bedingungen.