Verbotene KI-Praktiken (Art. 5 KI-VO)

Artikel 5 der KI-Verordnung (englisch AI Act) benennt KI-Praktiken, die in der Union nicht zulässig sind. Die Vorschrift gehört zusammen mit der Kompetenzpflicht zu den zuerst anwendbaren Teilen der Verordnung.

Erweiterung ab Dezember 2026

Artikel 1 Nummer 7 der Verordnung (EU) 2026/1744 fügt in Art. 5 Abs. 1 zwei Buchstaben ein.

Buchstabe ba erfasst das Inverkehrbringen, die Inbetriebnahme oder die Verwendung eines KI-Systems, das realistische Bild-, Video-, Ton- oder ähnliche Inhalte erzeugt oder manipuliert, in denen intime Körperteile einer bestimmbaren natürlichen Person oder eine an eindeutig sexuellen Handlungen beteiligte bestimmbare Person dargestellt werden, ohne dass diese Person eine aus freien Stücken erfolgende, spezifische, aufgeklärte, eindeutige und ausdrückliche Zustimmung erteilt hat.

Buchstabe bb erfasst Systeme, die Material oder Darbietungen im Sinne von Art. 2 Buchstaben c und e der Richtlinie 2011/93/EU erzeugen oder manipulieren, es sei denn, nach nationalem Recht gilt das unrechtmäßige Verhalten als gerechtfertigt.

Der geänderte Art. 113 Abs. 3 Buchstabe a legt den Geltungsbeginn fest: Kapitel I und II gelten weiterhin ab dem 2. Februar 2025 — mit Ausnahme des Art. 5 Abs. 1 Unterabs. 1 Buchstaben ba und bb sowie der Absätze 1a und 1b, die ab dem 2. Dezember 2026 gelten.

Der neue Absatz 1a grenzt beide Tatbestände ein: Bei Anbietern ist das Inverkehrbringen nur verboten, wenn die Erzeugung oder Manipulation die Zweckbestimmung ist oder ein nach vernünftigem Ermessen absehbares und reproduzierbares Ergebnis, ohne dass zumutbare und angemessene technische Schutzvorkehrungen bestehen. Bei Betreibern ist die Verwendung nur verboten, wenn sie zu eben diesem Zweck erfolgt.

Sanktionsrahmen

Die Missachtung der Verbote ist mit dem höchsten Bußgeldrahmen der Verordnung belegt: nach Art. 99 Abs. 3 bis zu 35 Millionen Euro oder 7 Prozent des gesamten weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist.