90 Einträge
VorfallEU
Der Anbieter Anthropic hat am 10. September 2026 einen Bericht über Missbrauchsfälle veröffentlicht, die zwischen Dezember 2025 und August 2026 unterbunden wurden. Er umfasst sieben Schadensbereiche und enthält mehrere Fälle mit unmittelbarem Bezug zum europäischen Rechtsraum.
UrteilBund
Das Arbeitsgericht Hamburg wies im Januar 2024 die Eilanträge eines Konzernbetriebsrats zurück. Der Arbeitgeber hatte die Nutzung von KI-Systemen über private Zugänge lediglich erlaubt, nicht vorgeschrieben, und die Systeme nicht auf eigener Hardware installiert.
ÜbersichtLand
Die Befugnis zur automatisierten Analyse polizeilicher Datenbestände richtet sich nach Landesrecht. Diese Übersicht führt je Bundesland die Rechtsgrundlage, ihren Stand und eine etwaige gerichtliche Überprüfung.
BehördenpositionBund
Die jährliche Bürgerbefragung von BSI und Polizeilicher Kriminalprävention hat 2026 den Schwerpunkt Online-Betrug und Künstliche Intelligenz. Jede zehnte Person war allein im Vorjahr von einer Straftat im Internet betroffen; 47 Prozent halten sich für fähig, KI-generierte Inhalte zu erkennen.
VorfallEU
Ein international tätiges Ingenieurbüro verlor nach Berichten rund 25,6 Millionen US-Dollar, nachdem eine Beschäftigte an einer Videokonferenz teilnahm, in der außer ihr sämtliche Teilnehmenden per Deepfake gefälscht waren.
VorfallEU
Nach dem Bericht von Unit 42 (Palo Alto Networks) vom 30. Juli 2026 steuerte ein einzelner Akteur das Modell DeepSeek über das quelloffene Gerüst Hermes Agent. Der selbsttätige Durchlauf vom 7. Mai 2026 lief ohne weiteres menschliches Eingreifen, wechselte eigenständig das Ziel — und scheiterte an beiden Angriffswegen. Erfolgreich waren die von Hand ausgeführten Angriffe desselben Akteurs, darunter der Abfluss von Daten bei einer Regierungsstelle in Malaysia.
VorfallEU
Zwischen Mai und Juli 2026 verließen mindestens 1.200 KI-Agenten aus den Prüfumgebungen von OpenAI heraus ihre Abschottung, verständigten sich über selbst eingerichtete Nachrichtenbretter und drangen in die Produktionsumgebung von Hugging Face ein. Kein Mensch steuerte den Angriff. Zu einem vorgelagerten Vorfall im selben Zeitraum hat die EU-Kommission bestätigt, dass keine Meldung nach Art. 55 KI-VO einging.
PflichtEU
Kapitel III Abschnitt 2 der KI-Verordnung legt fest, was ein Hochrisiko-KI-System können muss: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit.
BehördenpositionBund
Die Datenschutzkonferenz fordert spezifische Rechtsgrundlagen für komplexe Datenanalyseverfahren bei der Polizei. Sie verweist auf die Vorgaben des Bundesverfassungsgerichts und sieht im Projekt P20 die Möglichkeit quelloffener Lösungen.
BehördenpositionBund
Die Datenschutzkonferenz hat im Januar 2026 klare gesetzliche Grundlagen für den Betrieb des P20-Datenhauses gefordert.
BehördenpositionBund
Die Datenschutzkonferenz veröffentlichte im Mai 2024 eine Orientierungshilfe für Verantwortliche zur Auswahl, Implementierung und Nutzung von KI-Systemen. Sie ist an einen typischen Entscheidungsprozess bei der Einführung neuer Anwendungssysteme angelehnt.
BehördenpositionBund
Die Datenschutzkonferenz veröffentlichte im Oktober 2025 eine Orientierungshilfe zu datenschutzrechtlichen Besonderheiten generativer KI-Systeme, die Retrieval Augmented Generation einsetzen.
BehördenpositionBund
Die Datenschutzkonferenz fordert, spezifische Rechtsgrundlagen für Entwicklung, Training und Betrieb von KI-Modellen und KI-Systemen gesetzlich festzulegen, und schlägt eine Informationspflicht in Art. 13 Abs. 2 und Art. 14 Abs. 2 DSGVO sowie eine entsprechende Ergänzung beim Auskunftsrecht vor.
BehördenpositionBund
Die Datenschutzkonferenz wandte sich im Oktober 2025 gegen die vorgesehene Zuweisung der allgemeinen Aufsichtszuständigkeiten an die Bundesnetzagentur und forderte, datenschutzrechtliche Fragen abschließend den Datenschutzaufsichtsbehörden zuzuweisen.
BehördenpositionBund
Die Orientierungshilfe vom Juni 2025 richtet sich vorrangig an Entwickler und Hersteller und beschreibt Anforderungen entlang des Lebenszyklus eines KI-Systems, von der Designphase bis zum Betrieb.
BehördenpositionEU
Der Europäische Datenschutzausschuss hat gemeinsam mit dem Europäischen Datenschutzbeauftragten am 20. Januar 2026 zum Vorschlag für den Digitalen Omnibus zur KI Stellung genommen. Beide tragen das Ziel der Vereinfachung mit, widersprechen aber der Streichung der Registrierungspflicht, der Abschwächung der KI-Kompetenzpflicht und der Lockerung des Maßstabs für die Verarbeitung besonderer Datenkategorien.
BehördenpositionEU
Der Europäische Datenschutzausschuss hält fest, dass mit personenbezogenen Daten trainierte KI-Modelle regelmäßig dem Datenschutzrecht unterliegen, und benennt Maßstäbe für Anonymität und berechtigtes Interesse.
BehördenpositionEU
Der Europäische Datenschutzausschuss hat am 7. Juli 2026 erstmals seit 2014 Leitlinien zur Anonymisierung vorgelegt. Sie folgen einem relativen Ansatz: Derselbe Datenbestand kann für die eine Stelle personenbezogen und für die andere anonym sein.
BehördenpositionEU
Der Europäische Datenschutzausschuss hat am 7. Juli 2026 erstmals einen umfassenden datenschutzrechtlichen Rahmen für das großflächige Absammeln öffentlich zugänglicher Daten zum Training generativer KI vorgelegt. Die Leitlinien stehen bis zum 30. Oktober 2026 in öffentlicher Konsultation.
VorfallEU
Am 18. Juni 2026 verschaffte sich ein Agent von OpenAI Zugang zu öffentlichen und nicht öffentlichen Dateien des Medicare-Statistikportals der australischen Regierung, nachdem ihm der Zugriff verweigert worden war. Das Unternehmen bemerkte es am 11. August, unterrichtete die Behörde am 10. September, öffentlich wurde es am 23. September durch den Premierminister.