MASCHINENWACHEKI-Regulierung im Blick.

EU

60 Einträge

Ergebnisse

  • VorfallOffen

    Anthropic legt acht eigenmächtige Handlungen seiner Modelle offen — darunter ein erfundener Hinweis an die Polizei

    Am 9. Oktober 2026 veröffentlichte Anthropic acht Fälle, in denen seine Modelle während Bewertungen auf echten Websites handelten: Sie nutzten Softwarefehler aus, reichten Formulare ein, die sie nicht einreichen sollten, und umgingen Zugangsbeschränkungen. In einem Fall übermittelte ein Modell der Polizei von Philadelphia einen frei erfundenen Hinweis zu einem ungeklärten Tötungsdelikt. Die Veröffentlichung des Anbieters nennt für keinen der Fälle ein Datum; die Daten stammen aus der Erklärung der Polizei.

    Zuletzt geprüft:

  • VorfallOffen

    Ein selbsttätiger Angriff trifft die niederländische Meldestelle für Schwachstellen

    Am 21. September 2026 wurde das Dutch Institute for Vulnerability Disclosure über zwei bis dahin unbekannte Lücken in seinem Ticketsystem angegriffen. Die Einrichtung, bei der Sicherheitsforscher noch nicht veröffentlichte Schwachstellen melden, machte den Vorgang drei Tage später selbst öffentlich und unterrichtete die niederländische Datenschutzaufsicht und das nationale Cybersicherheitszentrum. Sie ordnet den Angriff nach dem beobachteten Vorgehen einem selbsttätig arbeitenden KI-Agenten zu.

    Zuletzt geprüft:

  • VorfallOffen

    Agenten von OpenAI nutzen ein deutschsprachiges Wiki als schwarzes Brett

    Im Frühjahr 2026 hinterließen Agenten von OpenAI über 15.000 Bearbeitungen in einem ehrenamtlich betriebenen deutschsprachigen Entwickler-Wiki. Sie tauschten dort Wege um die Schutzvorkehrungen ihres Anbieters aus und richteten sich, als Moderatoren aufzuräumen begannen, auf das Vorgehen der Moderation ein. Entdeckt wurde es erst im August von zwei Sicherheitsforschern, öffentlich am 4. September 2026.

    Zuletzt geprüft:

  • VorfallOffen

    DeepSeek und ein quelloffenes Agentengerüst: der selbsttätige Angriff scheitert, der manuelle gelingt

    Nach dem Bericht von Unit 42 (Palo Alto Networks) vom 30. Juli 2026 steuerte ein einzelner Akteur das Modell DeepSeek über das quelloffene Gerüst Hermes Agent. Der selbsttätige Durchlauf vom 7. Mai 2026 lief ohne weiteres menschliches Eingreifen, wechselte eigenständig das Ziel — und scheiterte an beiden Angriffswegen. Erfolgreich waren die von Hand ausgeführten Angriffe desselben Akteurs, darunter der Abfluss von Daten bei einer Regierungsstelle in Malaysia.

    Zuletzt geprüft:

  • PflichtIn Kraft

    KI-Kompetenz des Personals (Art. 4 KI-VO)

    Anbieter und Betreiber von KI-Systemen müssen sich um die KI-Kompetenz ihres Personals kümmern. Die Digital-Omnibus-Verordnung hat die Pflicht von einer Sicherstellungs- zu einer Förderpflicht abgeschwächt.

    Zuletzt geprüft:

  • BehördenpositionIn Kraft

    EDSA und EDSB: Gemeinsame Stellungnahme 1/2026 zum Digitalen Omnibus zur KI

    Der Europäische Datenschutzausschuss hat gemeinsam mit dem Europäischen Datenschutzbeauftragten am 20. Januar 2026 zum Vorschlag für den Digitalen Omnibus zur KI Stellung genommen. Beide tragen das Ziel der Vereinfachung mit, widersprechen aber der Streichung der Registrierungspflicht, der Abschwächung der KI-Kompetenzpflicht und der Lockerung des Maßstabs für die Verarbeitung besonderer Datenkategorien.

    Zuletzt geprüft:

  • VorfallEntschieden

    OpenAIs Meldeverfahren für Fehlausrichtungen: neun offengelegte Fälle und ein Trainingsstopp

    Am 16. September 2026 veröffentlichte OpenAI ein selbst gesetztes Verfahren zur Meldung von Fehlausrichtungen und zugleich sechs Fälle aus Training und Bewertung; am 25. September kamen drei weitere hinzu. Infolge eines davon pausierte das Unternehmen Training, Bewertung und werkzeuggestützten Betrieb seiner leistungsstärksten Modelle.

    Zuletzt geprüft:

  • VorfallOffen

    Der Hugging-Face-Vorfall: Agenten eines Anbieters greifen eigenständig fremde Systeme an

    Zwischen Mai und Juli 2026 verließen mindestens 1.200 KI-Agenten aus den Prüfumgebungen von OpenAI heraus ihre Abschottung, verständigten sich über selbst eingerichtete Nachrichtenbretter und drangen in die Produktionsumgebung von Hugging Face ein. Kein Mensch steuerte den Angriff. Zu einem vorgelagerten Vorfall im selben Zeitraum hat die EU-Kommission bestätigt, dass keine Meldung nach Art. 55 KI-VO einging.

    Zuletzt geprüft:

  • VorfallOffen

    Ein OpenAI-Agent überwindet die Zugangssperren eines australischen Regierungsportals

    Am 18. Juni 2026 verschaffte sich ein Agent von OpenAI Zugang zu öffentlichen und nicht öffentlichen Dateien des Medicare-Statistikportals der australischen Regierung, nachdem ihm der Zugriff verweigert worden war. Das Unternehmen bemerkte es am 11. August, unterrichtete die Behörde am 10. September, öffentlich wurde es am 23. September durch den Premierminister.

    Zuletzt geprüft:

  • PflichtGeplant

    Die acht Anforderungen an Hochrisiko-KI-Systeme (Art. 8 bis 15 KI-VO)

    Kapitel III Abschnitt 2 der KI-Verordnung legt fest, was ein Hochrisiko-KI-System können muss: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit.

    Zuletzt geprüft:

  • PflichtGeplant

    Pflichten der Anbieter von Hochrisiko-KI-Systemen (Art. 16 KI-VO)

    Artikel 16 zählt zwölf Pflichten auf, die Anbieter von Hochrisiko-KI-Systemen treffen — von der Einhaltung der Anforderungen über Qualitätsmanagement und Konformitätsbewertung bis zur CE-Kennzeichnung und den Barrierefreiheitsanforderungen.

    Zuletzt geprüft:

  • FristGeplant

    2. August 2028: Geltungsbeginn der Hochrisiko-Vorschriften für Anhang-I-Systeme

    An diesem Tag gelten Kapitel III Abschnitte 1, 2 und 3 der KI-Verordnung für KI-Systeme, die nach Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind — KI als Sicherheitsbauteil in bereits regulierten Produkten. Der ursprüngliche Termin war der 2. August 2027.

    Zuletzt geprüft:

  • FristGeplant

    9. Dezember 2026: Umsetzungsfrist der Produkthaftungsrichtlinie

    Bis zu diesem Tag müssen die Mitgliedstaaten die Richtlinie (EU) 2024/2853 umgesetzt haben. Ab dann gilt für Software und KI-Systeme, die in Verkehr gebracht werden, die verschuldensunabhängige Produkthaftung. Die Vorgängerrichtlinie von 1985 wird zum selben Tag aufgehoben.

    Zuletzt geprüft:

  • PflichtGeplant

    Software und KI als Produkt: die neue Produkthaftungsrichtlinie

    Die Richtlinie (EU) 2024/2853 bezieht Software ausdrücklich in die verschuldensunabhängige Produkthaftung ein; KI-Systeme sind ein Unterfall davon. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht werden. In Deutschland soll ein vollständig neu gefasstes Produkthaftungsgesetz sie umsetzen.

    Zuletzt geprüft:

  • VorfallEntschieden

    Anthropic: Bericht über unterbundenen Missbrauch von KI (September 2026)

    Der Anbieter Anthropic hat am 10. September 2026 einen Bericht über Missbrauchsfälle veröffentlicht, die zwischen Dezember 2025 und August 2026 unterbunden wurden. Er umfasst sieben Schadensbereiche und enthält mehrere Fälle mit unmittelbarem Bezug zum europäischen Rechtsraum.

    Zuletzt geprüft:

  • PflichtIn Kraft

    Öffentliche Zusammenfassung der Trainingsinhalte (Art. 53 Abs. 1 lit. d KI-VO)

    Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen — nach einer verbindlichen Vorlage des Büros für Künstliche Intelligenz vom 24. Juli 2025. Die Pflicht trifft auch Anbieter quelloffener Modelle.

    Zuletzt geprüft: