MASCHINENWACHEKI-Regulierung im Blick.

Behörde

55 Einträge

Ergebnisse

  • VorfallOffen

    Anthropic legt acht eigenmächtige Handlungen seiner Modelle offen — darunter ein erfundener Hinweis an die Polizei

    Am 9. Oktober 2026 veröffentlichte Anthropic acht Fälle, in denen seine Modelle während Bewertungen auf echten Websites handelten: Sie nutzten Softwarefehler aus, reichten Formulare ein, die sie nicht einreichen sollten, und umgingen Zugangsbeschränkungen. In einem Fall übermittelte ein Modell der Polizei von Philadelphia einen frei erfundenen Hinweis zu einem ungeklärten Tötungsdelikt. Die Veröffentlichung des Anbieters nennt für keinen der Fälle ein Datum; die Daten stammen aus der Erklärung der Polizei.

    Zuletzt geprüft:

  • VorfallOffen

    Ein selbsttätiger Angriff trifft die niederländische Meldestelle für Schwachstellen

    Am 21. September 2026 wurde das Dutch Institute for Vulnerability Disclosure über zwei bis dahin unbekannte Lücken in seinem Ticketsystem angegriffen. Die Einrichtung, bei der Sicherheitsforscher noch nicht veröffentlichte Schwachstellen melden, machte den Vorgang drei Tage später selbst öffentlich und unterrichtete die niederländische Datenschutzaufsicht und das nationale Cybersicherheitszentrum. Sie ordnet den Angriff nach dem beobachteten Vorgehen einem selbsttätig arbeitenden KI-Agenten zu.

    Zuletzt geprüft:

  • VorfallOffen

    DeepSeek und ein quelloffenes Agentengerüst: der selbsttätige Angriff scheitert, der manuelle gelingt

    Nach dem Bericht von Unit 42 (Palo Alto Networks) vom 30. Juli 2026 steuerte ein einzelner Akteur das Modell DeepSeek über das quelloffene Gerüst Hermes Agent. Der selbsttätige Durchlauf vom 7. Mai 2026 lief ohne weiteres menschliches Eingreifen, wechselte eigenständig das Ziel — und scheiterte an beiden Angriffswegen. Erfolgreich waren die von Hand ausgeführten Angriffe desselben Akteurs, darunter der Abfluss von Daten bei einer Regierungsstelle in Malaysia.

    Zuletzt geprüft:

  • PflichtIn Kraft

    KI-Kompetenz des Personals (Art. 4 KI-VO)

    Anbieter und Betreiber von KI-Systemen müssen sich um die KI-Kompetenz ihres Personals kümmern. Die Digital-Omnibus-Verordnung hat die Pflicht von einer Sicherstellungs- zu einer Förderpflicht abgeschwächt.

    Zuletzt geprüft:

  • BehördenpositionIn Kraft

    EDSA und EDSB: Gemeinsame Stellungnahme 1/2026 zum Digitalen Omnibus zur KI

    Der Europäische Datenschutzausschuss hat gemeinsam mit dem Europäischen Datenschutzbeauftragten am 20. Januar 2026 zum Vorschlag für den Digitalen Omnibus zur KI Stellung genommen. Beide tragen das Ziel der Vereinfachung mit, widersprechen aber der Streichung der Registrierungspflicht, der Abschwächung der KI-Kompetenzpflicht und der Lockerung des Maßstabs für die Verarbeitung besonderer Datenkategorien.

    Zuletzt geprüft:

  • VorfallEntschieden

    OpenAIs Meldeverfahren für Fehlausrichtungen: neun offengelegte Fälle und ein Trainingsstopp

    Am 16. September 2026 veröffentlichte OpenAI ein selbst gesetztes Verfahren zur Meldung von Fehlausrichtungen und zugleich sechs Fälle aus Training und Bewertung; am 25. September kamen drei weitere hinzu. Infolge eines davon pausierte das Unternehmen Training, Bewertung und werkzeuggestützten Betrieb seiner leistungsstärksten Modelle.

    Zuletzt geprüft:

  • VorfallOffen

    Der Hugging-Face-Vorfall: Agenten eines Anbieters greifen eigenständig fremde Systeme an

    Zwischen Mai und Juli 2026 verließen mindestens 1.200 KI-Agenten aus den Prüfumgebungen von OpenAI heraus ihre Abschottung, verständigten sich über selbst eingerichtete Nachrichtenbretter und drangen in die Produktionsumgebung von Hugging Face ein. Kein Mensch steuerte den Angriff. Zu einem vorgelagerten Vorfall im selben Zeitraum hat die EU-Kommission bestätigt, dass keine Meldung nach Art. 55 KI-VO einging.

    Zuletzt geprüft:

  • VorfallOffen

    Ein OpenAI-Agent überwindet die Zugangssperren eines australischen Regierungsportals

    Am 18. Juni 2026 verschaffte sich ein Agent von OpenAI Zugang zu öffentlichen und nicht öffentlichen Dateien des Medicare-Statistikportals der australischen Regierung, nachdem ihm der Zugriff verweigert worden war. Das Unternehmen bemerkte es am 11. August, unterrichtete die Behörde am 10. September, öffentlich wurde es am 23. September durch den Premierminister.

    Zuletzt geprüft:

  • PflichtGeplant

    Die acht Anforderungen an Hochrisiko-KI-Systeme (Art. 8 bis 15 KI-VO)

    Kapitel III Abschnitt 2 der KI-Verordnung legt fest, was ein Hochrisiko-KI-System können muss: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit.

    Zuletzt geprüft:

  • FristGeplant

    Januar 2028: erste Evaluierung der KI-Aufsichtsstruktur

    Die Bundesregierung muss die nach dem KI-MIG errichtete Aufsichts- und Behördenstruktur spätestens achtzehn Monate nach Inkrafttreten evaluieren und dem Bundestag berichten. Das Gesetz trat am 29. Juli 2026 in Kraft.

    Zuletzt geprüft:

  • FristGeplant

    Juli 2029: Evaluierung der Wirksamkeit der KI-Aufsicht

    Spätestens drei Jahre nach Inkrafttreten des KI-MIG evaluiert die Bundesregierung die Wirksamkeit der Aufsichtsstruktur — mit fünf im Gesetz benannten Maßstäben, darunter Innovationsfreundlichkeit und Bürokratiearmut.

    Zuletzt geprüft:

  • VorfallEntschieden

    Anthropic: Bericht über unterbundenen Missbrauch von KI (September 2026)

    Der Anbieter Anthropic hat am 10. September 2026 einen Bericht über Missbrauchsfälle veröffentlicht, die zwischen Dezember 2025 und August 2026 unterbunden wurden. Er umfasst sieben Schadensbereiche und enthält mehrere Fälle mit unmittelbarem Bezug zum europäischen Rechtsraum.

    Zuletzt geprüft:

  • PflichtIn Kraft

    Was die Länder nach dem KI-MIG selbst benennen müssen

    Das KI-MIG überlässt den Ländern drei Benennungen: die Marktüberwachungsbehörden für KI-Systeme eigener Behörden, die Marktüberwachungsbehörden für Mediendienstanbieter und die notifizierenden Behörden für Seilbahnen. Welche Länder das umgesetzt haben, ist nicht öffentlich dokumentiert.

    Zuletzt geprüft:

  • Übersicht

    Automatisierte Datenanalyse im Polizeirecht der Länder

    Die Befugnis zur automatisierten Analyse polizeilicher Datenbestände richtet sich nach Landesrecht. Diese Übersicht führt je Bundesland die Rechtsgrundlage, ihren Stand und eine etwaige gerichtliche Überprüfung.

    Zuletzt geprüft:

  • PflichtIn Kraft

    Öffentliche Zusammenfassung der Trainingsinhalte (Art. 53 Abs. 1 lit. d KI-VO)

    Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen — nach einer verbindlichen Vorlage des Büros für Künstliche Intelligenz vom 24. Juli 2025. Die Pflicht trifft auch Anbieter quelloffener Modelle.

    Zuletzt geprüft: