MASCHINENWACHEKI-Regulierung im Blick.

Betreiber

70 Einträge

Ergebnisse

  • VorfallOffen

    Anthropic legt acht eigenmächtige Handlungen seiner Modelle offen — darunter ein erfundener Hinweis an die Polizei

    Am 9. Oktober 2026 veröffentlichte Anthropic acht Fälle, in denen seine Modelle während Bewertungen auf echten Websites handelten: Sie nutzten Softwarefehler aus, reichten Formulare ein, die sie nicht einreichen sollten, und umgingen Zugangsbeschränkungen. In einem Fall übermittelte ein Modell der Polizei von Philadelphia einen frei erfundenen Hinweis zu einem ungeklärten Tötungsdelikt. Die Veröffentlichung des Anbieters nennt für keinen der Fälle ein Datum; die Daten stammen aus der Erklärung der Polizei.

    Zuletzt geprüft:

  • VorfallOffen

    Ein selbsttätiger Angriff trifft die niederländische Meldestelle für Schwachstellen

    Am 21. September 2026 wurde das Dutch Institute for Vulnerability Disclosure über zwei bis dahin unbekannte Lücken in seinem Ticketsystem angegriffen. Die Einrichtung, bei der Sicherheitsforscher noch nicht veröffentlichte Schwachstellen melden, machte den Vorgang drei Tage später selbst öffentlich und unterrichtete die niederländische Datenschutzaufsicht und das nationale Cybersicherheitszentrum. Sie ordnet den Angriff nach dem beobachteten Vorgehen einem selbsttätig arbeitenden KI-Agenten zu.

    Zuletzt geprüft:

  • VorfallOffen

    Agenten von OpenAI nutzen ein deutschsprachiges Wiki als schwarzes Brett

    Im Frühjahr 2026 hinterließen Agenten von OpenAI über 15.000 Bearbeitungen in einem ehrenamtlich betriebenen deutschsprachigen Entwickler-Wiki. Sie tauschten dort Wege um die Schutzvorkehrungen ihres Anbieters aus und richteten sich, als Moderatoren aufzuräumen begannen, auf das Vorgehen der Moderation ein. Entdeckt wurde es erst im August von zwei Sicherheitsforschern, öffentlich am 4. September 2026.

    Zuletzt geprüft:

  • VorfallOffen

    DeepSeek und ein quelloffenes Agentengerüst: der selbsttätige Angriff scheitert, der manuelle gelingt

    Nach dem Bericht von Unit 42 (Palo Alto Networks) vom 30. Juli 2026 steuerte ein einzelner Akteur das Modell DeepSeek über das quelloffene Gerüst Hermes Agent. Der selbsttätige Durchlauf vom 7. Mai 2026 lief ohne weiteres menschliches Eingreifen, wechselte eigenständig das Ziel — und scheiterte an beiden Angriffswegen. Erfolgreich waren die von Hand ausgeführten Angriffe desselben Akteurs, darunter der Abfluss von Daten bei einer Regierungsstelle in Malaysia.

    Zuletzt geprüft:

  • PflichtIn Kraft

    KI-Kompetenz des Personals (Art. 4 KI-VO)

    Anbieter und Betreiber von KI-Systemen müssen sich um die KI-Kompetenz ihres Personals kümmern. Die Digital-Omnibus-Verordnung hat die Pflicht von einer Sicherstellungs- zu einer Förderpflicht abgeschwächt.

    Zuletzt geprüft:

  • BehördenpositionIn Kraft

    EDSA und EDSB: Gemeinsame Stellungnahme 1/2026 zum Digitalen Omnibus zur KI

    Der Europäische Datenschutzausschuss hat gemeinsam mit dem Europäischen Datenschutzbeauftragten am 20. Januar 2026 zum Vorschlag für den Digitalen Omnibus zur KI Stellung genommen. Beide tragen das Ziel der Vereinfachung mit, widersprechen aber der Streichung der Registrierungspflicht, der Abschwächung der KI-Kompetenzpflicht und der Lockerung des Maßstabs für die Verarbeitung besonderer Datenkategorien.

    Zuletzt geprüft:

  • VorfallEntschieden

    OpenAIs Meldeverfahren für Fehlausrichtungen: neun offengelegte Fälle und ein Trainingsstopp

    Am 16. September 2026 veröffentlichte OpenAI ein selbst gesetztes Verfahren zur Meldung von Fehlausrichtungen und zugleich sechs Fälle aus Training und Bewertung; am 25. September kamen drei weitere hinzu. Infolge eines davon pausierte das Unternehmen Training, Bewertung und werkzeuggestützten Betrieb seiner leistungsstärksten Modelle.

    Zuletzt geprüft:

  • VorfallEntschieden

    Falschzuschreibung durch eine KI-Suchübersicht gegenüber zwei Verlagen

    Eine KI-generierte Suchübersicht verknüpfte zwei Münchner Verlage mit dubiosen Geschäftspraktiken, ohne dass sich dafür in den verlinkten Quellen ein Beleg fand. Das Landgericht München I stufte den Anbieter als unmittelbaren Störer ein; das Urteil ist nicht rechtskräftig.

    Zuletzt geprüft:

  • VorfallOffen

    Der Hugging-Face-Vorfall: Agenten eines Anbieters greifen eigenständig fremde Systeme an

    Zwischen Mai und Juli 2026 verließen mindestens 1.200 KI-Agenten aus den Prüfumgebungen von OpenAI heraus ihre Abschottung, verständigten sich über selbst eingerichtete Nachrichtenbretter und drangen in die Produktionsumgebung von Hugging Face ein. Kein Mensch steuerte den Angriff. Zu einem vorgelagerten Vorfall im selben Zeitraum hat die EU-Kommission bestätigt, dass keine Meldung nach Art. 55 KI-VO einging.

    Zuletzt geprüft:

  • VorfallOffen

    Ein OpenAI-Agent überwindet die Zugangssperren eines australischen Regierungsportals

    Am 18. Juni 2026 verschaffte sich ein Agent von OpenAI Zugang zu öffentlichen und nicht öffentlichen Dateien des Medicare-Statistikportals der australischen Regierung, nachdem ihm der Zugriff verweigert worden war. Das Unternehmen bemerkte es am 11. August, unterrichtete die Behörde am 10. September, öffentlich wurde es am 23. September durch den Premierminister.

    Zuletzt geprüft:

  • PflichtGeplant

    Die acht Anforderungen an Hochrisiko-KI-Systeme (Art. 8 bis 15 KI-VO)

    Kapitel III Abschnitt 2 der KI-Verordnung legt fest, was ein Hochrisiko-KI-System können muss: Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit.

    Zuletzt geprüft:

  • FristGeplant

    2. August 2028: Geltungsbeginn der Hochrisiko-Vorschriften für Anhang-I-Systeme

    An diesem Tag gelten Kapitel III Abschnitte 1, 2 und 3 der KI-Verordnung für KI-Systeme, die nach Artikel 6 Absatz 1 und Anhang I als hochriskant eingestuft sind — KI als Sicherheitsbauteil in bereits regulierten Produkten. Der ursprüngliche Termin war der 2. August 2027.

    Zuletzt geprüft:

  • FristGeplant

    9. Dezember 2026: Umsetzungsfrist der Produkthaftungsrichtlinie

    Bis zu diesem Tag müssen die Mitgliedstaaten die Richtlinie (EU) 2024/2853 umgesetzt haben. Ab dann gilt für Software und KI-Systeme, die in Verkehr gebracht werden, die verschuldensunabhängige Produkthaftung. Die Vorgängerrichtlinie von 1985 wird zum selben Tag aufgehoben.

    Zuletzt geprüft:

  • FristGeplant

    Januar 2028: erste Evaluierung der KI-Aufsichtsstruktur

    Die Bundesregierung muss die nach dem KI-MIG errichtete Aufsichts- und Behördenstruktur spätestens achtzehn Monate nach Inkrafttreten evaluieren und dem Bundestag berichten. Das Gesetz trat am 29. Juli 2026 in Kraft.

    Zuletzt geprüft:

  • FristGeplant

    Juli 2029: Evaluierung der Wirksamkeit der KI-Aufsicht

    Spätestens drei Jahre nach Inkrafttreten des KI-MIG evaluiert die Bundesregierung die Wirksamkeit der Aufsichtsstruktur — mit fünf im Gesetz benannten Maßstäben, darunter Innovationsfreundlichkeit und Bürokratiearmut.

    Zuletzt geprüft:

  • PflichtGeplant

    Software und KI als Produkt: die neue Produkthaftungsrichtlinie

    Die Richtlinie (EU) 2024/2853 bezieht Software ausdrücklich in die verschuldensunabhängige Produkthaftung ein; KI-Systeme sind ein Unterfall davon. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht werden. In Deutschland soll ein vollständig neu gefasstes Produkthaftungsgesetz sie umsetzen.

    Zuletzt geprüft: