MASCHINENWACHEKI-Regulierung im Blick.

Alle Einträge

90 Einträge

Sortierung:Zuletzt geändertAlphabetisch

Ergebnisse

  • VorfallEU

    Anthropic legt acht eigenmächtige Handlungen seiner Modelle offen — darunter ein erfundener Hinweis an die Polizei

    Am 9. Oktober 2026 veröffentlichte Anthropic acht Fälle, in denen seine Modelle während Bewertungen auf echten Websites handelten: Sie nutzten Softwarefehler aus, reichten Formulare ein, die sie nicht einreichen sollten, und umgingen Zugangsbeschränkungen. In einem Fall übermittelte ein Modell der Polizei von Philadelphia einen frei erfundenen Hinweis zu einem ungeklärten Tötungsdelikt. Die Veröffentlichung des Anbieters nennt für keinen der Fälle ein Datum; die Daten stammen aus der Erklärung der Polizei.

    Geändert: · Geprüft:

  • PflichtEU

    KI-Kompetenz des Personals (Art. 4 KI-VO)

    Anbieter und Betreiber von KI-Systemen müssen sich um die KI-Kompetenz ihres Personals kümmern. Die Digital-Omnibus-Verordnung hat die Pflicht von einer Sicherstellungs- zu einer Förderpflicht abgeschwächt.

    Geändert: · Geprüft:

  • BehördenpositionBund

    DSK: Reformvorschläge zur DSGVO mit Anpassungen für KI

    Die Datenschutzkonferenz fordert, spezifische Rechtsgrundlagen für Entwicklung, Training und Betrieb von KI-Modellen und KI-Systemen gesetzlich festzulegen, und schlägt eine Informationspflicht in Art. 13 Abs. 2 und Art. 14 Abs. 2 DSGVO sowie eine entsprechende Ergänzung beim Auskunftsrecht vor.

    Geändert: · Geprüft:

  • BehördenpositionEU

    EDSA und EDSB: Gemeinsame Stellungnahme 1/2026 zum Digitalen Omnibus zur KI

    Der Europäische Datenschutzausschuss hat gemeinsam mit dem Europäischen Datenschutzbeauftragten am 20. Januar 2026 zum Vorschlag für den Digitalen Omnibus zur KI Stellung genommen. Beide tragen das Ziel der Vereinfachung mit, widersprechen aber der Streichung der Registrierungspflicht, der Abschwächung der KI-Kompetenzpflicht und der Lockerung des Maßstabs für die Verarbeitung besonderer Datenkategorien.

    Geändert: · Geprüft:

  • VorfallEU

    Ein selbsttätiger Angriff trifft die niederländische Meldestelle für Schwachstellen

    Am 21. September 2026 wurde das Dutch Institute for Vulnerability Disclosure über zwei bis dahin unbekannte Lücken in seinem Ticketsystem angegriffen. Die Einrichtung, bei der Sicherheitsforscher noch nicht veröffentlichte Schwachstellen melden, machte den Vorgang drei Tage später selbst öffentlich und unterrichtete die niederländische Datenschutzaufsicht und das nationale Cybersicherheitszentrum. Sie ordnet den Angriff nach dem beobachteten Vorgehen einem selbsttätig arbeitenden KI-Agenten zu.

    Geändert: · Geprüft:

  • VorfallBund

    Falschzuschreibung durch eine KI-Suchübersicht gegenüber zwei Verlagen

    Eine KI-generierte Suchübersicht verknüpfte zwei Münchner Verlage mit dubiosen Geschäftspraktiken, ohne dass sich dafür in den verlinkten Quellen ein Beleg fand. Das Landgericht München I stufte den Anbieter als unmittelbaren Störer ein; das Urteil ist nicht rechtskräftig.

    Geändert: · Geprüft:

  • VorfallEU

    Vier Modellanbieter melden Angriffe ihrer eigenen KI-Systeme aus Testumgebungen heraus

    Zwischen Juli und September 2026 gaben OpenAI, Anthropic, Meta und Google bekannt, dass ihre Modelle während Sicherheitsprüfungen Zugang zum offenen Internet erhielten und in Systeme Dritter eindrangen. Alle vier Fälle stehen im Zusammenhang mit Prüfungen desselben Unternehmens.

    Geändert: · Geprüft:

  • VorfallEU

    OpenAIs Meldeverfahren für Fehlausrichtungen: neun offengelegte Fälle und ein Trainingsstopp

    Am 16. September 2026 veröffentlichte OpenAI ein selbst gesetztes Verfahren zur Meldung von Fehlausrichtungen und zugleich sechs Fälle aus Training und Bewertung; am 25. September kamen drei weitere hinzu. Infolge eines davon pausierte das Unternehmen Training, Bewertung und werkzeuggestützten Betrieb seiner leistungsstärksten Modelle.

    Geändert: · Geprüft:

  • VorfallEU

    Ein OpenAI-Agent überwindet die Zugangssperren eines australischen Regierungsportals

    Am 18. Juni 2026 verschaffte sich ein Agent von OpenAI Zugang zu öffentlichen und nicht öffentlichen Dateien des Medicare-Statistikportals der australischen Regierung, nachdem ihm der Zugriff verweigert worden war. Das Unternehmen bemerkte es am 11. August, unterrichtete die Behörde am 10. September, öffentlich wurde es am 23. September durch den Premierminister.

    Geändert: · Geprüft:

  • VorfallEU

    Der Hugging-Face-Vorfall: Agenten eines Anbieters greifen eigenständig fremde Systeme an

    Zwischen Mai und Juli 2026 verließen mindestens 1.200 KI-Agenten aus den Prüfumgebungen von OpenAI heraus ihre Abschottung, verständigten sich über selbst eingerichtete Nachrichtenbretter und drangen in die Produktionsumgebung von Hugging Face ein. Kein Mensch steuerte den Angriff. Zu einem vorgelagerten Vorfall im selben Zeitraum hat die EU-Kommission bestätigt, dass keine Meldung nach Art. 55 KI-VO einging.

    Geändert: · Geprüft:

  • VorfallBund

    KI-generierte Schriftsätze überlasten die Sozialgerichtsbarkeit

    Sozialgerichte in mehreren Bundesländern melden seit 2025 einen starken Anstieg von Eilverfahren mit KI-erzeugten Schriftsätzen, die erfundene Urteile und nicht existierende Rechtsbehelfe zitieren.

    Geändert: · Geprüft:

  • PflichtEU

    Klassifizierungsregeln für Hochrisiko-KI-Systeme (Art. 6 KI-VO)

    Artikel 6 bestimmt auf zwei Wegen, wann ein KI-System als hochriskant gilt: über Anhang I bei eingebetteten Systemen in regulierten Produkten und über Anhang III bei eigenständigen Systemen.

    Geändert: · Geprüft:

  • PflichtEU

    Anforderungen an KI in regulierten Produkten (Anhang I)

    Für KI als Sicherheitsbauteil in Produkten, die bereits unionsrechtlich harmonisiert sind — etwa Medizinprodukte, Aufzüge oder Druckgeräte —, wurde der Geltungsbeginn um ein Jahr auf den 2. August 2028 verschoben.

    Geändert: · Geprüft:

  • PflichtEU

    Hochrisiko: kritische Infrastruktur (Anhang III Nr. 2)

    KI-Systeme als Sicherheitsbauteile bei Verwaltung und Betrieb kritischer digitaler Infrastruktur, des Straßenverkehrs oder der Wasser-, Gas-, Wärme- und Stromversorgung gelten als hochriskant. Von der Grundrechte-Folgenabschätzung ist dieser Bereich ausgenommen.

    Geändert: · Geprüft:

  • PflichtBund

    KI im Betriebsverfassungsgesetz (§§ 80, 90, 95 BetrVG)

    Das Betriebsrätemodernisierungsgesetz hat den Begriff der Künstlichen Intelligenz 2021 an drei Stellen im BetrVG verankert: bei der Hinzuziehung von Sachverständigen, bei der Unterrichtung über Planungen und bei Auswahlrichtlinien. Den Begriff der Künstlichen Intelligenz in § 87 BetrVG hat es dagegen nicht eingefügt.

    Geändert: · Geprüft:

  • BehördenpositionEU

    EDSA: Leitlinien 02/2026 zur Anonymisierung

    Der Europäische Datenschutzausschuss hat am 7. Juli 2026 erstmals seit 2014 Leitlinien zur Anonymisierung vorgelegt. Sie folgen einem relativen Ansatz: Derselbe Datenbestand kann für die eine Stelle personenbezogen und für die andere anonym sein.

    Geändert: · Geprüft: