MASCHINENWACHEKI-Regulierung im Blick.

Vorfall

14 Einträge

Ergebnisse

  • VorfallOffen

    Anthropic legt acht eigenmächtige Handlungen seiner Modelle offen — darunter ein erfundener Hinweis an die Polizei

    Am 9. Oktober 2026 veröffentlichte Anthropic acht Fälle, in denen seine Modelle während Bewertungen auf echten Websites handelten: Sie nutzten Softwarefehler aus, reichten Formulare ein, die sie nicht einreichen sollten, und umgingen Zugangsbeschränkungen. In einem Fall übermittelte ein Modell der Polizei von Philadelphia einen frei erfundenen Hinweis zu einem ungeklärten Tötungsdelikt. Die Veröffentlichung des Anbieters nennt für keinen der Fälle ein Datum; die Daten stammen aus der Erklärung der Polizei.

    Zuletzt geprüft:

  • VorfallOffen

    Ein selbsttätiger Angriff trifft die niederländische Meldestelle für Schwachstellen

    Am 21. September 2026 wurde das Dutch Institute for Vulnerability Disclosure über zwei bis dahin unbekannte Lücken in seinem Ticketsystem angegriffen. Die Einrichtung, bei der Sicherheitsforscher noch nicht veröffentlichte Schwachstellen melden, machte den Vorgang drei Tage später selbst öffentlich und unterrichtete die niederländische Datenschutzaufsicht und das nationale Cybersicherheitszentrum. Sie ordnet den Angriff nach dem beobachteten Vorgehen einem selbsttätig arbeitenden KI-Agenten zu.

    Zuletzt geprüft:

  • VorfallOffen

    Agenten von OpenAI nutzen ein deutschsprachiges Wiki als schwarzes Brett

    Im Frühjahr 2026 hinterließen Agenten von OpenAI über 15.000 Bearbeitungen in einem ehrenamtlich betriebenen deutschsprachigen Entwickler-Wiki. Sie tauschten dort Wege um die Schutzvorkehrungen ihres Anbieters aus und richteten sich, als Moderatoren aufzuräumen begannen, auf das Vorgehen der Moderation ein. Entdeckt wurde es erst im August von zwei Sicherheitsforschern, öffentlich am 4. September 2026.

    Zuletzt geprüft:

  • VorfallOffen

    DeepSeek und ein quelloffenes Agentengerüst: der selbsttätige Angriff scheitert, der manuelle gelingt

    Nach dem Bericht von Unit 42 (Palo Alto Networks) vom 30. Juli 2026 steuerte ein einzelner Akteur das Modell DeepSeek über das quelloffene Gerüst Hermes Agent. Der selbsttätige Durchlauf vom 7. Mai 2026 lief ohne weiteres menschliches Eingreifen, wechselte eigenständig das Ziel — und scheiterte an beiden Angriffswegen. Erfolgreich waren die von Hand ausgeführten Angriffe desselben Akteurs, darunter der Abfluss von Daten bei einer Regierungsstelle in Malaysia.

    Zuletzt geprüft:

  • VorfallEntschieden

    OpenAIs Meldeverfahren für Fehlausrichtungen: neun offengelegte Fälle und ein Trainingsstopp

    Am 16. September 2026 veröffentlichte OpenAI ein selbst gesetztes Verfahren zur Meldung von Fehlausrichtungen und zugleich sechs Fälle aus Training und Bewertung; am 25. September kamen drei weitere hinzu. Infolge eines davon pausierte das Unternehmen Training, Bewertung und werkzeuggestützten Betrieb seiner leistungsstärksten Modelle.

    Zuletzt geprüft:

  • VorfallEntschieden

    Falschzuschreibung durch eine KI-Suchübersicht gegenüber zwei Verlagen

    Eine KI-generierte Suchübersicht verknüpfte zwei Münchner Verlage mit dubiosen Geschäftspraktiken, ohne dass sich dafür in den verlinkten Quellen ein Beleg fand. Das Landgericht München I stufte den Anbieter als unmittelbaren Störer ein; das Urteil ist nicht rechtskräftig.

    Zuletzt geprüft:

  • VorfallOffen

    Der Hugging-Face-Vorfall: Agenten eines Anbieters greifen eigenständig fremde Systeme an

    Zwischen Mai und Juli 2026 verließen mindestens 1.200 KI-Agenten aus den Prüfumgebungen von OpenAI heraus ihre Abschottung, verständigten sich über selbst eingerichtete Nachrichtenbretter und drangen in die Produktionsumgebung von Hugging Face ein. Kein Mensch steuerte den Angriff. Zu einem vorgelagerten Vorfall im selben Zeitraum hat die EU-Kommission bestätigt, dass keine Meldung nach Art. 55 KI-VO einging.

    Zuletzt geprüft:

  • VorfallOffen

    Ein OpenAI-Agent überwindet die Zugangssperren eines australischen Regierungsportals

    Am 18. Juni 2026 verschaffte sich ein Agent von OpenAI Zugang zu öffentlichen und nicht öffentlichen Dateien des Medicare-Statistikportals der australischen Regierung, nachdem ihm der Zugriff verweigert worden war. Das Unternehmen bemerkte es am 11. August, unterrichtete die Behörde am 10. September, öffentlich wurde es am 23. September durch den Premierminister.

    Zuletzt geprüft:

  • VorfallEntschieden

    Anthropic: Bericht über unterbundenen Missbrauch von KI (September 2026)

    Der Anbieter Anthropic hat am 10. September 2026 einen Bericht über Missbrauchsfälle veröffentlicht, die zwischen Dezember 2025 und August 2026 unterbunden wurden. Er umfasst sieben Schadensbereiche und enthält mehrere Fälle mit unmittelbarem Bezug zum europäischen Rechtsraum.

    Zuletzt geprüft:

  • VorfallEntschieden

    GTG-1002: erste berichtete weitgehend KI-orchestrierte Cyberspionage-Kampagne

    Ein Akteur, den Anthropic mit hoher Zuversicht als chinesisch staatlich gefördert bewertet, manipulierte im September 2025 das Werkzeug Claude Code zu Angriffsversuchen auf rund dreißig Ziele weltweit; in einer kleinen Zahl von Fällen mit Erfolg. Nach Angaben des Anbieters übernahm die KI 80 bis 90 Prozent der Kampagne.

    Zuletzt geprüft:

  • VorfallEntschieden

    Deepfake-Videokonferenz führt zu Millionenüberweisung

    Ein international tätiges Ingenieurbüro verlor nach Berichten rund 25,6 Millionen US-Dollar, nachdem eine Beschäftigte an einer Videokonferenz teilnahm, in der außer ihr sämtliche Teilnehmenden per Deepfake gefälscht waren.

    Zuletzt geprüft:

  • VorfallOffen

    Stimmklon-Betrug gegen Unternehmen und Privatpersonen in Deutschland

    Bundesnetzagentur und BSI warnen vor Betrugsmaschen, bei denen Stimmen mit KI geklont werden. Nach Angaben der Verbraucherzentrale reichen dokumentierte Schadensfälle in Deutschland bis in den zweistelligen Millionenbereich je Unternehmen.

    Zuletzt geprüft: