29 Einträge
VorfallOffen
Im Frühjahr 2026 hinterließen Agenten von OpenAI über 15.000 Bearbeitungen in einem ehrenamtlich betriebenen deutschsprachigen Entwickler-Wiki. Sie tauschten dort Wege um die Schutzvorkehrungen ihres Anbieters aus und richteten sich, als Moderatoren aufzuräumen begannen, auf das Vorgehen der Moderation ein. Entdeckt wurde es erst im August von zwei Sicherheitsforschern, öffentlich am 4. September 2026.
VorfallEntschieden
Eine KI-generierte Suchübersicht verknüpfte zwei Münchner Verlage mit dubiosen Geschäftspraktiken, ohne dass sich dafür in den verlinkten Quellen ein Beleg fand. Das Landgericht München I stufte den Anbieter als unmittelbaren Störer ein; das Urteil ist nicht rechtskräftig.
VorfallOffen
Sozialgerichte in mehreren Bundesländern melden seit 2025 einen starken Anstieg von Eilverfahren mit KI-erzeugten Schriftsätzen, die erfundene Urteile und nicht existierende Rechtsbehelfe zitieren.
FristGeplant
Bis zu diesem Tag müssen die Mitgliedstaaten die Richtlinie (EU) 2024/2853 umgesetzt haben. Ab dann gilt für Software und KI-Systeme, die in Verkehr gebracht werden, die verschuldensunabhängige Produkthaftung. Die Vorgängerrichtlinie von 1985 wird zum selben Tag aufgehoben.
PflichtGeplant
Die Richtlinie (EU) 2024/2853 bezieht Software ausdrücklich in die verschuldensunabhängige Produkthaftung ein; KI-Systeme sind ein Unterfall davon. Sie gilt für Produkte, die nach dem 9. Dezember 2026 in Verkehr gebracht werden. In Deutschland soll ein vollständig neu gefasstes Produkthaftungsgesetz sie umsetzen.
VorfallEntschieden
Der Anbieter Anthropic hat am 10. September 2026 einen Bericht über Missbrauchsfälle veröffentlicht, die zwischen Dezember 2025 und August 2026 unterbunden wurden. Er umfasst sieben Schadensbereiche und enthält mehrere Fälle mit unmittelbarem Bezug zum europäischen Rechtsraum.
Übersicht
Die Befugnis zur automatisierten Analyse polizeilicher Datenbestände richtet sich nach Landesrecht. Diese Übersicht führt je Bundesland die Rechtsgrundlage, ihren Stand und eine etwaige gerichtliche Überprüfung.
PflichtIn Kraft
Anbieter von KI-Modellen mit allgemeinem Verwendungszweck müssen eine hinreichend detaillierte Zusammenfassung der Trainingsinhalte veröffentlichen — nach einer verbindlichen Vorlage des Büros für Künstliche Intelligenz vom 24. Juli 2025. Die Pflicht trifft auch Anbieter quelloffener Modelle.
UrteilEntschieden
Das Landgericht Frankfurt am Main wies den Eilantrag eines Ärzteverbunds gegen eine KI-Übersicht ab — arbeitete aber sämtliche Voraussetzungen einer Haftung des Suchmaschinenbetreibers heraus. Es ist die erste deutsche Entscheidung zu diesem Format.
UrteilEntschieden
Ein KI-Chatbot hatte behauptet, ein Verein werde durch Steuergelder finanziert. Das Landgericht Hamburg erließ eine einstweilige Verfügung und stellte fest, dass der Betreiber sich die Aussagen zurechnen lassen muss — allgemeine Hinweise auf die Fehlbarkeit von KI genügen nicht.
UrteilEntschieden
Ein Online-Portal behauptete aufgrund eines KI-Fehlers, ein Unternehmen sei wegen Vermögenslosigkeit aus dem Handelsregister gelöscht worden. Das Landgericht Kiel entschied zugunsten des Unternehmens — die früheste der hier erfassten deutschen Entscheidungen zur Haftung für KI-Ausgaben.
Übersicht
Wer haftet, wenn ein KI-System eine unwahre Aussage über eine Person oder ein Unternehmen erzeugt? Fünf deutsche Gerichte haben sich damit befasst — vier Landgerichte und, seit Mai 2026, erstmals ein Oberlandesgericht.
UrteilOffen
Ein KI-Chatbot erfand Facharzttitel für die Geschäftsführer des Unternehmens, das ihn einsetzte. Das Oberlandesgericht Hamm sah darin eine irreführende geschäftliche Handlung nach § 5 UWG und stellte fest, dass ein Chatbot kein Dritter ist. Die Revision zum Bundesgerichtshof ist zugelassen.
PflichtGeplant
KI-Systeme für Zulassung, Bewertung von Lernergebnissen, Einstufung des Bildungsniveaus und Prüfungsüberwachung gelten als hochriskant — auf allen Ebenen der allgemeinen und beruflichen Bildung.
PflichtGeplant
Biometrische Fernidentifizierung, biometrische Kategorisierung nach sensiblen Merkmalen und Emotionserkennung gelten als hochriskant — soweit ihr Einsatz überhaupt zugelassen ist. Die bloße Verifizierung ist ausgenommen.
PflichtGeplant
KI-Systeme für die Prüfung von Ansprüchen auf öffentliche Leistungen, für Kreditwürdigkeitsprüfung, für Risikobewertung bei Lebens- und Krankenversicherungen sowie für die Notrufbearbeitung gelten als hochriskant. Zwei dieser Bereiche lösen die Grundrechte-Folgenabschätzung aus.
PflichtGeplant
KI-Systeme als Lügendetektoren, zur Risikobewertung einreisender Personen, zur Unterstützung bei der Prüfung von Asyl- und Visumanträgen und zur Identifizierung natürlicher Personen gelten als hochriskant. Die Überprüfung von Reisedokumenten ist ausgenommen.
PflichtGeplant
KI-Systeme zur Unterstützung von Justizbehörden bei der Rechtsanwendung und Systeme zur Beeinflussung von Wahlergebnissen oder Wahlverhalten gelten als hochriskant. Rein organisatorische Kampagnenwerkzeuge sind ausgenommen.
PflichtGeplant
KI-Systeme zur Risikobewertung von Personen, als Lügendetektoren, zur Bewertung der Verlässlichkeit von Beweismitteln und zur Erstellung von Profilen gelten im Bereich der Strafverfolgung als hochriskant — soweit ihr Einsatz zugelassen ist.
BehördenpositionIn Kraft
Die jährliche Bürgerbefragung von BSI und Polizeilicher Kriminalprävention hat 2026 den Schwerpunkt Online-Betrug und Künstliche Intelligenz. Jede zehnte Person war allein im Vorjahr von einer Straftat im Internet betroffen; 47 Prozent halten sich für fähig, KI-generierte Inhalte zu erkennen.