DSK: Orientierungshilfe zu generativen KI-Systemen mit RAG-Methode

Retrieval Augmented Generation bezeichnet nach Darstellung der DSK eine Technologie, bei der große Sprachmodelle durch gezielten Zugriff auf unternehmens- oder behördeneigene Wissensquellen ergänzt werden, um kontextspezifische Antworten zu liefern. Als typische Anwendungsbeispiele nennt die DSK unternehmensinterne Chatbots mit Zugriff auf aktuelle Geschäftsdaten sowie wissenschaftliche Assistenzsysteme, die Forschungsdatenbanken nutzen.

Nach Angaben der DSK sollen RAG-Systeme Genauigkeit, Nachvollziehbarkeit und Verlässlichkeit der Ausgaben erhöhen und die für große Sprachmodelle typischen Halluzinationen und unrichtigen Ausgaben vermindern.

Umfang und Adressaten

Das Dokument umfasst 18 Seiten und enthält rechtliche und technische Hinweise. Es richtet sich an Unternehmen und Behörden, die solche Systeme bereits einsetzen oder einsetzen wollen.

Aussagen der DSK

Als weiterhin herausfordernd bezeichnet die DSK es, Transparenz, Zweckbindung und die Umsetzung von Betroffenenrechten im gesamten System sicherzustellen. Verantwortliche Stellen müssen nach Darstellung der DSK die datenschutzrechtlichen Bewertungen der einzelnen Verarbeitungen im Einzelfall vornehmen und ihre technisch-organisatorischen Maßnahmen laufend auf dem aktuellen Stand halten.

Einordnung in die Reihe

Die DSK bezeichnet die Orientierungshilfe als ihre dritte Veröffentlichung zu KI-Systemen seit 2024. Zuvor erschienen sind die Orientierungshilfen zum Einsatz und zur Entwicklung von KI-Systemen.