Große Sprachmodelle zur Automatisierung behördlicher Entscheidungsprozesse unter Realisierung eines starken Datenschutzes (SMARD-GOV)

Basic data for this project

Description

Motivation: Im Bereich Künstlicher Intelligenz (KI) können sogenannte große Sprachmodelle (engl. Large Language Models, LLM) Zusammenfassungen von Texten und häufig schlüssige Antworten auf textbezogene Fragen liefern. In Behörden hat der Einsatz von LLM das Potenzial, Entscheidungsabläufe effizienter zu gestalten und so zu einer Modernisierung der Verwaltung beizutragen. Existierende LLM zeigen jedoch nicht nur bei der juristischen Argumentation, sondern auch beim Datenschutz Defizite. Zudem könnten die für Entscheidungen zuständigen Personen ein zu großes Vertrauen in die Ergebnisse der automatisierten Datenverarbeitung setzen. Daher ist es entscheidend, dass die zuständigen Personen die Ergebnisse der LLM kritisch prüfen. In diesem Zusammenhang ist noch unzureichend erforscht, wie diese menschliche Aufsicht über LLM bei der Unterstützung von Entscheidungen sichergestellt werden kann. Ziele und Vorgehen: Das interdisziplinäre Forschungsprojekt „SMARD-GOV“ hat das Ziel, Anforderungen an datenschutzkonforme, sichere LLM für die Unterstützung von Entscheidungsprozessen in Behörden zu ermitteln. Darüber hinaus möchte das Projektteam die technisch-organisatorische Umsetzung validieren. Das Projektteam analysiert dafür Bestimmungen des EU-Datenschutzrechts und der KI-Verordnung, untersucht technische Aspekte des Datenschutzes und erprobt Lösungsstrategien. Den Ausgangspunkt der technischen Experimente bildet ein vortrainiertes LLM, das mit anwendungsspezifischen Daten nachtrainiert wird. Durch empirische Studien mit Personen aus Verwaltung und Zivilgesellschaft fließen deren Perspektiven und spezifische Expertise in das Projekt ein. Innovationen und Perspektiven: Das Vorhaben vereint juristische, technische und empirische Forschung und untersucht die datenschutzrechtlichen Vorgaben an die Entwicklung und den Einsatz LLM-basierter Entscheidungsunterstützung in Behörden. Hierdurch wird der Schutz personenbezogener Daten im Kontext von LLM verbessert und zu einer Erhöhung der Rechtssicherheit und behördlichen Effizienz in Deutschland beigetragen.