KI-Sensemaking Lab

Ein Vorhaben von modus|zad in Kooperation mit der BAG RelEx 

Hintergrund 

KI-Begleiter sind dialogbasierte KI-Chatbots (z.B. Replika, Nomi, Grok), die auf eine längerfristige, personalisierte und häufig emotional anmutende Interaktion mit einzelnen Nutzer:innen ausgelegt sind. Zahlreiche Firmen konzentrieren sich derzeit vermehrt auf die Vermarktung von KI als “Begleiter”, weshalb es besonders zentral ist, deren mögliche Auswirkungen auf Radikalisierungsprozesse frühzeitig antizipieren zu können. Durch kontinuierliche Gespräche, Erinnerung an frühere Interaktionen und die Anpassung an persönliche Bedürfnisse können sie die Rolle einer vertrauten Bezugsperson, einer Freundin, eines Freundes, Partnerin oder Partners, Coaches oder Ratgebers simulieren. Zwar sehen viele Anbieter Altersgrenzen zum Schutz Minderjähriger vor, diese lassen sich jedoch häufig leicht umgehen. Zudem sind frei nutzbare Open-Weight-Modelle verfügbar, die keinerlei Zugangsbeschränkungen unterliegen. Wenn radikalisierungsgefährdete junge Menschen täglich mit KI-Begleitern persönliche Probleme teilen, Erklärungen suchen und emotionale Unterstützung holen, könnten KI-Begleiter zu alltäglichen, vertrauten Mitproduzenten von Weltanschauung werden. Aus Sicht der Extremismusprävention ist daher zu untersuchen, ob und unter welchen Bedingungen solche privaten, personalisierten Dialogräume komplexitätsreduzierende oder ideologisch anschlussfähige Deutungsmuster verstärken und/oder ihnen entgegenwirken können. 

Ziele 

Ziel des Vorhabens ist es, die Extremismusprävention frühzeitig dazu zu befähigen, KI-Begleiter als neue personalisierte Deutungs- und Sozialisationsinstanzen im Alltag junger Menschen zu verstehen, kritisch einzuordnen und in der (Online-)Extremismuspräventionsarbeit angemessen zu berücksichtigen.  

Das Vorhaben untersucht explorativ und experimentell, wie ausgewählte KI-Begleiter an der Deutung unterschiedlicher Lebenslagen junger Menschen mitwirken. Im Mittelpunkt steht die Frage, ob die Systeme in zeitlich begrenzten, personalisierten Dialogen differenzierende und resilienzfördernde Perspektiven eröffnen oder Deutungsmuster hervorbringen bzw. stabilisieren, die aufgrund ihrer Komplexitätsreduktion, Schuldzuweisung oder identitätsbezogenen Schließung an extremistische Narrative anschlussfähig sind.  

Dazu werden gängige KI-Begleiter ausgewählt und in vergleichender Perspektive betrachtet. Das Projekt-Team erarbeitet fiktive, jedoch an bestehende wissenschaftliche Erkenntnisse angelehnte Gesprächsverläufe, und simuliert mit den KI-Begleitern Gespräche, die im Anschluss systematisch ausgewertet werden. 

Ergebnisse 

Die Ergebnisse werden zum einen in einem Abschlussbericht zusammengefasst, der öffentlich abrufbar sein wird. Zum anderen werden die Erkenntnisse mit Expert:innen aus den Fachbereichen Extremismusprävention, soziale Arbeit sowie der KI-Forschung im Rahmen einer Viewing Session erörtert und kontextualisiert.