Die Peripherie des Extremismus auf YouTube | Der Algorithmus – Gefangen in der Blase?

Der YouTube Empfehlungsalgorithmus spielt eine ganz entscheidende Rolle. User*innen leitet er auf neue Videos weiter, Kanälen beschafft er neue Zuschauer*innen und YouTube profitiert von längeren Verweildauern auf der Plattform. Einer Studie des Pew Research Centers zufolge, gaben 81 % der YouTube-Nutzer*innen an, dass sie zumindest gelegentlich die von der Seite empfohlenen Videos ansehen – darunter 15 %, die sagen, sie tun dies regelmäßig. Im vorherigen Blogbeitrag wurde deutlich, dass die ausgewählten Kanäle der Peripheriesammlung auf YouTube ein eigenes Cluster bilden. Aber bilden sie auch eine Filterblase? Empfiehlt YouTube beispielsweise zu islamistischen oder salafistischen Videos immer neue islamistische oder salafistische Inhalte? Und wenn nicht: Welche Videos außerhalb der Blase werden empfohlen?

Um dies herauszufinden wurden in einer Datenauswertung zu den 100 meistgesehenen Videos der 25 populärsten Kanäle aus der Peripheriesammlung die YouTube Empfehlungen abgerufen und in einer Datenbank ausgewertet. Dies geschah mittels YouTubes Programmierschnittstelle (API), sodass bisheriges Nutzer*innenverhalten und Browserverläufe keinen Einfluss auf die Empfehlungen hatten. Für realistischere Empfehlungen wurde als Standort Deutschland angegeben. Pro Video hielt YouTube zwischen 50 und 100 Empfehlungen bereit. Insgesamt kamen so 108.875 Empfehlungen zusammen.

Anteil an Empfehlungen zu Videos aus dem Cluster, die im Cluster blieben bzw. aus diesem herausführten.

In 70.530 Fällen empfahl YouTube zu Videos aus dem Cluster Videos, die ebenfalls aus dem Cluster kamen. Das bedeutet, YouTubes Empfehlungsalgorithmus leitet User*innen signifikant häufiger zu weiteren Videos aus dem Cluster, nachdem User*innen ein einzelnes Video innerhalb des Clusters angeschaut haben. YouTube sieht also die Wahrscheinlichkeit am höchsten an, dass ein*e User*in, sobald er oder sie das Cluster einmal „betreten“ hat, dieses nicht unbedingt zeitnah wieder verlassen würde. Das bestärkt nicht nur die Theorie, dass die ausgewählten Kanäle ein abgesondertes Cluster in der YouTube-Landschaft bilden, sondern spricht auch dafür, dass YouTube diesen Prozess durch seine Empfehlungspraktik funktional begünstigt.

Die tatsächliche Anzahl an Fällen, in denen Inhalte aus der Peripheriesammlung empfohlen wurden, dürfte in Wirklichkeit noch über 70.530 liegen. Inhalte, die Wertvorstellungen von Kanälen des Peripherieclusters bestätigen, müssen aber nicht zwangsläufig auch von einem dieser Kanäle hochgeladen worden sein. Das am häufigsten von einem Kanal außerhalb der Blase empfohlene Video stammte im Erhebungszeitraum von einem Kanal namens Brigid Fern. Das Video zeigt in einer öffentlich-rechtlichen TV-Dokumentation Pierre Vogel, einen der bekanntesten deutschen Salafisten, beim Besuch seiner christlichen Großmutter. Abseits des besagten Mitschnitts findet sich auf dem Kanal kein Video, das einen Bezug zum Islam oder der islamistischen Blase hat. Relevant für das Cluster ist das Video aber dennoch.

Untersucht wurde, welche Videos auf YouTube empfohlen werden, wenn man sich ein Video angeschaut hat, das von einem Kanal aus dem Peripheriecluster stammte. Wie treffsicher YouTubes Algorithmen sind, zeigt sich darin, dass nahezu alle Videos im unmittelbaren Bezug zum Islam stehen – auch diese Videos, die von Kanälen außerhalb des Peripherieclusters stammen. Einige wenige Ausnahmen gibt es dennoch: So findet sich zum Beispiel auf Platz 22 der am häufigsten empfohlenen Videos außerhalb des Clusters die vom ZDF produzierte Terra-X-Dokumentation „Wie Drogen die Welt verändern“.

Wie zu erwarten war, teilt YouTube aktuellen Videos ein besseres Ranking zu. Die ZDF-Doku ging wenige Tage vor der Empfehlungsanalyse online. Bei einem Vergleichstest wenige Wochen später tauchte sie nicht mehr in der Liste auf. Insgesamt 2,49 % der empfohlenen Videos wurden in der Woche vor der Analyse hochgeladen. Alle Empfehlungen ohne direkten Islambezug finden sich in dieser Kohorte. Das bedeutet, dass es ein kurzes Zeitfenster gibt, auch mit inhaltsfremden Videos im Peripheriecluster wahrgenommen zu werden. Beweist sich ein entsprechendes Video allerdings nicht als relevant genug für die Zuschauer*innen des Clusters, verschwindet das Video wieder aus den Empfehlungen.

Das Zeitfenster, neben Videos des Peripherieclusters empfohlen zu werden, ist knapp bemessen und der Anteil der empfohlenen Neuuploads mit 2,49 % verschwindend gering. Gründe für die im Großen und Ganzen einseitigen Empfehlungen mögen darin liegen, dass entsprechende Videos innerhalb des Clusters inhaltlich – YouTube achtet auf markante „Keywords“ oder Schlüsselbegriffe im Video – eine große Kongruenz aufweisen und diese Keywords nur selten reichweitenstark von anderen Kanälen besetzt werden. Der Empfehlungsalgorithmus mag zwar präzise sein, im Kontext des von uns identifizierten Clusters einer Peripherie des Extremismus ist er aber auch problematisch. Durch die immer neue Empfehlung extremistischer Videos aus diesem Cluster kann ein Radikalisierungsprozess somit begünstigt werden.

Bisher besprochen wurden potenzielle Verbindungen über Empfehlungen aus dem Cluster heraus. Spannend ist aber auch die Frage, von welchen Kanälen der Netzwerkkarte aus Empfehlungen in die Blase hinein auszumachen sind. Solche Empfehlungen sind allerdings schwer nachzuweisen. Dies spricht einerseits für die Isolation des Clusters, andererseits zeigt es aber auch die Grenzen der verwendeten Methodik auf. Wenn YouTube User*innen Empfehlungen anzeigt, basieren diese in der Regel auf einer Vielzahl individueller Faktoren. Eine Rolle spielt dabei unter anderem der genaue Nutzer*innenstandort, die Suchhistorie, die getätigten Abonnements und bisher angeschaute Videos. Diese Faktoren wurden bei der Analyse außen vorgelassen, um eine Vergleichbarkeit der Studie herstellen zu können.

Ohne Genaueres über den*die User*in zu wissen, empfiehlt YouTube, wie sich zeigt, also tendenziell eher unverfängliche und vor allem in vielen verschiedenen Nutzer*innengruppen populäre Inhalte. So ist es wenig erstaunlich, dass ohne detailliertere Kenntnisse über die Interessen neben Musikvideos von MERT, Schminktutorials von BibisBeautyPalace oder Islam-Dokus von Galileo keine Videos aus dem Cluster der Peripherie anzutreffen sind.

Nichtsdestotrotz spürte die Empfehlungsanalyse zwei Kanäle ohne extremistische Inhalte auf, zu denen YouTubes Algorithmus auch ohne weiteres Vorwissen Videos aus islamistischen Kanälen als plausible Empfehlung ansah: 9,2 % der zu Eurasian Muslima empfohlenen Videos führen ins Peripheriecluster. Zu Salsabil al-Almaniya sind es sogar 24,4 %. Die beiden Kanäle sind keine unbekannten. Bereits im vorherigen Blogbeitrag zur erstellten Netzwerkkarte wurden sie als potenzielle Brückenkanäle ins Peripheriecluster diskutiert, da sie selber explizit kein Teil des Clusters sind.

Eurasian Muslima und Salsabil al-Almaniya sprechen ein Publikum an, das auf der einen Seite überdurchschnittlich häufig Beauty- und Lifestyle-Vlogs von YouTuber*innen schaut, gleichzeitig aber auch mehr über den Islam erfahren möchte, über eine Konversion nachdenkt, oder auf der Suche nach deutschsprachigen muslimischen Vorbildern ist. Aufgrund von YouTubes Empfehlungspraxis und fehlender Alternativerzählungen wird dieses Publikum aber massiv innerhalb des Clusters mit islamistischen Inhalten konfrontiert, deren extreme Aussagen hinter unscheinbar klingenden Videotiteln häufig nur schwer zu erkennen sind.

Eine Empfehlungsrate von extremistischen Inhalten von 9,8 % beziehungsweise 24,4 % unter nicht-extremistischen Beiträgen ist deutlich, zumal zum einen der Algorithmus bei dem gewählten Versuchsaufbau tendenziell eher zu unverfänglicheren Videos als Empfehlung neigt und zum anderen die Rate unter bestimmten Videos der beiden noch deutlich höher liegt. Besonders zahlreich sind die extremistischen Empfehlungen nämlich bei Videos, in denen die beiden über ihren Glauben sprechen. 40,38 % der empfohlenen Videos unter dem Video „10 TIPPS UM NIE WIEDER FAJR ZU VERPASSEN“ der Eurasian Muslima wurden von Kanälen aus dem Peripheriecluster hochgeladen. Zu dem Video „SUNNITEN,SHIITEN ODER SALAFISMUS, WAS IST NUN RICHTIG?!? ?” sind 37,5 % der Empfehlungen aus dem definierten Cluster, was der inhaltlichen Aussage der Eurasian Muslima im Video widerspricht: Dort geht sie darauf ein, dass eine sunnitische, schiitische oder salafistische Verortung für sie gar nicht so relevant sei, während die empfohlenen Videos ganz im Gegenteil eine bestimmte sunnitische Glaubensauslegung als die einzig legitime propagieren.

Anzahl der Empfehlungen bestimmter Kanäle zu Videos von Eurasian Muslima

Betrachtet man die zur Eurasian Muslima und Salsabil al-Almaniya getätigten Empfehlungen genauer, bestätigt sich die im Zuge der Netzwerkkarte besprochene These, dass die Kanäle primär für weibliche Zuschauerinnen interessant sind. Daher empfiehlt der Empfehlungsalgorithmus dann auch fast nur Videos von islamistischen Kanälen mit frauenspezifischen Inhalten wie „So wird dein Mann dich lieben-Welche Dinge hasst der Mann an seiner Frau?“ des Salafistenpredigers Abul Baraa oder „Kopftuchverbot: Steht das Kopftuch im Qur’ān?” des mit Hizb-ul-Tahrir in Verbindung stehenden Kanals Realität Islam.

Männerspezifische Empfehlungen konnten mit der Methodik nicht gefunden werden. Die Netzwerkanalyse zeigte, dass sich im mit „Männerthemen“ assoziierten unteren Teil der Netzwerkkarte Wissens- und Dokuangebote insbesondere in Richtung Peripheriecluster häufen. Auch in den Empfehlungen tauchen entsprechende Dokumentationen immer wieder auf.

Die obenstehende Tabelle listet die am häufigsten empfohlenen Kanäle auf, die keine islamistischen Inhalte enthalten. Von den 20 am häufigsten empfohlenen Kanälen sind 8 populäre Nachrichten- oder Infotainmentkanäle. Drei von ihnen (HerrWissen2go, DW Deutsch und ARD) gehören zum öffentlich-rechtlichen Rundfunk in Deutschland.

Empfohlene Nachrichtenvideos sind oben aufgeführt. Bis auf einige Ausnahmen von viralen Videos zum Zeitpunkt der Analyse handelt es sich bei allen Videos um Dokumentationen oder Wissensvideos über den Islam in Deutschland oder um nachrichtenbezogene Themen über den Nahen Osten. Obwohl die Beziehung zu Dokumentarfilmen ambivalent zu sein scheint, wie eine schnelle Untersuchung der Kommentare von Nutzer*innen, die mit dem Peripheriecluster verbunden sind, zeigt, haben Nachrichten- und Infotainment-Inhalte zumindest einen gewissen Einfluss auf das Peripheriecluster des Extremismus. Für Träger der Extremismusprävention können diese Erkenntnisse eine Möglichkeit sein, in das Cluster vorzustoßen und Gegen- oder Alternativnarrative zu platzieren bzw. zu verbreiten. Zudem können beispielsweise die empfohlenen Wissensvideos im Rahmen von Präventionsmaßnahmen genutzt werden, um den YouTube Algorithmus kritisch zu hinterfragen und die angesprochenen Themen pädagogisch aufzuarbeiten.

Matthias Meyer ist Associate Fellow bei modus|zad und Initiator von Cluster, einem transparenten Nachrichtenaggregator. Matthias ist Geschichtswissenschaftler (B.A.) und Masterstudent der Informatik in Chemnitz. Er twittert unter @Matth_Meyer.

Till Baaken ist wissenschaftlicher Mitarbeiter bei modus|zad. Sein derzeitiger Arbeitsschwerpunkt liegt auf der Erforschung von Online (De-)Radikalisierung und von Prozessen individueller Distanzierung sowie im Monitoring der Peripherie des Extremismus Online. Till studierte in Berlin und London. Er ist Geschichtswissenschaftler und Ethnologe (B.A.) und Sozialwissenschaftler mit Fokus auf Terrorismus- und Sicherheitsstudien (M.A. Terrorism, Security & Society).

Neben seiner Tätigkeit für modus|zad ist Till Associate Fellow beim Global Network on Extremism and Technology (GNET) sowie wissenschaftlicher Mitarbeiter bei Violence Prevention Network. Er twittert unter @tillbaaken.