Die Peripherie des Extremismus auf YouTube | Der Algorithmus – Gefangen in der Blase?

Ein Beitrag von Till Baaken und Matthias Meyer

 

Der YouTube Empfehlungsalgorithmus spielt eine ganz entscheidende Rolle. User*innen leitet er auf neue Videos weiter, KanĂ€len beschafft er neue Zuschauer*innen und YouTube profitiert von lĂ€ngeren Verweildauern auf der Plattform. Einer Studie des Pew Research Centers zufolge, gaben 81 % der YouTube-Nutzer*innen an, dass sie zumindest gelegentlich die von der Seite empfohlenen Videos ansehen – darunter 15 %, die sagen, sie tun dies regelmĂ€ĂŸig. Im vorherigen Blogbeitrag wurde deutlich, dass die ausgewĂ€hlten KanĂ€le der Peripheriesammlung auf YouTube ein eigenes Cluster bilden. Aber bilden sie auch eine Filterblase? Empfiehlt YouTube beispielsweise zu islamistischen oder salafistischen Videos immer neue islamistische oder salafistische Inhalte? Und wenn nicht: Welche Videos außerhalb der Blase werden empfohlen?

YouTube empfiehlt rechts neben jedem Video per Algorithmus neue Videos. Nach Ablauf eines Videos startet in der Standardeinstellung die oberste Empfehlung automatisch.

Um dies herauszufinden wurden in einer Datenauswertung zu den 100 meistgesehenen Videos der 25 populĂ€rsten KanĂ€le aus der Peripheriesammlung die YouTube Empfehlungen abgerufen und in einer Datenbank ausgewertet. Dies geschah mittels YouTubes Programmierschnittstelle (API), sodass bisheriges Nutzerverhalten und BrowserverlĂ€ufe keinen Einfluss auf die Empfehlungen hatten. FĂŒr realistischere Empfehlungen wurde als Standort Deutschland angegeben. Pro Video hielt YouTube zwischen 50 und 100 Empfehlungen bereit. Insgesamt kamen so 108.875 Empfehlungen zusammen.

Anteil an Empfehlungen zu Videos aus dem Cluster, die im Cluster blieben bzw. aus diesem herausfĂŒhrten.

In 70.530 FĂ€llen empfahl YouTube zu Videos aus dem Cluster Videos, die ebenfalls aus dem Cluster kamen. Das bedeutet, YouTubes Empfehlungsalgorithmus leitet User*innen signifikant hĂ€ufiger zu weiteren Videos aus dem Cluster, nachdem User*innen ein einzelnes Video innerhalb des Clusters angeschaut haben. YouTube sieht also die Wahrscheinlichkeit am höchsten an, dass ein*e User*in, sobald er oder sie das Cluster einmal „betreten“ hat, dieses nicht unbedingt zeitnah wieder verlassen wĂŒrde. Das bestĂ€rkt nicht nur die Theorie, dass die ausgewĂ€hlten KanĂ€le ein abgesondertes Cluster in der YouTube-Landschaft bilden, sondern spricht auch dafĂŒr, dass YouTube diesen Prozess durch seine Empfehlungspraktik funktional begĂŒnstigt.

 

Die tatsĂ€chliche Anzahl an FĂ€llen, in denen Inhalte aus der Peripheriesammlung empfohlen wurden, dĂŒrfte in Wirklichkeit noch ĂŒber 70.530 liegen. Inhalte, die Wertvorstellungen von KanĂ€len des Peripherieclusters bestĂ€tigen, mĂŒssen aber nicht zwangslĂ€ufig auch von einem dieser KanĂ€le hochgeladen worden sein. Das am hĂ€ufigsten von einem Kanal außerhalb der Blase empfohlene Video stammte im Erhebungszeitraum von einem Kanal namens Brigid Fern. Das Video zeigt in einer öffentlich-rechtlichen TV-Dokumentation Pierre Vogel, einen der bekanntesten deutschen Salafisten, beim Besuch seiner christlichen Großmutter. Abseits des besagten Mitschnitts findet sich auf dem Kanal kein Video, das einen Bezug zum Islam oder der islamistischen Blase hat. Relevant fĂŒr das Cluster ist das Video aber dennoch.

Auswahl: Die am hĂ€ufigsten empfohlenen Videos außerhalb des islamistischen Clusters

Untersucht wurde, welche Videos auf YouTube empfohlen werden, wenn man sich ein Video angeschaut hat, das von einem Kanal aus dem Peripheriecluster stammte. Wie treffsicher YouTubes Algorithmen sind, zeigt sich darin, dass nahezu alle Videos im unmittelbaren Bezug zum Islam stehen – auch diese Videos, die von KanĂ€len außerhalb des Peripherieclusters stammen. Einige wenige Ausnahmen gibt es dennoch: So findet sich zum Beispiel auf Platz 22 der am hĂ€ufigsten empfohlenen Videos außerhalb des Clusters die vom ZDF produzierte Terra-X-Dokumentation „Wie Drogen die Welt verĂ€ndern“.

 

Wie zu erwarten war, teilt YouTube aktuellen Videos ein besseres Ranking zu. Die ZDF-Doku ging wenige Tage vor der Empfehlungsanalyse online. Bei einem Vergleichstest wenige Wochen spĂ€ter tauchte sie nicht mehr in der Liste auf. Insgesamt 2,49 % der empfohlenen Videos wurden in der Woche vor der Analyse hochgeladen. Alle Empfehlungen ohne direkten Islambezug finden sich in dieser Kohorte. Das bedeutet, dass es ein kurzes Zeitfenster gibt, auch mit inhaltsfremden Videos im Peripheriecluster wahrgenommen zu werden. Beweist sich ein entsprechendes Video allerdings nicht als relevant genug fĂŒr die Zuschauer*innen des Clusters, verschwindet das Video wieder aus den Empfehlungen.

 

Das Zeitfenster, neben Videos des Peripherieclusters empfohlen zu werden, ist knapp bemessen und der Anteil der empfohlenen Neuuploads mit 2,49 % verschwindend gering. GrĂŒnde fĂŒr die im Großen und Ganzen einseitigen Empfehlungen mögen darin liegen, dass entsprechende Videos innerhalb des Clusters inhaltlich – YouTube achtet auf markante „Keywords“ oder SchlĂŒsselbegriffe im Video – eine große Kongruenz aufweisen und diese Keywords nur selten reichweitenstark von anderen KanĂ€len besetzt werden. Der Empfehlungsalgorithmus mag zwar prĂ€zise sein, im Kontext des von uns identifizierten Clusters einer Peripherie des Extremismus ist er aber auch problematisch. Durch die immer neue Empfehlung extremistischer Videos aus diesem Cluster kann ein Radikalisierungsprozess somit begĂŒnstigt werden.

 

Empfehlungen in die Blase hinein

Bisher besprochen wurden potenzielle Verbindungen ĂŒber Empfehlungen aus dem Cluster heraus. Spannend ist aber auch die Frage, von welchen KanĂ€len der Netzwerkkarte aus Empfehlungen in die Blase hinein auszumachen sind. Solche Empfehlungen sind allerdings schwer nachzuweisen. Dies spricht einerseits fĂŒr die Isolation des Clusters, andererseits zeigt es aber auch die Grenzen der verwendeten Methodik auf. Wenn YouTube User*innen Empfehlungen anzeigt, basieren diese in der Regel auf einer Vielzahl individueller Faktoren. Eine Rolle spielt dabei unter anderem der genaue Nutzerstandort, die Suchhistorie, die getĂ€tigten Abonnements und bisher angeschaute Videos. Diese Faktoren wurden bei der Analyse außen vorgelassen, um eine Vergleichbarkeit der Studie herstellen zu können.

 

Ohne Genaueres ĂŒber den*die User*in zu wissen, empfiehlt YouTube, wie sich zeigt, also tendenziell eher unverfĂ€ngliche und vor allem in vielen verschiedenen Nutzergruppen populĂ€re Inhalte. So ist es wenig erstaunlich, dass ohne detailliertere Kenntnisse ĂŒber die Interessen neben Musikvideos von MERT, Schminktutorials von BibisBeautyPalace oder Islam-Dokus von Galileo keine Videos aus dem Cluster der Peripherie anzutreffen sind.

 

Nichtsdestotrotz spĂŒrte die Empfehlungsanalyse zwei KanĂ€le ohne extremistische Inhalte auf, zu denen YouTubes Algorithmus auch ohne weiteres Vorwissen Videos aus islamistischen KanĂ€len als plausible Empfehlung ansah: 9,2 % der zu Eurasian Muslima empfohlenen Videos fĂŒhren ins Peripheriecluster. Zu Salsabil al-Almaniya sind es sogar 24,4 %. Die beiden KanĂ€le sind keine unbekannten. Bereits im vorherigen Blogbeitrag zur erstellten Netzwerkkarte wurden sie als potenzielle BrĂŒckenkanĂ€le ins Peripheriecluster diskutiert, da sie selber explizit kein Teil des Clusters sind.

9.2

Prozent der Empfehlungen zum Kanal Eurasian Muslima fĂŒhrten ins betrachtete Cluster

24

Prozent bei Salsabil al-Almaniya

Eurasian Muslima und Salsabil al-Almaniya sprechen ein Publikum an, das auf der einen Seite ĂŒberdurchschnittlich hĂ€ufig Beauty- und Lifestyle-Vlogs von YouTuber*innen schaut, gleichzeitig aber auch mehr ĂŒber den Islam erfahren möchte, ĂŒber eine Konversion nachdenkt oder auf der Suche nach deutschsprachigen muslimischen Vorbildern ist. Aufgrund von YouTubes Empfehlungspraxis und fehlender AlternativerzĂ€hlungen wird dieses Publikum aber massiv innerhalb des Clusters mit islamistischen Inhalten konfrontiert, deren extreme Aussagen hinter unscheinbar klingenden Videotiteln hĂ€ufig nur schwer zu erkennen ist.

 

Eine Empfehlungsrate von extremistischen Inhalten von 9,8 % beziehungsweise 24,4 % unter nicht-extremistischen BeitrĂ€gen ist deutlich, zumal zum einen der Algorithmus bei dem gewĂ€hlten Versuchsaufbau tendenziell eher zu unverfĂ€nglicheren Videos als Empfehlung neigt und zum anderen die Rate unter bestimmten Videos der beiden noch deutlich höher liegt. Besonders zahlreich sind die extremistischen Empfehlungen nĂ€mlich bei Videos, in denen die beiden ĂŒber ihren Glauben sprechen. 40,38 % der empfohlenen Videos unter dem Video „10 TIPPS UM NIE WIEDER FAJR ZU VERPASSEN“ der Eurasian Muslima wurden von KanĂ€len aus dem Peripheriecluster hochgeladen. Zu dem Video „SUNNITEN,SHIITEN ODER SALAFISMUS, WAS IST NUN RICHTIG?!? đŸ€”â€ sind 37,5 % der Empfehlungen aus dem definierten Cluster, was der inhaltlichen Aussage der Eurasian Muslima im Video widerspricht: Dort geht sie darauf ein, dass eine sunnitische, schiitische oder salafistische Verortung fĂŒr sie gar nicht so relevant sei, wĂ€hrend die empfohlenen Videos ganz im Gegenteil eine bestimmte sunnitische Glaubensauslegung als die einzig legitime propagieren.

 

 

Anzahl der Empfehlungen bestimmter KanÀle zu Videos von Eurasian Muslima

Betrachtet man die zur Eurasian Muslima und Salsabil al-Almaniya getĂ€tigten Empfehlungen genauer, bestĂ€tigt sich die im Zuge der Netzwerkkarte besprochene These, dass die KanĂ€le primĂ€r fĂŒr weibliche Zuschauerinnen interessant sind. Daher empfiehlt der Empfehlungsalgorithmus dann auch fast nur Videos von islamistischen KanĂ€len mit frauenspezifischen Inhalten wie „So wird dein Mann dich lieben-Welche Dinge hasst der Mann an seiner Frau?“ des Salafistenpredigers Abul Baraa oder „Kopftuchverbot: Steht das Kopftuch im Qur’ān?” des mit Hizb-ul-Tahrir in Verbindung stehenden Kanals RealitĂ€t Islam.

 

MĂ€nnerspezifische Empfehlungen konnten mit der Methodik nicht gefunden werden. Die Netzwerkanalyse zeigte, dass sich im mit „MĂ€nnerthemen“ assoziierten unteren Teil der Netzwerkkarte Wissens- und Dokuangebote insbesondere in Richtung Peripheriecluster hĂ€ufen. Auch in den Empfehlungen tauchen entsprechende Dokumentationen immer wieder auf.

Die obenstehende Tabelle listet die am hÀufigsten empfohlenen KanÀle auf, die keine islamistischen Inhalte enthalten. Von den 20 am hÀufigsten empfohlenen KanÀlen sind 8 populÀre Nachrichten- oder InfotainmentkanÀle. Drei von ihnen (HerrWissen2go, DW Deutsch und ARD) gehören zum öffentlich-rechtlichen Rundfunk in Deutschland.

Auswahl: Die am hÀufigsten empfohlenen Nachrichten-/Dokumentationsvideos

Empfohlene Nachrichtenvideos sind oben aufgefĂŒhrt. Bis auf einige Ausnahmen von viralen Videos zum Zeitpunkt der Analyse handelt es sich bei allen Videos um Dokumentationen oder Wissensvideos ĂŒber den Islam in Deutschland oder um nachrichtenbezogene Themen ĂŒber den Nahen Osten. Obwohl die Beziehung zu Dokumentarfilmen ambivalent zu sein scheint, wie eine schnelle Untersuchung der Kommentare von Nutzer*innen, die mit dem Peripheriecluster verbunden sind, zeigt, haben Nachrichten- und Infotainment-Inhalte zumindest einen gewissen Einfluss auf das Peripheriecluster des Extremismus. FĂŒr TrĂ€ger der ExtremismusprĂ€vention können diese Erkenntnisse eine Möglichkeit sein, in das Cluster vorzustoßen und Gegen- oder Alternativnarrative zu platzieren bzw. zu verbreiten. Zudem können beispielsweise die empfohlenen Wissensvideos im Rahmen von PrĂ€ventionsmaßnahmen genutzt werden, um den YouTube Algorithmus kritisch zu hinterfragen und die angesprochenen Themen pĂ€dagogisch aufzuarbeiten.