Die Peripherie des Extremismus auf YouTube | Der Algorithmus – Gefangen in der Blase?
Ein Beitrag von Till Baaken und Matthias Meyer
Der YouTube Empfehlungsalgorithmus spielt eine ganz entscheidende Rolle. User*innen leitet er auf neue Videos weiter, KanĂ€len beschafft er neue Zuschauer*innen und YouTube profitiert von lĂ€ngeren Verweildauern auf der Plattform. Einer Studie des Pew Research Centers zufolge, gaben 81 % der YouTube-Nutzer*innen an, dass sie zumindest gelegentlich die von der Seite empfohlenen Videos ansehen â darunter 15 %, die sagen, sie tun dies regelmĂ€Ăig. Im vorherigen Blogbeitrag wurde deutlich, dass die ausgewĂ€hlten KanĂ€le der Peripheriesammlung auf YouTube ein eigenes Cluster bilden. Aber bilden sie auch eine Filterblase? Empfiehlt YouTube beispielsweise zu islamistischen oder salafistischen Videos immer neue islamistische oder salafistische Inhalte? Und wenn nicht: Welche Videos auĂerhalb der Blase werden empfohlen?
Um dies herauszufinden wurden in einer Datenauswertung zu den 100 meistgesehenen Videos der 25 populĂ€rsten KanĂ€le aus der Peripheriesammlung die YouTube Empfehlungen abgerufen und in einer Datenbank ausgewertet. Dies geschah mittels YouTubes Programmierschnittstelle (API), sodass bisheriges Nutzer*innenverhalten und BrowserverlĂ€ufe keinen Einfluss auf die Empfehlungen hatten. FĂŒr realistischere Empfehlungen wurde als Standort Deutschland angegeben. Pro Video hielt YouTube zwischen 50 und 100 Empfehlungen bereit. Insgesamt kamen so 108.875 Empfehlungen zusammen.
Anteil an Empfehlungen zu Videos aus dem Cluster, die im Cluster blieben bzw. aus diesem herausfĂŒhrten.
In 70.530 FĂ€llen empfahl YouTube zu Videos aus dem Cluster Videos, die ebenfalls aus dem Cluster kamen. Das bedeutet, YouTubes Empfehlungsalgorithmus leitet User*innen signifikant hĂ€ufiger zu weiteren Videos aus dem Cluster, nachdem User*innen ein einzelnes Video innerhalb des Clusters angeschaut haben. YouTube sieht also die Wahrscheinlichkeit am höchsten an, dass ein*e User*in, sobald er oder sie das Cluster einmal âbetretenâ hat, dieses nicht unbedingt zeitnah wieder verlassen wĂŒrde. Das bestĂ€rkt nicht nur die Theorie, dass die ausgewĂ€hlten KanĂ€le ein abgesondertes Cluster in der YouTube-Landschaft bilden, sondern spricht auch dafĂŒr, dass YouTube diesen Prozess durch seine Empfehlungspraktik funktional begĂŒnstigt.
Die tatsĂ€chliche Anzahl an FĂ€llen, in denen Inhalte aus der Peripheriesammlung empfohlen wurden, dĂŒrfte in Wirklichkeit noch ĂŒber 70.530 liegen. Inhalte, die Wertvorstellungen von KanĂ€len des Peripherieclusters bestĂ€tigen, mĂŒssen aber nicht zwangslĂ€ufig auch von einem dieser KanĂ€le hochgeladen worden sein. Das am hĂ€ufigsten von einem Kanal auĂerhalb der Blase empfohlene Video stammte im Erhebungszeitraum von einem Kanal namens Brigid Fern. Das Video zeigt in einer öffentlich-rechtlichen TV-Dokumentation Pierre Vogel, einen der bekanntesten deutschen Salafisten, beim Besuch seiner christlichen GroĂmutter. Abseits des besagten Mitschnitts findet sich auf dem Kanal kein Video, das einen Bezug zum Islam oder der islamistischen Blase hat. Relevant fĂŒr das Cluster ist das Video aber dennoch.
Auswahl: Die am hĂ€ufigsten empfohlenen Videos auĂerhalb des islamistischen Clusters
- Brigid Fern: Pierre Vogel besucht seine Oma, möge Allah sie zum Islam
- MrWissen2go: Islam erklĂ€rt | Eine Religion in (fast) fĂŒnf Minuten
- ERF MenschGott: Lebensziel Geld | Im Knast in Kolumbien Gott begegnet | #ERFMenschGott
- casinterface: Hart aber Fair mit Pierre Vogel vom 26 09 2007 1 von 10
- Marc Galal: Warum wir nie zufrieden sind â 3 Wege zum dauerhaften GlĂŒck
- Detlef Behr: Wie wecke ich Zeugen Jehovas und andere Sektenmitglieder?
- muslim mujib: Vertraue auf Allah – eine wahre Geschichte
- datteltÀter: Marcel erklÀrt Ramadan-Begriffe | Spaà mit Begriffen #4
- Lisha&Lou: âąReal-talkâą Vom Moslem zum Christ, Warum ? | Lisha&Lou
- Al Huda: Nach dieser gewaltigen Dua wird Allah deine Sorgen nehmen und deine WĂŒnsche erfĂŒllen
- Memra TV: ABDUL – 7 LĂŒgen von Pierre Vogel zerlegt /Jesus ist Gott ۧÙۯۧŰčÙŰ© ۧÙۧ۳ÙŰ§Ù Ù ŰšÙÙ۱ ÙÙŰŹÙ ŰŁÙۧ۰ÙŰšÙ Ù ŰȘÙۧÙ۶Ù
- Bahar: Wie fasten Muslime? | GESCHLECHTSVERKEHR IM RAMADAN? | Fakten zum Ramadan | RAMADAN 2019 (5)
- Die Frage: Was passiert in der Moschee? | Haben wir ein Problem mit dem Islam? Folge 2/5
- joiz Germany: Patric Q Wittlinger- von DSDS zum Islam
- Alina Udino: richtig beten im Islam
- PULS Reportage: Was wissen wir eigentlich ĂŒber den Islam? || PULS Reportage
- Till Eulenspiegel-Kanal: DAS DUELL âą MUSLIM âȘ vs. CHRIST â âą Runde 1
- SYou: GUTEN MORGEN đ„ *POWERCHORD* ist iM SHOP! WEITER SEASON 9 MIT EUCH ERKUNDEN! | Fortnite
- EX-MUSLIME KLĂREN AUF TV: Ex-Muslime und Christian Prince Die VerfĂ€lschung des Koran’s
- Galileo: Zu Gast bei einer muslimischen Familie | Galileo | ProSieben
Untersucht wurde, welche Videos auf YouTube empfohlen werden, wenn man sich ein Video angeschaut hat, das von einem Kanal aus dem Peripheriecluster stammte. Wie treffsicher YouTubes Algorithmen sind, zeigt sich darin, dass nahezu alle Videos im unmittelbaren Bezug zum Islam stehen â auch diese Videos, die von KanĂ€len auĂerhalb des Peripherieclusters stammen. Einige wenige Ausnahmen gibt es dennoch: So findet sich zum Beispiel auf Platz 22 der am hĂ€ufigsten empfohlenen Videos auĂerhalb des Clusters die vom ZDF produzierte Terra-X-Dokumentation âWie Drogen die Welt verĂ€ndernâ.
Wie zu erwarten war, teilt YouTube aktuellen Videos ein besseres Ranking zu. Die ZDF-Doku ging wenige Tage vor der Empfehlungsanalyse online. Bei einem Vergleichstest wenige Wochen spĂ€ter tauchte sie nicht mehr in der Liste auf. Insgesamt 2,49 % der empfohlenen Videos wurden in der Woche vor der Analyse hochgeladen. Alle Empfehlungen ohne direkten Islambezug finden sich in dieser Kohorte. Das bedeutet, dass es ein kurzes Zeitfenster gibt, auch mit inhaltsfremden Videos im Peripheriecluster wahrgenommen zu werden. Beweist sich ein entsprechendes Video allerdings nicht als relevant genug fĂŒr die Zuschauer*innen des Clusters, verschwindet das Video wieder aus den Empfehlungen.
Das Zeitfenster, neben Videos des Peripherieclusters empfohlen zu werden, ist knapp bemessen und der Anteil der empfohlenen Neuuploads mit 2,49 % verschwindend gering. GrĂŒnde fĂŒr die im GroĂen und Ganzen einseitigen Empfehlungen mögen darin liegen, dass entsprechende Videos innerhalb des Clusters inhaltlich â YouTube achtet auf markante âKeywordsâ oder SchlĂŒsselbegriffe im Video â eine groĂe Kongruenz aufweisen und diese Keywords nur selten reichweitenstark von anderen KanĂ€len besetzt werden. Der Empfehlungsalgorithmus mag zwar prĂ€zise sein, im Kontext des von uns identifizierten Clusters einer Peripherie des Extremismus ist er aber auch problematisch. Durch die immer neue Empfehlung extremistischer Videos aus diesem Cluster kann ein Radikalisierungsprozess somit begĂŒnstigt werden.
Empfehlungen in die Blase hinein
Bisher besprochen wurden potenzielle Verbindungen ĂŒber Empfehlungen aus dem Cluster heraus. Spannend ist aber auch die Frage, von welchen KanĂ€len der Netzwerkkarte aus Empfehlungen in die Blase hinein auszumachen sind. Solche Empfehlungen sind allerdings schwer nachzuweisen. Dies spricht einerseits fĂŒr die Isolation des Clusters, andererseits zeigt es aber auch die Grenzen der verwendeten Methodik auf. Wenn YouTube User*innen Empfehlungen anzeigt, basieren diese in der Regel auf einer Vielzahl individueller Faktoren. Eine Rolle spielt dabei unter anderem der genaue Nutzer*innenstandort, die Suchhistorie, die getĂ€tigten Abonnements und bisher angeschaute Videos. Diese Faktoren wurden bei der Analyse auĂen vorgelassen, um eine Vergleichbarkeit der Studie herstellen zu können.
Ohne Genaueres ĂŒber den*die User*in zu wissen, empfiehlt YouTube, wie sich zeigt, also tendenziell eher unverfĂ€ngliche und vor allem in vielen verschiedenen Nutzer*innengruppen populĂ€re Inhalte. So ist es wenig erstaunlich, dass ohne detailliertere Kenntnisse ĂŒber die Interessen neben Musikvideos von MERT, Schminktutorials von BibisBeautyPalace oder Islam-Dokus von Galileo keine Videos aus dem Cluster der Peripherie anzutreffen sind.
Nichtsdestotrotz spĂŒrte die Empfehlungsanalyse zwei KanĂ€le ohne extremistische Inhalte auf, zu denen YouTubes Algorithmus auch ohne weiteres Vorwissen Videos aus islamistischen KanĂ€len als plausible Empfehlung ansah: 9,2 % der zu Eurasian Muslima empfohlenen Videos fĂŒhren ins Peripheriecluster. Zu Salsabil al-Almaniya sind es sogar 24,4 %. Die beiden KanĂ€le sind keine unbekannten. Bereits im vorherigen Blogbeitrag zur erstellten Netzwerkkarte wurden sie als potenzielle BrĂŒckenkanĂ€le ins Peripheriecluster diskutiert, da sie selber explizit kein Teil des Clusters sind.
Prozent der Empfehlungen zum Kanal Eurasian Muslima fĂŒhrten ins betrachtete Cluster
Prozent bei Salsabil al-Almaniya
Eurasian Muslima und Salsabil al-Almaniya sprechen ein Publikum an, das auf der einen Seite ĂŒberdurchschnittlich hĂ€ufig Beauty- und Lifestyle-Vlogs von YouTuber*innen schaut, gleichzeitig aber auch mehr ĂŒber den Islam erfahren möchte, ĂŒber eine Konversion nachdenkt, oder auf der Suche nach deutschsprachigen muslimischen Vorbildern ist. Aufgrund von YouTubes Empfehlungspraxis und fehlender AlternativerzĂ€hlungen wird dieses Publikum aber massiv innerhalb des Clusters mit islamistischen Inhalten konfrontiert, deren extreme Aussagen hinter unscheinbar klingenden Videotiteln hĂ€ufig nur schwer zu erkennen sind.
Eine Empfehlungsrate von extremistischen Inhalten von 9,8 % beziehungsweise 24,4 % unter nicht-extremistischen BeitrĂ€gen ist deutlich, zumal zum einen der Algorithmus bei dem gewĂ€hlten Versuchsaufbau tendenziell eher zu unverfĂ€nglicheren Videos als Empfehlung neigt und zum anderen die Rate unter bestimmten Videos der beiden noch deutlich höher liegt. Besonders zahlreich sind die extremistischen Empfehlungen nĂ€mlich bei Videos, in denen die beiden ĂŒber ihren Glauben sprechen. 40,38 % der empfohlenen Videos unter dem Video â10 TIPPS UM NIE WIEDER FAJR ZU VERPASSENâ der Eurasian Muslima wurden von KanĂ€len aus dem Peripheriecluster hochgeladen. Zu dem Video âSUNNITEN,SHIITEN ODER SALAFISMUS, WAS IST NUN RICHTIG?!? đ€â sind 37,5 % der Empfehlungen aus dem definierten Cluster, was der inhaltlichen Aussage der Eurasian Muslima im Video widerspricht: Dort geht sie darauf ein, dass eine sunnitische, schiitische oder salafistische Verortung fĂŒr sie gar nicht so relevant sei, wĂ€hrend die empfohlenen Videos ganz im Gegenteil eine bestimmte sunnitische Glaubensauslegung als die einzig legitime propagieren.
 Â
Anzahl der Empfehlungen bestimmter KanÀle zu Videos von Eurasian Muslima
Betrachtet man die zur Eurasian Muslima und Salsabil al-Almaniya getĂ€tigten Empfehlungen genauer, bestĂ€tigt sich die im Zuge der Netzwerkkarte besprochene These, dass die KanĂ€le primĂ€r fĂŒr weibliche Zuschauerinnen interessant sind. Daher empfiehlt der Empfehlungsalgorithmus dann auch fast nur Videos von islamistischen KanĂ€len mit frauenspezifischen Inhalten wie âSo wird dein Mann dich lieben-Welche Dinge hasst der Mann an seiner Frau?â des Salafistenpredigers Abul Baraa oder âKopftuchverbot: Steht das Kopftuch im QurâÄn?â des mit Hizb-ul-Tahrir in Verbindung stehenden Kanals RealitĂ€t Islam.
MĂ€nnerspezifische Empfehlungen konnten mit der Methodik nicht gefunden werden. Die Netzwerkanalyse zeigte, dass sich im mit âMĂ€nnerthemenâ assoziierten unteren Teil der Netzwerkkarte Wissens- und Dokuangebote insbesondere in Richtung Peripheriecluster hĂ€ufen. Auch in den Empfehlungen tauchen entsprechende Dokumentationen immer wieder auf.
Auswahl: Die am hĂ€ufigsten empfohlenen KanĂ€le auĂerhalb des Peripherieclusters
Die obenstehende Tabelle listet die am hÀufigsten empfohlenen KanÀle auf, die keine islamistischen Inhalte enthalten. Von den 20 am hÀufigsten empfohlenen KanÀlen sind 8 populÀre Nachrichten- oder InfotainmentkanÀle. Drei von ihnen (HerrWissen2go, DW Deutsch und ARD) gehören zum öffentlich-rechtlichen Rundfunk in Deutschland.
Auswahl: Die am hÀufigsten empfohlenen Nachrichten-/Dokumentationsvideos
- PULS Reportage: Was wissen wir eigentlich ĂŒber den Islam? || PULS Reportage
- WELT netzreporterin – Antje Lorenz: AfD-FunktionĂ€r konvertiert zum Islam: Arthur Wagner erklĂ€rt sich
- Bayerischer Rundfunk: Ramadan – kurz erklĂ€rt: Nicht essen, nicht trinken, nicht lĂŒgen…?
- WELT Nachrichtensender: Zum Islam konveriert: So erklÀrt Wagner, warum er AfD-Mitglied bleiben möchte
- ARD: „Ich bin Muslim. Was wollen Sie wissen?“ | Kulturjournal | NDR
- PULS Reportage: Fashion und Kopftuch? â Unterwegs mit Hijabistas || PULS Reportage
- ARD: Islamische Theologie an deutschen UniversitĂ€ten – Eine Bilanz – Campus Magazin
- SWR: Macht das Kopftuch arbeitslos? | Zur Sache Baden-WĂŒrttemberg
- COMPACTTV: Klima-Hysterie als Ersatz-Religion – COMPACT 4/2019
- DW Deutsch: Muslim-Aussteiger | Politik direkt
- DER STANDARD: Kopftuchdebatte: Zwei Frauen erzÀhlen, warum sie Kopftuch tragen
- WDR Doku: Islam: junge Menschen im Iran | WDR Doku
- DW Deutsch: Umfrage: Was verbinden Sie mit dem Islam? | Politik direkt
- WELT Nachrichtensender: KILLER VOR GERICHT: Auch Kinder unter 49 Todesopfern von Christchurch
- SPIEGEL TV: Netzwerk der Hetzer, Teil 1 – SPIEGEL TV Magazin
- WELT Nachrichtensender: 49 TOTE: Brutaler Terrorattacke auf Moscheen erschĂŒttert Neuseeland
- tagesschau: Moscheereport: Islam und HomosexualitÀt
- SWR: Der Islam in unserem Alltag – wo ist das Problem | SWR NachtcafĂ©
- SPIEGEL TV: Proteste in Israel: JĂŒdin heiratet Muslim
- DW Deutsch: Politik direkt | Islamunterricht – Eine junge Lehrerin bricht Tabus in Deutschland
Empfohlene Nachrichtenvideos sind oben aufgefĂŒhrt. Bis auf einige Ausnahmen von viralen Videos zum Zeitpunkt der Analyse handelt es sich bei allen Videos um Dokumentationen oder Wissensvideos ĂŒber den Islam in Deutschland oder um nachrichtenbezogene Themen ĂŒber den Nahen Osten. Obwohl die Beziehung zu Dokumentarfilmen ambivalent zu sein scheint, wie eine schnelle Untersuchung der Kommentare von Nutzer*innen, die mit dem Peripheriecluster verbunden sind, zeigt, haben Nachrichten- und Infotainment-Inhalte zumindest einen gewissen Einfluss auf das Peripheriecluster des Extremismus. FĂŒr TrĂ€ger der ExtremismusprĂ€vention können diese Erkenntnisse eine Möglichkeit sein, in das Cluster vorzustoĂen und Gegen- oder Alternativnarrative zu platzieren bzw. zu verbreiten. Zudem können beispielsweise die empfohlenen Wissensvideos im Rahmen von PrĂ€ventionsmaĂnahmen genutzt werden, um den YouTube Algorithmus kritisch zu hinterfragen und die angesprochenen Themen pĂ€dagogisch aufzuarbeiten.
Ăber die Autoren
Matthias Meyer ist Associate Fellow bei
Till Baaken ist wissenschaftlicher Mitarbeiter bei
Neben seiner TĂ€tigkeit fĂŒr