- Neue Erkenntnisse des ISD zeigen, dass Extremisten TikTok nutzen, um Hitler-bezogene Propaganda zu verbreiten und neue Mitglieder zu rekrutieren. . Der algorithmisch gesteuerte TikTok-Feed begünstigt extremistisches Gedankengut und macht es leicht zugänglich für eine breite, junge Nutzergruppe. . Telegram dient als Beratungszentrum für Rekrutierungstechniken auf TikTok, wo Mitglieder Videos und Bilder teilen, um sie algorithmisch zu fördern. . Forscher entdeckten, dass viele extremistische Konten international agieren und Inhalte in mehreren Sprachen verbreiten, darunter Französisch, Russisch und Ungarisch. . TikTok hat Probleme bei der effektiven Moderation extremistischen Materials, was Zweifel an der Wirksamkeit ihrer Sicherheitsmaßnahmen aufkommen lässt.
Neue Erkenntnisse des Instituts für Strategischen Dialog (ISD) werfen ein düsteres Licht auf TikTok. Extremisten nutzen die Plattform, um Hitler-bezogene Propaganda zu verbreiten und neue Mitglieder zu rekrutieren. Das algorithmisch gesteuerte Umfeld von TikTok begünstigt diese extremistischen Inhalte und macht sie einer breiteren, jüngeren Nutzergruppe zugänglich. Die Forscher des ISD fanden heraus, dass Hunderte von Extremistenkonten offen Videoinhalte veröffentlichen, die Holocaust-Leugnung, die Glorifizierung Hitlers sowie Nazi-Deutschland bewerben und die Nazi-Ideologie als Lösung für moderne Probleme, wie die vermeintliche Migranteninvasion in westlichen Ländern, darstellen.
Die Rolle des TikTok-Algorithmus’
Weiter berichtet das ISD, dass diese Konten Unterstützung für weiße suprematistische Amokläufer zeigen und Live-Stream-Aufnahmen oder Nachstellungen dieser Massaker verbreiten. Viele dieser Konten nutzen Nazi-Symbole in ihren Profilbildern oder weiße suprematistische Codes in ihren Benutzernamen. Nathan Doctor, ein Forscher des ISD, begann seine Untersuchung, nachdem er auf ein neo-nazistisches Konto auf TikTok gestoßen war. Schnell konnte er ein viel größeres Netz an Konten entlarven, die durch Liken, Teilen und Kommentieren gegenseitig ihre Reichweite vergrößern.
Solche neo-nazistischen Narrative sind typischerweise in Randplattformen wie Telegram zu finden. Doch Telegram hat eine spezifische Rolle übernommen: Es dient als Beratungszentrum für Rekrutierungstechniken auf TikTok. Mitglieder teilen dort Videos und Bilder, die auf TikTok gepostet werden sollen, und geben Anweisungen zur algorithmischen Förderung dieser Inhalte.
Gruppendynamik und globale Vernetzung
Ein prominenter Neo-Nazi fordert seine Telegram-Anhänger regelmäßig auf, seine TikTok-Videos zu „pushen“, also algorithmisch zu verstärken, um ihre virale Reichweite zu erhöhen. Forscher des ISD entdeckten Dutzende von TikTok-Videos, die Ausschnitte aus der neo-nazistischen Dokumentation „Europa: The Last Battle“ zeigen. Einige dieser Videos haben über 100.000 Aufrufe. Ein Konto erzielte mit solchen Clips fast 900.000 Aufrufe, darunter antisemitische Behauptungen über die Rothschilds.
Dies ist nicht das erste Mal, dass TikToks Algorithmen für die Verbreitung extremistischer Inhalte verantwortlich gemacht werden. Berichte zeigen, dass TikTok jüngst junge Wähler in Deutschland in Richtung der rechtsextremen Partei Alternative für Deutschland (AfD) gedrängt hat. TikTok selbst gibt an, dass lediglich 2 Prozent der Inhalte nicht sofort entfernt werden, was Zweifel an der Effektivität ihrer Moderationsmaßnahmen aufkommen lässt.
Sprache und Symbole als Tarnung
Extremisten verwenden oft verschlüsselte Sprache, Emojis und Akronyme, um Moderationen zu umgehen. TikTok beschäftigt über 40.000 Sicherheitsfachleute, um solche Vorgänge weltweit zu überwachen. Doctor weist aber darauf hin, dass Muster auch in anderen Sprachen erkennbar bleiben sollten.
Die Untersuchung zeigte auch, dass viele dieser Konten international agieren. Doktor stieß auf extremistische Inhalte in mehreren Sprachen, darunter Französisch, Russisch und Ungarisch. Es scheint keine koordinierte Zusammenarbeit zu geben, allerdings interagieren diese Konten aktiv miteinander.
Neben einzelnen Konten und Gruppen, die extremistische Inhalte fördern, rekrutieren auch rechtsextreme Organisationen offen auf der Plattform. Manche Konten teilen Links zu antisemitischen Flugblättern und Anleitungen zur Herstellung von Sprengsätzen. In einem Fall rief ein Konto zur Errichtung eines bewaffneten Aufstands und zur digitalen Vernetzung in „sicheren“ Chatrooms auf.
Widersprüchliche Moderationsergebnisse
Obwohl manche Konten nach Meldung durch ISD schließlich gesperrt wurden, erlaubte TikTok zahlreichen weiteren, aktiv zu bleiben. Forscher erstellten Testkonten, um zu prüfen, wie effektiv der Algorithmus extremistisches Material verbreitet. Schon nach wenigen Videosempfehlungen landeten die Testkonten in extremistischer Themennähe. Beliebte Beiträge zeigten unter anderem ein Hitler-Video mit Rekrutierungsaufrufen.
Abbie Richards, Expertin für Desinformation auf TikTok, bestätigt die Probleme. Der repetitive Charakter der extremistischen Inhalte sorgt dafür, dass Nutzer schließlich von der Ideologie beeinflusst werden. Lösungen sind schwer zu finden, selbst unter Mithilfe von Künstlicher Intelligenz und zusätzlichen Moderatoren.
TikTok versucht dagegenzuhalten, hat aber weiterhin mit Lücken in der Durchsetzung seiner Richtlinien zu kämpfen. Dies zeigt, dass Plattformen wie Telegram noch größere Verantwortung übernehmen müssen. Die Verbreitung von Extremismus ist ein globales Phänomen, das eine verstärkte Zusammenarbeit und innovative Ansätze erfordert, um effektiv bekämpft zu werden.
