- Ein Telegram-Bot, der mittels KI Fotos von Frauen “entkleiden” konnte, führte 2020 zu einem Wendepunkt in der Diskussion um die Gefahren von Deepfakes. Bis dato wurden über 100.000 explizite Bilder, einschließlich solcher von Kindern, generiert, ein Hinweis auf die Gefahren dieser Technologie. Eine Untersuchung von WIRED deckte auf, dass mindestens 50 Bots existieren, die explizite Inhalte mit wenigen Klicks erzeugen können, und diese Bots erreichen zusammen über 4 Millionen monatliche Nutzer. Telegram spielt eine bedeutende Rolle als Plattform für diese Bots; allein 25 unterstützende Kanäle zählen insgesamt über 3 Millionen Mitglieder. Trotz Löschung von 75 Bots und Kanälen durch Telegram bleibt das Problem tief verwurzelt und global präsent.
Im frühen Jahr 2020 machte der Deepfake-Experte Henry Ajder auf sich aufmerksam, als ein erster Telegram-Bot vorgestellt wurde, der in der Lage war, mittels künstlicher Intelligenz Fotos von Frauen zu „entkleiden“. Zum damaligen Zeitpunkt wurde bereits über 100.000 explizite Bilder, darunter auch solche von Kindern, generiert. Dieses Ereignis markierte einen Wendepunkt in Bezug auf die Schrecken, die Deepfakes hervorrufen können. Seitdem sind solche Technologien nicht nur verbreiteter, sondern auch schädlicher und leichter zu erzeugen geworden. Eine Untersuchung von WIRED ergab, dass mindestens 50 Bots existieren, die explizite Fotos oder Videos mit wenigen Klicks erzeugen können.
Die Verbreitung von Deepfake-Bots
Diese Bots variieren in ihren Fähigkeiten: Manche können Kleidung aus Fotos entfernen, während andere Personen in verschiedenen sexuellen Handlungen darstellen. Laut Statistik, die von jedem Bot präsentiert wird, listen die 50 Bots zusammen mehr als 4 Millionen „monatliche Benutzer“ auf. Zwei dieser Bots zählen jeweils über 400.000 Nutzer monatlich, während 14 weitere über 100.000 Mitglieder haben. Dies verdeutlicht, wie allgegenwärtig diese Anwendungen geworden sind und festigt Telegrams Rolle als prominenter Standort für solche Inhalte. Nichtsdestotrotz scheint der betrachtete Überblick, der sich größtenteils auf englischsprachige Bots konzentriert, nur einen kleinen Bruchteil des tatsächlichen Ausmaßes auf dieser Plattform darzustellen.
Die Gefahren von nicht einvernehmlichen Inhalten
„Wir sehen hier eine signifikante, teilweise exponentielle Zunahme der Menschen, die diese Art von Inhalten aktiv nutzen und erstellen“, so Ajder über die Bots. „Es ist wirklich beunruhigend, dass diese Werkzeuge – die im Grunde das Leben ruinieren und vor allem junge Mädchen und Frauen in albtraumhafte Szenarien verwickeln – so leicht zugänglich und auffindbar sind, selbst auf einer der größten Apps der Welt.“ Explizite nicht einvernehmliche Deepfake-Inhalte, oft als nicht einvernehmlicher intimer Bildmissbrauch bezeichnet, haben seit dem Aufkommen merklich zugenommen. Im Internet finden sich sowohl primitive „Nudify“-Websites als auch komplexere Tools und Telegram-Bots, die weltweit Tausende von Frauen und Mädchen zum Ziel haben.
Die von WIRED identifizierten Telegram-Bots werden von mindestens 25 assoziierten Telegram-Kanälen unterstützt, die zusammengenommen über 3 Millionen Mitglieder zählen. Diese Kanäle informieren über neue Funktionen der Bots und spezielle Angebote für „Tokens“, die zum Betrieb notwendig sind. Sie fungieren oft auch als Orte, an denen Nutzer Links zu neuen Bots finden können, falls alte entfernt werden. Telegram reagierte, nach Kontaktaufnahme durch WIRED, indem es 75 identifizierte Bots und Kanäle löschte. Unweigerlich spiegeln weitere identifizierte Kanäle und Bots später das Ausmaß des Problems wider.
