- Ein Minion wird in einem animierten Video zu einem monströsen Wesen. Ein YouTube-Kanal namens Go Cat bietet spannende, aber verstörende Kinderinhalte an. Diese Videos erinnern an das Elsagate-Phänomen von 2017. Generative KI ermöglicht die einfache Erstellung bizarrer Videos mit Kindercharakteren. YouTube versucht, problematische Inhalte zu entfernen, doch das Problem bleibt bestehen. Experten fordern eine Zusammenarbeit, um den Zugang zu sicheren Inhalten für Kinder zu gewährleisten.
In einem animierten New York schlingert ein Minion und stürzt in die Kanalisation. Eine Flut aus radioaktivem grünem Schleim umhüllt ihn und sein Körper beginnt zu mutieren. Gliedmaßen verändern sich, blutige Zahnreihen entstehen, während die kugelförmige, wurmähnliche Gestalt bedrohlich über den Bildschirm gleitet. “Hütet euch vor dem Minion in der Nacht, einer Schattenseele ohne Ende in Sicht”, singt ein Erzähler mit computergenerierter Stimme, während das monströse Wesen nun in einem Schwimmbecken lauert und sich unbemerkt an ein schreiendes Kind heranschleicht, das es gnadenlos zwischen seine Zähne nimmt. Doch klickt man auf das Video, erfährt man eine andere Geschichte.
Ein harmloser Anstrich?
“Willkommen bei Go Cat – einem unterhaltsamen und spannenden YouTube-Kanal für Kinder!”, kündigt die Kanalseite stolz an. Mit über 24.500 Abonnenten und mehr als 7 Millionen Zuschauern enthalten die Episoden Heiterkeit, bunte Animationen und überraschende Verwandlungsgeschichten. Doch das angeblich kinderfreundliche Angebot von Go Cat ist viszeral, surreal – fast schon an Körperhorror grenzend.
Zurückblickend erinnern die verstörenden Themen an das Elsagate-Phänomen von 2017. Damals überschwemmten unzählige Videos YouTube, die bekannte Kindercharaktere in misslichen, schädlichen Situationen zeigten. Durch Manipulation von Plattform-Algorithmen fanden diese Videos ihren Weg in die YouTube Kids-App und zielten darauf ab, mit Kinderneugierde Tausende von Klicks für monetäre Gewinnabsicht zu gewinnen.
Die Rolle von Künstlicher Intelligenz
Dann trat die Künstliche Intelligenz ins Rampenlicht. Die Möglichkeit, generative KI-Prompts zu verwenden, bedeutet, dass das Erstellen dieser bizarren Videos nicht nur einfach, sondern auch lukrativ geworden ist. Go Cat ist nur eines von vielen, das WIRED bei der Suche nach harmlosen Begriffen wie “Minions” oder “niedliche Katzen” entdeckte.
YouTube ergreift Maßnahmen, indem es Kanäle sperrt, die gegen die Dienstleistungsbedingungen verstoßen, und für einige ausgewählte Kanäle die Monetarisierung aussetzt. Der Plattform gelingt es, einige verstörende Inhalte zu entfernen, doch das Problem bleibt bestehen. Ai-generierte Videos, die schockierende Themen beinhalten, finden weiterhin ihre Plattform, was zeigt, dass das Elsagate-Phänomen noch nicht vollständig überwunden ist.
Eltern, Schöpfer und Plattformen in der Verantwortung
Mit dem rapiden Fortschritt der KI-Technologie ist das Problem des ungeeigneten Inhalts gewachsen. Experten schlagen vor, dass Plattformen, Ersteller von Inhalten, Eltern und Organisationen zusammenarbeiten sollten, um sicherzustellen, dass der Zugang zu Online-Videoinhalten für Kinder sicher und positiv ist. Gleichzeitig müssen Systeme entwickelt werden, um die tiefergehenden Herausforderungen, die durch diese rasante Veränderung der Medienlandschaft entstehen, zu bewältigen, wobei sowohl traditionelle als auch AI-generierte Inhalte besondere Verantwortung verlangen.
