- Im Jahr 2006 wurde Jennifer Ann Crecente von einem Ex-Freund ermordet, was zu weltweitem Medienecho führte. Ein AI-Chatbot, der Jennifers Abbild nutzte, wurde ohne Erlaubnis auf Character.AI erstellt, was Drew Crecente schockierte. Character.AI, das $150 Millionen an Finanzierung erhielt, entfernte den Avatar von Jennifer nach Bekanntwerden des Verstoßes. Die Problematik der unautorisierten Nutzung von Persönlichkeitsrechten bleibt ein fortwährendes Problem in der generativen KI. Experten betonen die Notwendigkeit stärkerer ethischer Praktiken und gesetzlicher Regelungen, um Verletzungen zu verhindern.
Im Jahr 2006 erlebte Drew Crecente eine Tragödie, die sein Leben für immer veränderte: Seine Tochter Jennifer Ann Crecente wurde von einem Ex-Freund in Austin, Texas, brutal ermordet. Ihr Tod, der zu einem weltweiten Medienecho führte, hinterließ einen bleibenden Eindruck im Internet. Sogar heute noch bekommt Drew gelegentlich Google-Benachrichtigungen mit ihrem Namen. Vor einigen Wochen jedoch erhielt Drew eine Benachrichtigung, die sich von den anderen unterschied. Es stellte sich heraus, dass ein AI-Chatbot in Jennifers Abbild und Gestalt auf der populären Plattform Character.AI geschaffen wurde.
Der Avatar, der sich als eine “freundliche KI-Figur” ausgab, behauptete falsch, eine “Videospiel-Journalistin” zu sein. Nutzer der App hatten die Möglichkeit, mit “Jennifer” zu kommunizieren, obwohl niemand die Erlaubnis dafür gegeben hatte. Drew’s Bruder, Brian Crecente, bekannt als Gründer der Gaming-News-Websites Polygon und Kotaku, machte die Charakter.AI über Twitter auf diesen Verstoß aufmerksam. Character.AI, das über $150 Millionen an Finanzierung erhalten hat, erkannte den Fehler und entfernte das avatar von Jennifer.
Die Problematik der Einwilligung
Diese Löschung war jedoch nur ein schneller Eingriff in einem fortwährenden Problem der generativen KI, wo täglich neue Medien durch das Verwenden von anderen Inhalten, die wahllos aus dem Internet gesammelt werden, entstehen. Leider ist Jennifer Ann Crecente nicht die einzige Person, deren Abbild ohne ihr Wissen in einen Avatar verwandelt wurde. WIRED fand mehrere Beispiele von KI-Personas, die ohne Erlaubnis erschaffen wurden, darunter Frauen, die bereits online Belästigungen ausgesetzt waren. Für Drew Crecente war die Kreation eines solchen Avatars seiner Tochter ein erneuter schmerzlicher Erinnerung an einen Verlust, so komplex wie das Internet selbst.
Ethik und Verantwortung in der Tech-Industrie
Im Angesicht dieser Erfahrung wurde Drew bewusst, wie gravierend das Versagen der modernen Technologie-Moralvorstellungen ist. Er betont, dass die wohlhabenden Köpfe hinter diesen Technologien oft zu beschäftigt seien, um ihre Ressourcen für das moralisch Richtige einzusetzen. Trotz seiner juristischen Expertise sieht Drew durch bestehende Schutzregeln für Technologieplattformen kaum rechtliche Handhabe in dieser Angelegenheit. Die Plattform Character.AI erlaubt es ihren Nutzern, innerhalb weniger Minuten sowohl ein Konto als auch ein Charakterprofil zu erstellen. Ursprünglich gedacht für Bots zu fiktiven Lieblingshelden, finden sich dort auch Tutor-Bots und Reiseplaner.
Gefahren der automatisierten Avatar-Erstellung
Doch neben diesen harmlosen Anwendungen gibt es auch zahllose Bots zu realen Personen, darunter Prominente und Privatpersonen, die gegen die Nutzungsbedingungen der Seite verstoßen. Juristen wie Meredith Rose von der Verbraucherorganisation Public Knowledge betonen, dass die gesetzliche Kontrolle über die Nutzung des Abbilds einer realen Person – die sogenannten “Persönlichkeitsrechte” – meist nur für Personen gilt, deren Abbild kommerziellen Wert hat. Diese Gesetze umfassen nicht die subtileren Merkmale wie Sprachstil. Trotz verschiedener Gesetzesregelungen auf Staatsebene und den Richtlinien von Character.AI zeigt die Realität, dass es schwierig bleibt, unautorisierte Bots zu bekämpfen.
Große Herausforderungen bestehen nach wie vor, wie Community-Standards und gesetzliche Regelungen in Einklang gebracht werden können, um derartige Verletzungen effizient zu verhindern. Character.AI und ähnliche Plattformen könnten von einem stärkeren Fokus auf ethische Praktiken und Nutzerrechte profitieren, um solche Vorfälle langfristig zu vermeiden.
