- Fable führt KI-gestütztes Jahresende-Feature ein, das unerwartete Kontroversen verursacht. Einige Benutzerzusammenfassungen enthalten konfrontative und unangebrachte Kommentare. Fable entschuldigt sich und plant Anpassungen, einschließlich einer Opt-out-Option. Nutzer kritisieren die Reaktionen von Fable und fordern das Entfernen der KI. Das Ereignis betont die Herausforderungen gesellschaftlicher Vorurteile in KI-Systemen.
Fable, eine bekannte Plattform für “Bücherwürmer und Binge-Watcher”, überrascht mit einer innovativen Funktion: Ein KI-gestütztes Jahresende-Feature für das Jahr 2024, das die Lesegewohnheiten der Nutzer zusammenfasst. Was als spielerischer und unterhaltsamer Service gedacht war, sorgte jedoch für Kontroversen. Bei einigen Rekapitulationen zeigte sich ein unerwartet konfrontativer Ton. Zum Beispiel wurde der Schriftsteller Danny Groves in seiner Zusammenfassung als “Vielfaltsbewunderer” bezeichnet, und es wurde zynisch gefragt, ob er “jemals in der Stimmung für die Perspektive eines heterosexuellen, cis weißen Mannes” sei.
Bemerkenswerte Reaktionen auf die KI
Ähnlich erging es der Bücher-Influencerin Tiana Trammell, deren Zusammenfassung sie mit überraschendem Ratschlag konfrontierte: “Vergessen Sie nicht, ab und zu auch einen weißen Autor zu lesen, ja?” Diese bemühte sich schnell, ihre Erfahrungen auf sozialen Medien zu teilen und erhielt zahlreiche Nachrichten von anderen Nutzern, deren Zusammenfassungen in unangemessener Weise auf Themen wie Behinderung oder sexuelle Orientierung eingingen. Seit der Einführung solcher Jahresrückblicke im Internet sind diese Features allgegenwärtig. Viele Unternehmen greifen dabei auf KI zurück, um die Aufbereitung der Daten zu optimieren.
Fable nutzte OpenAI’s API, um Leserzusammenfassungen zu erstellen, war jedoch von den unerwarteten Kommentaren selbst überrascht. Die Rückmeldungen führten zu einer Entschuldigung auf unterschiedlichen Social-Media-Kanälen, darunter Threads und Instagram. Kimberly Marsh Allee, die für die Gemeinschaft bei Fable verantwortlich ist, erklärte, dass an Änderungen gearbeitet wird, um die KI-Zusammenfassungen zu verbessern. Dazu gehören eine Opt-out-Option und eine deutlichere Kennzeichnung, dass es sich um KI-generierte Inhalte handelt.
Reaktionen der Nutzer und Konsequenzen
Einige Nutzer empfinden die Anpassungen an der KI als unangemessene Reaktion. Auch die Fantasy- und Liebesromanautorin A.R. Kaufer äußerte ihre Bestürzung über geteilte Screenshots in sozialen Netzwerken. Sie fordert, dass Fable vollständig auf die KI verzichtet. Sie kritisiert zudem die Entschuldigung in Threads als unzureichend und betont: Eine solche Entschuldigung sei nicht genug, schon gar nicht, wenn sie herunterspielt, dass rassistische, sexistische oder ableistische Aussagen einfach als “spielerisch” abgetan werden.
Die Thematik dieser Vorkommnisse lenkt erneut den Blick darauf, wie Maschinelles Lernen aufgrund unvermeidlicher gesellschaftlicher Vorurteile bei der Programmierung problematische Ergebnisse liefert. Die Abschaltung der Funktionen bei Fable sollte nun zu einer genaueren Überprüfung und langfristig zuverlässigerer Implementierung führen.
