- Meta will Nutzer vorwarnen, wenn sie täuschend echt wirkende KI-Videos oder -Audiodateien veröffentlichen.
- Die fehlende Verbreitung von unsichtbaren Wasserzeichen in KI-Software ist ein Grund für die Notwendigkeit der Nutzeranweisung.
- Meta arbeitet daran, unsichtbare Wasserzeichen direkt in die Erstellung von Dateien zu integrieren.
- Automatisierte Anrufe mit gefälschten Stimmen haben bereits Sorgen hinsichtlich der Verbreitung von täuschend echten KI-Fälschungen geweckt.
- Meta ist Teil einer Branchen-Koalition, die Standard-Technologien für die Auszeichnung von mit Hilfe von KI generierten Dateien etablieren möchte.
Beim Facebook-Konzern Meta sollen Nutzer künftig vorwarnen, wenn sie täuschend echt wirkende KI-Videos oder -Audiodateien veröffentlichen. Versäumen sie dies, könnten ihnen Konsequenzen drohen, warnte Metas Politik-Chef Nick Clegg am Dienstag in einem Blogeintrag. Auf Grundlage der Hinweise will der Konzern in seinen Diensten solche mit Hilfe Künstlicher Intelligenz erstellte Inhalte kennzeichnen. Zu Meta gehören neben Facebook unter anderem auch Instagram und WhatsApp.
Die Notwendigkeit der Nutzeranweisung ist aufgrund der fehlenden Verbreitung von unsichtbaren Wasserzeichen in KI-Software zur Erstellung von Videos und Tondokumenten gegeben, erklärte Clegg. Darüber hinaus wies er darauf hin, dass es Möglichkeiten gibt, diese Wasserzeichen zu entfernen. Meta arbeitet jedoch daran, dies zu erschweren. Die Strategie liegt darin, die Wasserzeichen direkt in die Erstellung der Dateien zu integrieren, um zu verhindern, dass sie deaktiviert werden können. Darüber hinaus entwickelt das Unternehmen Technologien, um mit KI generierte Inhalte automatisch zu erkennen.
Anrufe mit gefälschten Stimmen
In den USA wurden vor einigen Wochen automatisierte Anrufe laut, die eine täuschend echt klingende Nachahmung der Stimme von Präsident Joe Biden enthielten. Die Botschaft dieser Anrufe war, nicht an der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire teilzunehmen. Dieser Vorfall weckte die Sorge, dass in den kommenden Monaten Versuche unternommen werden, den Ausgang der Präsidentenwahl im November mit der Verbreitung täuschend echter KI-Fälschungen zu beeinflussen.
Branchen-Koalition für Auszeichnung von KI-Inhalten
Meta ist Teil einer Branchen-Koalition, die Standard-Technologien für die Auszeichnung von mit Hilfe von KI generierten Dateien etablieren möchte. Meta plant, KI-Bilder in den Apps Facebook, Instagram und Threads in allen unterstützten Sprachen zu markieren. Das Unternehmen bietet auch KI-Software zur Erstellung von Bildern an, die sowohl sichtbare Markierungen als auch unsichtbare Wasserzeichen enthalten.
