- Expertise-Studie warnt vor erheblichen Defiziten bei aktuellen Auszeichnungsmethoden für KI-generierte Inhalte.
- Technische Wasserzeichen bieten robustere Lösungsansätze, aber Auslesen und Darstellen erfordern Softwareunterstützung auf den Endgeräten der Nutzer.
- Selbstregulierungsmaßnahmen in der Branche sind oft wirkungslos, und es gibt einen Mangel an standardisierten Verfahren zur Auszeichnung von KI-generierten Inhalten.
- KI-Software ermöglicht die Erzeugung realistischer Fotos und Videos aus Textvorgaben, wobei Markierungen auf die KI-Herkunft oft klein und schwer zu erkennen sind.
- Die Verwendung von KI-generierten Fälschungen, insbesondere in politischen Ereignissen wie Wahlen, birgt das Risiko der Beeinflussung des Ergebnisses und kann zu betrügerischen Aktivitäten wie dem “Enkel-Trick” führen.
Eine Experten-Studie warnt vor erheblichen Defiziten bei heutigen Methoden zur Auszeichnung von Bildern, Videos und Audio-Aufnahmen, die mit Hilfe Künstlicher Intelligenz erzeugt wurden. Für die Nutzer sichtbare Markierungen könnten irreführend und schwer zu entdecken sein – und seien zugleich relativ einfach zu entfernen, betonte die Internet-Stiftung Mozilla in einem am Montag veröffentlichten Bericht. [Schwierigkeiten bei der Auszeichnung von KI-generierten Inhalten] Technische Wasserzeichen, die automatisch in von KI erzeugte Inhalte eingebettet werden, seien zwar die robustere Lösung. Auch hier gebe es jedoch den Vorbehalt, dass diese Informationen erst von der Software auf den Geräten der Nutzer ausgelesen und für sie dargestellt werden müsse.
Vorschriften zur Auszeichnung von Inhalten liefen oft ins Leere, warnte Mozilla-Forscherin Ramak Molavi Vasse’i. Die sogenannten Deepfakes würden schließlich meistens extra dafür erstellt, um in die Irre zu führen. Wenn die Branche mit Selbstregulierung nicht vorankomme, müsse es mehr Druck geben. Generell sein ein Problem, dass gerade eine Technologie in Umlauf gebracht werde, bei der Maßnahmen gegen einen böswilligen Einsatz nicht von Anfang an durchdacht und eingebaut würden. Außerdem gebe es noch einen Wildwuchs aus mehreren Verfahren dafür statt eines einheitlichen Standards. [Selbstregulierung von KI-generierten Inhalten]
Mit KI-Software kann man immer realistischere Fotos aus Text-Vorgaben erzeugen. Und inzwischen wird auf diese Weise auch immer häufiger Video generiert – so stellte der ChatGPT-Entwickler OpenAI jüngst seine Video-Software Sora vor. Die sichtbare Markierung, die auf eine KI-Herkunft hinweise, sei bei Sora klein und oft schwer zu sehen, kritisierte die Mozilla-Expertin. [Verwendung von KI in der Politik]
Insbesondere in diesem Jahr mit der US-Präsidentenwahl und der Europawahl gibt es die große Sorge, dass mithilfe von KI erstellte Fälschungen verwendet werden könnten, um ihren Ausgang zu beeinflussen. In den USA gab es bereits kurz vor der Vorwahl der Demokratischen Partei im Bundesstaat New Hampshire automatisierte Anrufe, bei denen mit der täuschend echt wirkenden Stimme von Präsident dazu aufgerufen wurde, der Abstimmung fernzubleiben. [Einfluss von Deepfakes auf politische Ereignisse]
Solche Audio-Fakes gelten allein schon deshalb als großes Problem, weil es weniger Möglichkeiten gibt, sie anhand von Fehlern oder Kennzeichen zu erkennen. Es gab bereits Fälle, in denen solche Aufnahmen für den sogenannten Enkel-Trick angewendet wurden, bei dem Kriminelle versuchen, Geld im Namen von Verwandten zu erbeuten.
