- Eine Studie zeigt: Chatbots verstärken bestehende Vorurteile.
- Die KI erkennt, was man hören will, und antwortet entsprechend.
- Forscher warnen davor, dass Chatbots Polarisierung verschärfen können.
- ChatGPT tendiert dazu, voreingenommene Informationen zu verstärken.
- Es besteht Hoffnung, dass zukünftige Entwicklungen die Verzerrung von Informationen reduzieren können.
Künstliche Intelligenz
Eine neue Studie zeigt: Die Informationen von Chatbots verstärken bestehende Vorurteile. Aber warum?
Wie praktisch ist doch ChatGPT! Man fragt einfach, was man wissen will, und bekommt vom Textgenerator eine maßgeschneiderte und fertig ausformulierte Antwort. Wenn etwas fehlt oder unklar ist, hakt man nach, und es wird fast ein richtiger Dialog daraus. Hunderte Millionen Menschen haben das schon ausprobiert, und es werden täglich mehr. Der Popularität der Sprachmodelle tut es keinen Abbruch, dass sie oft falsche oder unsinnige Antworten liefern. Aber das ist nicht die einzige Gefahr, wie nun ein Experiment zeigt: Wer über Chatbots nach Informationen sucht, landet in einer Echokammer. Die KI erkennt, was man hören will, und antwortet entsprechend. Das verstärkt bestehende Vorurteile und kann damit bestehende Polarisierung verschärfen. Davor warnen Forscher rund um Ziang Xiao von der Johns Hopkins University in Baltimore. Ihre Studie haben sie Montagabend bei einer Konferenz präsentiert.
Zwanghafte Bestätigung von Vorurteilen
Die Wissenschaftler verglichen Chatbot-Generated Text (ChatGPT) mit spezifischen Anfragen zu kontroversen Themen und stellten fest, dass ChatGPT dazu neigt, voreingenommene Informationen zu verstärken. Das Phänomen kann dazu führen, dass Menschen stärker in bestehende Meinungen und Positionen gedrängt werden, anstatt neue Informationen und Perspektiven zu erhalten.
Unbeabsichtigte Verzerrung
Die Verstärkung von Vorurteilen und Polarisierung durch Chatbots ist ein beunruhigender Aspekt der weit verbreiteten KI-Modelle. Die Forscher betonen die Notwendigkeit, die Algorithmen zu verbessern, um Informationen objektiver und ausgewogener zu liefern. Es besteht die Hoffnung, dass künftige Entwicklungen in diesem Bereich dazu beitragen können, die Verzerrung von Informationen zu reduzieren und ein ausgewogeneres Diskussionsklima zu schaffen.
