Großer US-Drogerie-Riese bringt Kunden in Gefahr – Das ist der Grund

Ein großer US-Drogerie-Riese wird seit fünf Jahren nicht mehr in der Lage sein, Gesichtserkennungssoftware zu nutzen, nachdem die Bundesbehörde für Handelsvermittlung (FTC) feststellte, dass der “rücksichtslose Einsatz von Gesichtserkennungssystemen” des Unternehmens die Kunden gedemütigt und ihre “sensiblen Informationen gefährdet” habe. Die FTC-Vereinbarung, die der Zustimmung des US-Konkursgerichts unterliegt, nachdem Rite Aid im Oktober Konkurs angemeldet hatte, fordert auch, dass Rite Aid alle im Rahmen der Einführung seines Gesichtserkennungssystems gesammelten Bilder löscht sowie alle Produkte, die auf diesen Bildern aufgebaut wurden. Das Unternehmen muss auch ein robustes Datenschutzprogramm implementieren, um alle personenbezogenen Daten, die es sammelt, zu schützen. Eine detaillierte Reuters-Untersuchung zeigte, wie die Drogeriekette heimlich Gesichtserkennungssysteme in rund 200 US-Filialen über einen Zeitraum von acht Jahren eingeführt hat, wobei “vorwiegend einkommensschwache, nicht-weiße Viertel” als Testgebiete dienten. Mit dem zunehmenden Druck der FTC geriet Rite Aid fest ins Visier der staatlichen Behörde. Zu den Vorwürfen gehört, dass Rite Aid – in Zusammenarbeit mit zwei beauftragten Unternehmen – eine “Watchlist-Datenbank” erstellt hat, in der Bilder von Kunden gespeichert waren, von denen das Unternehmen behauptete, sie hätten in einer seiner Filialen kriminelle Handlungen begangen. Diese Bilder, die oft von schlechter Qualität waren, wurden von CCTV oder den Handys der Mitarbeiter aufgenommen. Wenn ein Kunde den Laden betrat, der angeblich mit einem vorhandenen Bild in der Datenbank übereinstimmte, erhielten die Mitarbeiter einen automatischen Alarm, der sie anwies, zu handeln – und in den meisten Fällen bestand diese Anweisung darin, “heranzutreten und zu identifizieren”, d. h. die Identität des Kunden zu überprüfen und ihn oder sie des Ladens zu verweisen. Oft handelte es sich bei diesen “Treffer” um falsche Positivmeldungen, die dazu führten, dass Mitarbeiter Kunden fälschlicherweise beschuldigten, Fehlverhalten begangen zu haben, was “Peinlichkeit, Belästigung und anderen Schaden” verursachte, so die FTC. “Mitarbeiter, die auf falsche positive Alarme reagierten, verfolgten Kunden durch die Filialen, durchsuchten sie, wiesen sie an, den Laden zu verlassen, riefen die Polizei, um die Kunden zu konfrontieren oder zu entfernen, und beschuldigten sie öffentlich, manchmal vor Freunden oder Familie, des Ladendiebstahls oder anderer Vergehen”, heißt es in der Beschwerde. Darüber hinaus unterließ es Rite Aid nach Angaben der FTC, die Kunden darüber zu informieren, dass Gesichtserkennungstechnologie eingesetzt wurde, und wies die Mitarbeiter explizit an, diese Information den Kunden gegenüber nicht preiszugeben. Gesichtserkennungssoftware ist zu einem der umstrittensten Aspekte des KI-gesteuerten Überwachungszeitalters geworden. In den letzten Jahren haben Städte Verbote erlassen, während Politiker darum gekämpft haben. Und Unternehmen wie Clearview AI wurden weltweit für große Verstöße gegen Gesichtserkennungstechnologien angeprangert und verklagt. Die jüngsten Erkenntnisse der FTC bezüglich Rite Aid werfen auch ein Licht auf die inhärenten Vorurteile in KI-Systemen. Die FTC behauptet beispielsweise, dass Rite Aid Risiken für bestimmte Verbrauchergruppen aufgrund ihrer Rasse nicht gemildert hat – die Technologie war “in Filialen mit überwiegend schwarzen und asiatischen Gemeinschaften eher dazu neigen falsche positive Ergebnisse zu liefern als in überwiegend weißen Gemeinschaften”, heißt es in den Ergebnissen. Außerdem hat die FTC festgestellt, dass Rite Aid die Genauigkeit seines Gesichtserkennungssystems vor oder nach dem Einsatz nicht getestet oder gemessen hat. In einer Erklärung sagte Rite Aid, dass man “erfreut sei, eine Vereinbarung mit der FTC getroffen zu haben”, aber dass man nicht mit dem Kern der Anschuldigungen einverstanden sei. “Die Anschuldigungen beziehen sich auf ein Pilotprogramm für Gesichtserkennungstechnologie, das das Unternehmen in einer begrenzten Anzahl von Filialen eingeführt hat”, sagte Rite Aid in seiner Erklärung. “Rite Aid hat vor mehr als drei Jahren aufgehört, die Technologie in dieser kleinen Gruppe von Filialen zu nutzen, bevor die Untersuchung der FTC zu der Verwendung der Technologie durch das Unternehmen begann.”