Artificial Intelligence – Chancen und Risiken
Die zunehmende Automatisierung von Geschäftsprozessen ist ein Trend, der in Zeiten der künstlichen Intelligenz nicht gut verlaufen wird. Dies behaupten zumindest Branchenexperten, die auf die unbestreitbaren Risiken hinweisen, die mit der Nutzung von KI-Modellen verbunden sind. Die Diskussion darüber, ob die zunehmende Verbreitung von KI-Technologien im Geschäftsleben mehr Schaden als Nutzen anrichten wird, hat in den letzten Jahren zugenommen.
Derzeit sieht es so aus, als ob die Schadenssumme minimal ist. Ein Fall, der immer wieder als Beispiel angeführt wird, ist der Autounfall, bei dem ein Tesla-Fahrer, der sein Fahrzeug mit der Autopilot-Software des Autobauers betrieb, über eine rote Ampel fuhr und ein anderes Fahrzeug rammte. Die Insassen starben, und der Tesla-Fahrer wurde zu Schadensersatz in Höhe von 23.000 US-Dollar verurteilt. Tesla stimmte ebenfalls der Überarbeitung der Autopilot-Software für zwei Millionen Fahrzeuge zu, nachdem eine Untersuchung der US-Verkehrsbehörde National Highway Traffic Safety Administration Mängel bei den Sicherheitskontrollen der Autopilot-Software festgestellt hatte.
Obwohl 23.000 US-Dollar kein hoher Preis für zwei Menschenleben sind, könnten die betroffenen Familien weitere zivilrechtliche Ansprüche gegen den Fahrer und Tesla geltend machen. Es gibt außerdem mindestens 34 dokumentierte Unfälle mit dem Autopilot-System in den USA.
Auch im Gesundheitswesen gibt es Beispiele für die möglichen Risiken von KI-Modellen. UnitedHealthcare hat Vorwürfe erhoben, dass das von ihnen übernommene KI-Modell nH Predict zur Verweigerung von notwendiger postakuter Versorgung von versicherten Senioren führt.
Unternehmen, die KI-Modelle und -Dienstleistungen anbieten, sind sich der Probleme bewusst, die damit verbunden sind. Sie erwähnen “Sicherheitsvorkehrungen”, die um grundlegende Modelle herum geschaffen wurden, um sicherzustellen, dass sie auf Kurs bleiben – auch wenn diese Vorkehrungen nicht immer erfolgreich sind. Es ist, als ob die Entwickler von KI-Modellen Alex Blechmans Ratschlag, “Erstelle nicht die Qualmaschine”, als Produktleitfaden interpretiert und sich angeschaut hätten, ob es funktioniert.
Die Undurchsichtigkeit kommerzieller Modelle, die mit schädlichen Inhalten gefüllt sind, hat bisher nicht allzu große Auswirkungen auf Unternehmen gehabt. Es gab jedoch Fälle wie den GM-Chatbot, der von einem Autohaus in Watsonville, Kalifornien, dazu verleitet wurde, einem Kunden ein Automobil zu verkaufen, das noch nicht auf dem Markt war. Der Händler wird jedoch höchstwahrscheinlich nicht an seinem Angebot festhalten.
Die Frage der Haftung von KI ist bislang nicht abschließend geklärt. Sowohl die europäische Kommission als auch die Gesetzgeber in den USA arbeiten an möglichen rechtlichen Rahmenbedingungen für künstliche Intelligenz. Es scheint jedoch, als ob sich die Beteiligung der AI-Industrie an diesem Prozess darauf hindeutet, dass die entstehenden Regeln genauso wirkungslos sind wie andere Regulierungsrahmen, die von Lobbyisten geschwächt wurden.
Die aktuelle Euphorie um künstliche Intelligenz hat dazu geführt, dass viele große Technologieunternehmen KI-Lösungen für Geschäftsanwendungen vermarkten. Die Ergebnisse sind jedoch gemischt, und es bleibt abzuwarten, wie die Schadensbilanz der umfassenden Einführung von KI aussehen wird. Es bleibt zu hoffen, dass Unternehmen bei der Nutzung von KI-Technologien die ethischen und rechtlichen Konsequenzen sorgfältig berücksichtigen.
