- Das Projekt »KI-Cockpit« zielt darauf ab, komplexe KI-Anwendungen für Menschen steuerbar und transparent zu machen. Die EU hat im Mai 2024 ein Regelwerk verabschiedet, das verlangt, dass KI-Systeme mit hohen Risiken unter menschlicher Aufsicht funktionieren. Kooperationen mit Organisationen wie Caritas und Unternehmen wie Starwit Technologies haben zur Entwicklung von KI-Cockpits beigetragen, um die Integration solcher Systeme im Arbeitsalltag zu erleichtern. Die Forschungsgruppe entwickelt KI-Cockpits, die sich an die mentalen Fähigkeiten der Nutzer anpassen, um Über- und Unterforderung zu vermeiden. Anwendungen und Literatur des Projekts sind für Unternehmen frei zugänglich, um individualisierte Lösungen zu ermöglichen.
Im Rahmen des Projekts »KI-Cockpit« haben sich das Fraunhofer IAO und das IAT der Universität Stuttgart mit Partnern aus Wissenschaft und Wirtschaft zusammengeschlossen, um innovative Lösungen zu entwickeln, die es Menschen ermöglichen, komplexe KI-Anwendungen zu steuern. Das KI-Cockpit zielt darauf ab, die Entscheidungen künstlicher Intelligenz transparenter und nachvollziehbarer zu machen, sodass Menschen in herausfordernden Situationen besser eingreifen können.
Die Europäische Union hat im Mai 2024 ein bahnbrechendes Regelwerk für Künstliche Intelligenz verabschiedet, das vorsieht, dass KI-Systeme mit hohen Risiken unter menschlicher Aufsicht arbeiten und ihre Prozesse für Nutzer verständlich sein müssen. Im Rahmen des »KI-Cockpit«-Projekts hat das Institut für Arbeitswissenschaft und Technologiemanagement verschiedenste Ansätze zur Umsetzung dieser Verordnung getestet, um sicherzustellen, dass in der Arbeitswelt der Überblick über solche Systeme erhalten bleibt.
Implementierung und Herausforderungen
In Kooperation mit Organisationen wie der Caritas und Unternehmen wie Starwit Technologies und Chemistree wurden KI-Cockpits entwickelt, die die Integration solcher Systeme in den Arbeitsalltag erleichtern. Dr. Nektaria Tagalidou betont die Notwendigkeit eines hervorragenden Situationsbewusstseins, besonders in sicherheitskritischen Entscheidungen, wie sie bei der Verkehrsleitplanung von Starwit Technologies zum Tragen kommen. Hierbei unterstützt die KI die Leitungspersonen, indem sie Gefahrensituationen erkennt und Entscheidungen vorbereitet, die manuell überprüft und gegebenenfalls korrigiert werden können.
Die Caritas Dortmund erforscht unterdessen den Einsatz von KI in der Pflege. Dort könnten Systeme entwickelt werden, die beispielsweise die Flüssigkeitsaufnahme von Bewohnern überwachen oder Essensbestellungen auf persönliche Vorlieben abstimmen. Die Kontrolle durch Menschen bleibt dabei unerlässlich, um Fehler und potenzielle Gefahren zu minimieren. Michael Bui, Experte für neurokognitive Systeme, unterstreicht die Wichtigkeit eines solchen Überwachungssystems, vor allem, wenn Menschen am Ende der Entscheidungen stehen.
Technologische Anpassung für variable Anforderungen
Eine weitere Innovation des Forscherteams ist die Entwicklung von KI-Cockpits, die in der Lage sind, sich an die mentalen Fähigkeiten der Nutzer anzupassen, um sowohl Überforderung als auch Unterforderung zu vermeiden. Dies stellt sicher, dass die Informationsflüsse auf die jeweilige Aufnahmefähigkeit der Anwender abgestimmt sind, was besonders in zeitkritischen oder sicherheitsrelevanten Bereichen von Bedeutung ist.
Die aus dem »KI-Cockpit«-Projekt gewonnenen Anwendungen und Literatur sind für Unternehmen frei zugänglich. Dies ermöglicht es Organisationen nicht nur, innovative Technologien zu nutzen, sondern auch ihre Einführung und Implementierung individuell anzupassen. Das Fraunhofer IAO und das IAT stehen den Unternehmen hierbei beratend zur Seite, um passgenaue Lösungen für den Einsatz von KI-Systemen zu entwickeln, die den spezifischen Bedürfnissen und Herausforderungen gerecht werden.
