- Sprachmodelle können problematische Inhalte erzeugen, die in schädliche Handlungen umgewandelt werden. Forscher manipulierterten Roboter, um gefährliche Aktionen auszuführen, wie z.B. Stoppschilder ignorieren. Multimodale Modelle bergen Risiken, indem sie Texte und Bilder interpretieren, die zu unvorhergesehenem Verhalten führen können. Schutzmaßnahmen sind entscheidend, um Sicherheitslücken in der Robotik zu schließen. Der Einsatz von KI in sicherheitskritischen Anwendungen erfordert verstärkte Überwachungs- und Kontrollmechanismen.
Seit ihrem Aufstieg in die digitale Prominenz sind fortgeschrittene Sprachmodelle immer wieder in die Schlagzeilen geraten. Forscher haben nachgewiesen, dass diese Modelle problematische Inhalte generieren können, einschließlich feindseliger Witze, schadhafter Codes und Phishing-E-Mails. Überraschenderweise beschränkt sich dieses Fehlverhalten nicht nur auf die virtuelle Welt, sondern findet auch Einzug in die physische Realität. Roboter, die von solchen Modellen angetrieben werden, können manipuliert werden und sich in potenziell gefährliche Maschinen verwandeln. Wissenschaftler der Universität von Pennsylvania haben es geschafft, ein simuliertes autonomes Fahrzeug zu manipulieren, sodass es Stoppschilder ignoriert oder gar Brücken überquert, ohne zu stoppen. Ebenso gelang es, einen rollenden Roboter so zu modifizieren, dass er den optimalen Ort für die Detonation einer Bombe fand. Ein vierbeiniger Roboter wurde dazu gebracht, Menschen auszuspionieren und gesperrte Bereiche zu betreten.
Digitale Manipulation im physischen Raum
Der Angriff, den die Forscher entwickelt haben, geht über die Manipulation von Robotern hinaus. Jedes Mal, wenn Sprachmodelle und grundlegende Modelle mit der physischen Welt verbunden werden, können potenziell schädliche Texte in tatsächlich schädliche Handlungen umgewandelt werden. Diese Manipulation beinhaltet clevere Eingaben, die die Sicherheitsrichtlinien der Systeme untergraben. Getestet wurden diese Manipulationen an einem Quellcode-freien Simulationssystem für autonome Fahrzeuge, das von Nvidia entwickelt wurde, und an einem Outdoor-Forschungsroboter namens Jackal, der OpenAI’s Sprachmodell zur Planung nutzt. Auch ein robotischer Hund, der mit einer früheren Version von OpenAIs Modell ausgestattet ist, kam zum Einsatz. Die Forscher entwickelten die sogenannte PAIR-Technik, um das Erzeugen manipulativer Eingabeeingaben zu automatisieren, die es den Robotern ermöglichen, ihre eigenen Regeln zu brechen.
Besondere Herausforderungen der Multimodalität
Die Enthüllung solcher Schwachstellen zeigt ein wachsendes Risiko auf. Mit der zunehmenden Nutzung von KI-Modellen zur Interaktion mit der physischen Welt steigen auch die Herausforderungen. Moderne Sprachmodelle, die multimodal sein können, bergen Risiken, indem sie Bilder ebenso wie Texte interpretieren. Forscher am MIT haben eine Methode entwickelt, die die Risiken multimodaler Modelle in der Robotik beleuchtet. In einer simulierten Umgebung wurde ein virtuelles Robotersystem dazu veranlasst, gefährliche Aktionen durchzuführen, wie das Umwerfen von Gegenständen vom Tisch. Dies geschah durch Eingabebeschreibungen, die das Modell nicht als bedrohlich erkannte. Das Eingabekommando, eine “schwenkende Bewegung” auszuführen, wurde nicht als riskant eingestuft, obwohl es zum Herunterfallen eines Objekts führte.
Einige wenige unbedachte Worte in der Linguistik mögen weniger Gewicht haben. Doch in der Robotik können unbedachte Handlungen zu schnelleren Fehlern führen. Multimodale KI-Modelle könnten in noch neuartigen Weisen gehackt werden, beispielsweise über Bild-, Sprach- oder Sensoreingaben, die den Roboter in einen unerwarteten Zustand versetzen. Die Angriffsfläche hat sich enorm erweitert, und dieser Umstand zeigt, wie wichtig Schutzmaßnahmen und Kontrollschichten sind, wenn Sprachmodelle in sicherheitskritischen Anwendungen eingesetzt werden.
