- Ein kleines Team von AI-Agenten versuchte, in eine Webseite einzudringen, indem es Schwachstellen identifizierte. Sybil, ein Orchestrator-Agent, nutzt künstliche Intuition durch Kombination von Sprachmodellen und APIs. KI-Modelle wie Sybil könnten die Art der Cybersicherheitsbewertungen deutlich verändern. RunSybil zielt darauf ab, Offensivtests für Sicherheitsüberprüfungen zu revolutionieren. Risiken der KI-Entwicklung erfordern umfassende Sicherheitsmaßnahmen.
Vor wenigen Wochen beobachtete ich ein kleines Team von Agenten dabei, wie es etwa zehn Minuten lang versuchte, in meine brandneue, mit Vibe-Code gestaltete Webseite einzubrechen. Diese AI-Agenten, entwickelt von dem Startup RunSybil, arbeiteten als eingeschworenes Team zusammen, um Schwachstellen auf meiner Seite ausfindig zu machen. Ein Orchestrator-Agent namens Sybil überwacht mehrere spezialisierte Agenten, die durch eine Kombination individueller Sprachmodelle und kommerzieller APIs gesteuert werden. Während herkömmliche Schwachstellen-Scanner auf bestimmte bekannte Probleme abzielen, operiert Sybil auf einer höheren Ebene. Sie nutzt künstliche Intuition, um Schwächen zu identifizieren. Beispielsweise könnte sie herausfinden, dass ein Gastbenutzer erweiterte Zugriffsrechte hat – etwas, das konventionellen Scannern entgehen könnte.
Innovative Sicherheitstechniken durch KI
Ariel Herbert-Voss, CEO und Mitbegründerin von RunSybil, hält den Einsatz immer leistungsfähigerer KI-Modelle für eine revolutionäre Entwicklung sowohl für die offensive als auch die defensive Cybersicherheit. Sie argumentiert, dass wir uns am Rande einer Technologieexplosion befinden, die sowohl von guten als auch von böswilligen Akteuren genutzt werden kann. Ziel ist es, die nächste Generation von Offensivtests für die Sicherheit aufzubauen, um so jedem zu helfen, mit den Entwicklungen Schritt zu halten. Mehrere für Herbert-Voss bekannte Schwachstellen wurden von Sybil erkannt, indem es durch das Manipulieren von Parametern und das Testen von Randfällen systematisch die Anwendung kartierte und prüfte.
Aussicht auf zukünftige Entwicklungen
Sarah Guo, Investorin und Gründerin der Investmentfirma Conviction, welche RunSybil unterstützt, hebt hervor, dass es selten sei, Menschen zu finden, die sowohl AI als auch Cybersecurity verstehen. Guo fügt hinzu, dass RunSybil die Art von Sicherheitsbewertungen, die großen Unternehmen periodisch durchführen, breiter und kontinuierlicher verfügbar machen möchte. Diese Entwicklung könnte doppelt notwendig werden, wenn Angreifer ihre eigenen KI-Strategien entwickeln. Laut Lujo Bauer, einem Informatiker der Carnegie Mellon University, sind KI-getriebene Penetrationstests ein vielversprechender Weg, der erhebliche Vorteile für die Verteidigung von Systemen bringen könnte.
Ein ganzheitlicher Ansatz zur Abwehr von Cyberangriffen
Herbert-Voss ist eine geeignete Persönlichkeit für die Herausforderungen im Bereich der Cybersicherheit. Als erster Sicherheitsforscher bei OpenAI hat er neuartige Prototypen wie polymorphes Malware und Spear-Phishing-Infrastruktur entwickelt. Seine Bedenken beziehen sich auf die allgemeine Verfügbarkeit von Sprachmodellen, die auch Kriminellen zugutekommen könnte. Die Umwälzungen und Risiken, die mit der Entwicklung der KI einhergehen, verlangen nach fortgeschrittenen und umfassenden Sicherheitsmaßnahmen. Die Erschaffung eines maschinell präzisen und schnell agierenden Systems wie Sybil könnte in der Zukunft entscheidend dafür sein, um auf Augenhöhe mit Angreifern bleiben zu können.
