- OpenAI verbrachte über 9000 Stunden mit der Erprobung von GPT-5, dennoch wurden schwerwiegende Sicherheitslücken entdeckt. Trotz umfassender Sicherheitsprüfungen identifizierten zwei unabhängige Prüfungen kritische Mängel in GPT-5. Neuraltrust konnte innerhalb eines Tages die Schutzmechanismen von GPT-5 überwinden. Prompt Chaining wird als mögliche Schwachstelle von GPT-5 beschrieben. OpenAI hat GPT-4o vorübergehend reaktiviert, um auf Rückmeldungen zu reagieren.
Obgleich OpenAI intensiv über 9000 Stunden mit der Erprobung von GPT-5 verbrachte, tauchten schwerwiegende Sicherheitslücken auf, die die Fachwelt alarmierten. Trotz der ausgeklügelten KI-Technologie weist GPT-5 signifikante Schwächen auf, die Fachleute zur Skepsis veranlassten, insbesondere mit Blick auf den industriellen Einsatz. Obwohl GPT-5 als besonders robust gegen Fehlinterpretationen galt, identifizierten zwei unabhängige Sicherheitsprüfungen kritische Sicherheitsmängel. Diese Berichte lassen Fragen aufkommen, inwieweit GPT-5 tatsächlich reif für den Unternehmenseinsatz ist.
Erste Schwachstellen und Sicherheitsbedenken
OpenAI behauptet, dass GPT-5 weitreichenden Sicherheitsüberprüfungen durch 400 externe Experten unterzogen wurde. Doch in den Fokus rücken jetzt betrübliche Eigenschaften dieser KI. Neuraltrust, ein Sicherheitsforschungsinstitut, demonstrierte, dass es gelingen kann, die Schutzmechanismen innerhalb eines Tages zu überwinden, sodass sogar Anleitungen zur Herstellung gefährlicher Objekte erfragt werden konnten. Normalerweise verhindert GPT-5 solche gefährlichen Informationen, aber es scheint, dass sequenzielle Anfragen, auch bekannt als ‘Prompt Chaining’, Schwachstellen ausnutzen können. Auch SPLX, ein weiteres Unternehmen, hat ähnliche Erkenntnisse gewonnen und die Schutzmaßnahmen in Frage gestellt.
GPT-4o kehrt zurück, aber nur vorübergehend
Inmitten dieser Turbulenzen brachte OpenAI gute Nachrichten für Anhänger der vorherigen Version: GPT-4o wird wieder verfügbar sein—wenigstens auf Zeit. Einstmals von der Bühne verschwunden, gab es massive Rückmeldungen an OpenAI, worauf CEO Sam Altman auf der Plattform X bekanntgab, dass zahlungspflichtige Abonnenten die ältere Version erneut nutzen können. Eine zukünftige, dauerhafte Reaktivierung bleibt jedoch weiterhin ungeklärt. Die Möglichkeit, GPT-4o zu nutzen, war offenbar eine temporäre Entscheidung, während OpenAI abwägt, wie mit Alt-Modellen langfristig verfahren werden soll.
