OpenAI hat sich einen internen Gegner gebaut. Statt darauf zu warten, dass Aussenstehende Sicherheitsluecken in seinen Sprachmodellen finden, laesst das Unternehmen jetzt eine eigene KI auf die eigene KI los. Das System heisst GPT-Red und soll als eine Art Dauer-Sparringspartner die Verteidigung der anderen Modelle trainieren. Der Grundgedanke ist so simpel wie provokant: Wer Schwachstellen schneller findet als externe Angreifer, hat einen Vorsprung - selbst wenn der Finder ebenfalls eine Maschine ist.

Laut OpenAI ist GPT-Red ein automatisiertes Red-Teaming-System (Red Teaming meint das gezielte Angreifen der eigenen Systeme, um Schwaechen zu entdecken, bevor es andere tun). Es arbeitet nach dem Prinzip des Self-Play: Zwei KI-Instanzen spielen gegeneinander, eine greift an, die andere verteidigt, beide lernen mit jeder Runde dazu. Fokus liegt laut Unternehmensangaben auf Robustheit gegen sogenannte Prompt Injection - also manipulierte Eingaben, mit denen Angreifer ein Modell dazu bringen, seine Regeln zu umgehen. Vergangene Woche veroeffentlichte OpenAI die neueste Version seines Flaggschiff-Modells GPT-5.6, und laut MIT Technology Review sei genau dieses Training gegen GPT-Red der Grund, warum das Unternehmen es als seine bisher robusteste Version bezeichnet.

Die Sache ist deshalb erzaehlenswert, weil sich hier eine Verschiebung andeutet, die viele Branchen beschaeftigen wird. Bisher galt: Sicherheit von KI-Modellen wird vor allem durch menschliche Testerinnen und Tester geprueft, Bug-Bounty-Programme und externe Auditoren. Wenn OpenAI diesen Prozess in grossen Teilen automatisiert, veraendert das die Oekonomie von KI-Sicherheit - und den Massstab. Ein menschliches Team findet vielleicht hundert Angriffsmuster pro Woche, eine Maschine potenziell Millionen. Unter Druck geraten dadurch zwei Gruppen: erstens externe Sicherheitsforscher, deren Rolle sich verschieben duerfte, und zweitens Wettbewerber, die noch nicht auf ein vergleichbares internes System zurueckgreifen koennen. Fuer Unternehmen, die Sprachmodelle in Kundenprodukte einbauen, klingt das zunaechst beruhigend - vorausgesetzt, das Verfahren funktioniert so gut wie beschrieben.

Was im Material offen bleibt, ist der eigentliche Nachweis. OpenAI sagt, GPT-5.6 sei die robusteste Version bisher - konkrete, unabhaengig verifizierte Vergleichszahlen liegen in den beiden Quellen aber nicht vor. Auch bleibt unklar, welche Angriffskategorien GPT-Red tatsaechlich abdeckt und welche nicht. Ein grundsaetzliches Risiko liegt zudem in der Methode selbst: Wenn eine KI lernt, andere KIs auszutricksen, entsteht Wissen ueber Angriffstechniken, das im schlimmsten Fall auch nach draussen sickern kann - etwa durch Modell-Missbrauch oder durch Personen mit Zugang. Ob und wie OpenAI diesen Doppelnutzen absichert, wird im Material nicht erlaeutert.

Interessant wird in den naechsten Wochen, ob externe Forscherinnen die Robustheits-Behauptung nachpruefen und ob andere Anbieter nachziehen. Wenn automatisiertes Red Teaming zum Standard wird, verschiebt sich die Frage von 'Ist dieses Modell sicher?' hin zu 'Wessen Angreifer-KI ist besser?' - eine unbequeme, aber vermutlich unvermeidliche Entwicklung.