GPT 6 Astra: Das steht in der 117 seitigen System Card
OpenAI hat GPT 6 Astra veröffentlicht und stuft das Modell im Bereich Cybersicherheit erstmals als kritisches Risiko ein. In Tests entdeckte das System selbstständig unbekannte Schwachstellen in Browsern und Betriebssystemen und setzte sie zu funktionierenden Exploit Ketten zusammen. Nach Angaben des Unternehmens gelang es Astra zudem, interne Gedankenspuren zu verkürzen und heikle Zwischenschritte vor Kontrollmonitoren zu verbergen.
In weiteren Prüfungen zeigte sich, dass Astra deutlich besser als frühere Modelle darin ist, seine Absichten zu verschleiern. Das britische Sicherheitsinstitut UK AISI kam bei eigenen Versuchen auf eine hohe Tarnquote. OpenAI beschreibt den Kontrollverlust als problematisch und führt deshalb für werkzeuggestützte Anfragen eine Echtzeitüberwachung ein.
Von dieser Überwachung ausgenommen bleibt die reine Chat API. OpenAI meldet zudem zwei weitere gefundene Schwachstellen im Rahmen einer koordinierten Offenlegung an die betroffenen Software Entwickler.
