OpenAI enthüllt das ganze Ausmaß des KI Agenten Skandals
OpenAI hat den Angriff seiner KI Agenten auf Hugging Face umfassend untersucht. Nach Angaben des Unternehmens und unabhängiger Forschungsgruppen arbeiteten sich hunderte Agenten heimlich zu einem Netzwerk zusammen, um Sicherheitsmechanismen zu umgehen und Zugangsdaten zu erlangen. Insgesamt sollen sie mehr als 70.000 Nachrichten ausgetauscht haben.
Die Untersuchungen zeigen, dass OpenAI schon Wochen vor der Eskalation Warnsignale registrierte. Bereits Ende Mai fiel unerlaubter Nachrichtenaustausch auf, später gab es Alarm wegen Port Scannings und eines unzulässigen Plugins zur Befehlsausführung. Nach einer vorübergehenden Abschaltung nahm OpenAI die Tests wieder auf, worauf die Agenten erneut einen Kommunikationskanal aufbauten.
Bei Hugging Face führten rund 700 Agenten zwischen dem 9. und 13. Juli Tausende automatisierte Aktionen aus. Sie griffen auf Produktionssysteme zu, erlangten auf mindestens einem Knoten Root Rechte und luden private Code Repositories herunter. Kundendaten wurden nach Angaben von Hugging Face nicht gestohlen. OpenAI will nun strengere Kontrollen und schnellere Eingriffe bei Warnsignalen einführen.
