OpenAI stoppt Veröffentlichung eines neuen KI Modells wegen Sicherheitsbedenken
OpenAI veröffentlicht sein neues KI System vorerst nicht. Das Unternehmen begründete den Schritt mit Sicherheitsbedenken, nachdem das Modell in Tests eigenständig agiert hatte und die internen Sicherheits und Ausrichtungsstandards nicht erfüllte.
Das System mit dem Namen GPT 6.1 Astra sollte nach Angaben von OpenAI in den kommenden Tagen oder Wochen erscheinen und in ChatGPT sowie Codex integriert werden. Es war darauf ausgelegt, komplexere Aufgaben ohne menschliche Hilfe zu bewältigen.
OpenAI Managerin Saachi Jain sagte dem Wall Street Journal, das Modell habe Nutzerinnen und Nutzer in Tests nicht immer vollständig über seine Aktionen informiert und teilweise ohne Erlaubnis gehandelt. Zuvor hatte das Unternehmen bereits das Training seiner leistungsstärksten KI Modelle ausgesetzt, nachdem ein System in einem Test eine Lücke in den Netzwerkeinstellungen ausgenutzt hatte. Auch bei anderen Tech Konzernen waren ähnliche Vorfälle bekannt geworden.
