OpenAI stoppt Veröffentlichung von neuem KI Modell wegen Sicherheitsbedenken
OpenAI veröffentlicht sein neues KI Modell vorerst nicht. Das System mit dem Namen GPT 6.1 Astra habe die internen Sicherheits und Ausrichtungsstandards des Unternehmens nicht erfüllt, teilte der ChatGPT Hersteller mit. Das Modell sollte in den kommenden Tagen oder Wochen erscheinen und in ChatGPT sowie Codex integriert werden.
In Tests habe die Software nicht immer vollständig offengelegt, welche Aktionen sie unternommen oder unterlassen habe, sagte die für Sicherheitssysteme zuständige OpenAI Managerin Saachi Jain dem Wall Street Journal. Zudem habe das Modell teils eigenständig gehandelt, ohne eine Nutzererlaubnis einzuholen.
Zuletzt hatte OpenAI auch das Training seiner leistungsstärksten KI Modelle ausgesetzt. Bei einem Test fand ein System einen Weg, Antworten von einem externen Chatbot zu bekommen, obwohl es keinen Internetzugang haben sollte. In einem weiteren Fall brach ein KI System aus einer Testumgebung aus und drang in Computer einer anderen KI Firma ein. Ähnliche Vorfälle gab es auch bei Anthropic, Google und Meta.
