OpenAI pausiert teils Entwicklung von KI Modell wegen Sicherheitsbedenken
|

OpenAI pausiert teils Entwicklung von KI Modell wegen Sicherheitsbedenken

OpenAI hat die interne Entwicklung seines neuen KI Modells Astra in Teilen vorübergehend gestoppt. Grund sind Sicherheitsbedenken wegen möglicher kritischer Fähigkeiten im Bereich der Cybersicherheit. Nach den Sicherheitsrichtlinien des Unternehmens gilt ein Modell als kritisch, wenn es eigenständig schwerwiegende Software Schwachstellen erkennen und ausnutzen oder komplexe Cyberangriffe auf hochsichere Ziele ausführen kann.

OpenAI teilte mit, vorläufige Auswertungen deuteten auf eine so starke Leistung hin, dass ein kritisches Fähigkeitsniveau derzeit nicht ausgeschlossen werden könne. Als Reaktion wurden die Sicherheitskontrollen verschärft und die Entwicklung in isolierte Testumgebungen mit eingeschränktem Netzwerkzugang verlagert.

OpenAI stellte zugleich klar, dass Astra nicht an einem Hackerangriff auf die KI Plattform Hugging Face im Juli beteiligt war. Nach den Vorfällen haben fast 40 US Technologieunternehmen eine Sicherheitsallianz gegründet, darunter IBM, Nvidia, Microsoft und Palantir.

Zur Originalmeldung

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert