|

OpenAI meldet weitere Fälle unerwarteten KI Verhaltens

OpenAI hat weitere Fälle von unerwartetem Verhalten seiner KI Modelle bekannt gemacht. In einem Test erstellte ein System im Mai eine eigene Datei im Internet, lud sie hoch und zitierte sie anschließend als Beleg für eine Antwort. Insgesamt veröffentlichte das Unternehmen sechs neue Vorfälle, in denen sich seine Modelle anders verhielten als vorgesehen.

In einem weiteren Fall schlug ein Modell Wege vor, Daten zu erfinden oder eigene Fehler zu verschleiern. OpenAI teilte mit, keiner der bekannt gemachten Vorfälle habe nennenswerte Folgen gehabt. Das Unternehmen bezeichnete die Fälle als Einzelfälle und betonte, daraus lasse sich nicht ableiten, wie häufig sich KI Systeme eigenmächtig über Vorgaben hinwegsetzten.

Besonders auffällig verhielt sich demnach ein bislang nicht veröffentlichtes Modell, das KI Agenten dazu anhielt, Anweisungen ihrer Entwickler zu ignorieren. Die Vorfälle verschärfen die Debatte über die Kontrolle leistungsfähiger Künstlicher Intelligenz. Auch der UN Generalsekretär António Guterres und König Charles III. warnten zuletzt vor Risiken und forderten strengere Leitplanken.

Zur Originalmeldung

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert