Neues KI Modell flucht über eigene Fehler mit »f*ck«
Das neue KI Modell Inkling 2 Small von Thinking Machines schreibt in seinen internen Arbeitsschritten gelegentlich das Wort fuck. Vals AI fand die Beleidigung oder Varianten davon in 50 von 2655 Testläufen. In kurzen Läufen blieb die Suche ohne Treffer, in längeren Läufen trat das Wort häufiger auf.
Besonders auffällig waren zwei lange Läufe. In einem Fall wiederholte das Modell bei einer Asteroidenberechnung über viele Schritte dieselben Sätze und kam allein dabei auf 185 Treffer. Ein weiterer Lauf brachte 56 Treffer. Zusammen machten diese beiden Fälle gut drei Viertel aller gezählten Treffer aus.
Die Auswertung umfasste 13 Benchmarks. Gezählt wurden die internen Texte des Modells, die Nutzer normalerweise nicht sehen. Als Warnsignal wertet Vals AI das Wort dennoch nicht, auch weil viele Läufe unabhängig davon scheiterten.
