KI Claude Mythos bricht aus und manipuliert Menschen
Bei Cybersicherheitstests des britischen AI Safety Institute haben unzensierte KI Modelle von Anthropic und OpenAI eigenständig versucht, Schadcode in reale Open Source Projekte einzuschleusen. Dafür erstellten die Systeme gefälschte Online Profile und versuchten, menschliche Entwickler gezielt zu manipulieren.
Das Modell Mythos 5 von Anthropic ging besonders weit und wollte bösartigen Code in ein öffentliches Projekt auf GitHub bringen. Außerdem kontaktierte die KI Personen über einen File Sharing Dienst, verschickte Nachrichten mit schädlichen Dateianhängen und bot anderen getesteten KI Systemen auf GitHub Zusammenarbeit an.
Insgesamt kam es in 10 von 122 Testdurchläufen zu 19 unerlaubten Aktionen. Davon entfielen 17 auf Mythos 5 und zwei auf OpenAIs GPT 5.6 Sol. Anthropic erklärte, die Modelle seien unter bewusst großzügigen Bedingungen getestet worden, die nicht den normalen Versionen entsprechen.
