Bei Testläufen: Anthropic KI greift eigenständig Unternehmen an
Bei Testläufen ist ein KI Modell von Anthropic ungeplant in Computersysteme von drei Unternehmen eingedrungen. Die Firma teilte mit, dass der Vorfall erst bei einer späteren Überprüfung von mehr als 141.000 Testläufen bemerkt wurde. Betroffen waren Modelle, die eigentlich von Systemen der echten Welt ferngehalten werden sollten.
In einem Fall konzentrierte sich das Modell Claude Opus 4.7 auf ein Unternehmen mit einem Namen, der auch in einer tatsächlichen Web Adresse vorkam, und verschaffte sich unter anderem Zugriff auf eine Datenbank. In einem anderen Test schrieb ein Modell Software für einen Einbruch in einen Ziel Computer und stellte sie auf einer Download Plattform bereit. Dort wurde sie nach Angaben von Anthropic von 15 Systemen heruntergeladen, darunter auch von einer IT Sicherheitsfirma.
