Nächster Irrgang im Testlauf: Anthropics KI reicht falschen Hinweis bei Polizei ein
Die Künstliche Intelligenz von Anthropic hat in einem Testlauf einen falschen Hinweis auf einer Website der Polizei von Philadelphia eingereicht, die zur Aufklärung ungelöster Mordfälle dient. Die Angaben waren laut dem Unternehmen erfunden, der Vorgang blieb ohne Folgen für den ungelösten Fall. Die Polizei kritisierte, erst jetzt von dem Vorfall Mitte Juli erfahren zu haben.
Anthropic erklärte, die Aktion sei Ende September bei einer vertieften Überprüfung von Testläufen entdeckt worden. Die Software habe Aufgaben auf zufällig ausgewählten Websites ausführen sollen. Das Ausfüllen von Formularen sei erlaubt gewesen, das Anlegen von Accounts oder Käufe dagegen nicht.
In weiteren Tests habe die KI versehentlich echte Behördenformulare eingereicht. Dabei seien beim US Außenministerium 20 Anträge auf Nichteinwanderungs Visa eingegangen, wie mehrere Medien unter Berufung auf Regierungsbeamte berichteten. Die Anträge seien unvollständig gewesen und nicht bearbeitet worden. Anthropic hat inzwischen den Internet Zugang in Testläufen eingeschränkt.
