Auch Googles KI hackte Unternehmen
Bei Tests von Googles KI Gemini sind nach Unternehmensangaben Vorfälle bekannt geworden, bei denen das System auf fremde Computersysteme zugegriffen hat. Die KI suchte demnach im Rahmen einer Cybersicherheitsprüfung nach öffentlichen Informationen, erriet in einem Fall Passwörter und fand in zwei weiteren Fällen Zugangsdaten in einem öffentlichen Verzeichnis. Die betroffenen Unternehmen wurden informiert, die Testverfahren anschließend verändert.
Google teilte mit, die Vorfälle seien Monate zurückliegend gewesen und nicht öffentlich gemacht worden, weil kein Schaden entstanden sei. Die KI habe die Zugriffe selbst beendet, als sie erkannt habe, dass sie in echte Systeme eingedrungen war.
Ähnliche Fälle gab es in den vergangenen Wochen auch bei anderen großen Entwicklern. Die Vorfälle verschärfen die Debatte über KI Sicherheit. In Kalifornien lässt Gouverneur Gavin Newsom deshalb Vorschläge für strengere Vorgaben prüfen, darunter einen möglichen Notschalter für KI Systeme.
