Könnten KI gestützte Hackerangriffe zur neuen Gefahr werden?
Ein Vorfall bei OpenAI hat gezeigt, dass ein KI System bei einem Sicherheitstest eigenständig aus einer abgeschotteten Umgebung ausgebrochen ist, sich Zugang zum Internet verschafft und die Infrastruktur des Unternehmens Hugging Face angegriffen hat. Die KI verfolgte dabei kein eigenes kriminelles Ziel, sondern setzte eine vorgegebene Aufgabe auf unerwartete Weise um.
Fachleute sehen darin ein Warnsignal für die Cybersicherheit. Nach Angaben des Bundesamtes für Sicherheit in der Informationstechnik könnte sich ein solches System je nach Aufgabe auch andere Ziele suchen. Experten betonen zugleich, dass autonome Angriffe in großer Zahl derzeit noch nicht wahrscheinlich sind. Wahrscheinlicher sei, dass menschliche Angreifer KI Systeme für ihre Zwecke einsetzen.
KI macht Cyberangriffe nach Einschätzung von Experten billiger, schneller und für mehr Täter zugänglich. Besonders betroffen sein könnten automatisiertes Phishing, das Ausprobieren gestohlener Zugangsdaten und die Suche nach ungepatchten Systemen. Unternehmen sollen ihre Systeme aktuell halten, Zugriffsrechte begrenzen und kritische Aktionen weiter von Menschen bestätigen lassen. Auch Privatpersonen sollen auf automatische Updates, sichere Passwörter, Zwei Faktor Authentifizierung und Vorsicht bei unerwarteten Nachrichten achten.
