Google warnt vor KI Chaos im Internet
Google DeepMind finanziert gemeinsam mit Schmidt Sciences, der britischen Regierungsagentur ARIA, der Cooperative AI Foundation und Google.org Forschungsprojekte außerhalb der großen Tech Konzerne. Ziel ist es, realistische Simulationen aufzubauen, in denen KI Agenten in virtuellen Testumgebungen, sogenannten Sandboxes, als Gruppe untersucht werden.
Damit sollen sich etwa virtuelle Marktplätze oder arbeitsübergreifende Prozesse sicher testen lassen. Shah betont dabei die Bedeutung unabhängiger Wissenschaft, weil sie Arbeit leisten könne, die in Industrielaboren nicht im Vordergrund stehe. Zustimmung kommt von Refael Angel, Technikchef der Cybersicherheitsfirma Akeyless. Er verweist darauf, dass bisherige Sicherheitskonzepte von statischer Software ausgingen, während ein Agent schlussfolgern, improvisieren und durch einen einzelnen Satz in einem Dokument gekapert werden könne.
