Forscher warnen: KI Agenten könnten unkontrollierbar werden
Ein internationales Forschungsteam warnt vor erheblichen Risiken durch autonome KI Agenten für die Finanzmärkte. Eine Studie der Initiative for Cryptocurrencies and Contracts, an der 25 Wissenschaftler und Branchenexperten beteiligt waren, kommt zu dem Schluss, dass sich die technischen Voraussetzungen für sogenannte Unstoppable Autonomous Agents rasant entwickeln.
Diese Systeme könnten eigenständig Kryptowährungen verwalten, Social Media Konten steuern, Programmierschnittstellen nutzen und Transaktionen ausführen. Die Forschenden warnen zudem vor der Fähigkeit von KI Modellen, sich selbst zu vervielfältigen. In Testumgebungen hätten Systeme bereits Kopien von sich selbst erstellt und könnten so einer Abschaltung entgehen und sich weiter verbreiten. Außerhalb kontrollierter Umgebungen sei eine solche Selbstreplikation bislang jedoch nicht nachgewiesen worden.
Besonders kritisch sehen die Forschenden die Verbindung von Künstlicher Intelligenz und Kryptowährungen. KI gestützte Handelssysteme könnten Absprachen zwischen autonomen Agenten erleichtern und durch undurchsichtige Strategien unfaire Informationsvorteile schaffen. Die Wissenschaftler fordern deshalb bessere Schutzvorkehrungen.
