Dario Amodei fordert ein Ende für freie KI
| |

Dario Amodei fordert ein Ende für freie KI

Anthropic Chef Dario Amodei fordert ein Ende für eine weitgehend freie Entwicklung von Künstlicher Intelligenz und plädiert für eine neue Regulierungsbehörde nach dem Vorbild der US Luftfahrtbehörde FAA. Er sieht KI Modelle inzwischen als so wichtig für die Wirtschaft an wie Flugzeuge oder Medikamente, warnt aber zugleich vor schweren Folgen bei Fehlfunktionen.

Auslöser des Vorstoßes ist die Veröffentlichung von Claude Mythos. Nach Amodeis Einschätzung zeigen solche Systeme akute Risiken für die globale Cybersicherheit, kritische Infrastruktur und den Finanzsektor. Er erwartet zudem weitere Gefahren durch biologische Waffen und einen möglichen Kontrollverlust über autonome Systeme.

Parallel legt Anthropic einen Gesetzesentwurf vor. Demnach sollen KI Modelle ab einer bestimmten Rechenleistung verpflichtend auf Cybersicherheit, Biowaffen, Kontrollverlust und automatisierte Forschung getestet werden. Werden die Sicherheitsstandards nicht erfüllt, soll die Regierung den Start solcher Systeme stoppen können.

Zur Originalmeldung

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert