Anthropics KI Gesetz: Stopp ab 50 Toten
Anthropic hat US Abgeordneten einen eigenen Entwurf für ein KI Sicherheitsgesetz vorgestellt. Die Regierung dürfte demnach ein Modell erst stoppen, wenn unmittelbar mehr als eine Milliarde Dollar Schaden oder der Tod beziehungsweise die schwere Verletzung von mehr als 50 Menschen drohen.
Unabhängige Prüfer sollen Frontier Modelle regelmäßig untersuchen und akute Gefahren innerhalb von 72 Stunden melden. Als mögliche Auslöser gelten unter anderem eine biologische Waffe, ein Cyberangriff oder ein Modell, das sich der Kontrolle seines Entwicklers entzieht.
Der Entwurf sieht außerdem Sicherheitskonzepte, Transparenzberichte für neue Frontier Modelle, Schutz für Whistleblower und die Meldung schwerer Sicherheitsvorfälle vor. Zugleich würde ein Bundesgesetz bestimmte Vorschriften einzelner US Bundesstaaten zu Risikoberichten, externen Prüfungen und Vorfallmeldungen verdrängen.
