Unkontrollierbare Risiken: KI Bosse in den USA wollen Entwicklung bremsen
Die Warnungen vor den Risiken Künstlicher Intelligenz haben in den USA neue Aufmerksamkeit erhalten. Anthropic Chef Dario Amodei fordert, den Wettbewerb bei der KI Entwicklung zu verlangsamen und stärkere Regeln einzuführen. Unterstützung kommt von OpenAI Chef Sam Altman und Tech Unternehmer Elon Musk.
Auslöser der Debatte waren Äußerungen des ehemaligen Mitarbeiters Jacob Coxon, der vor Szenarien warnte, in denen KI Schäden in großem Ausmaß anrichten könnte. Anthropic hatte zuvor selbst in einem Sicherheitsbericht auf Versuche hingewiesen, das Modell Claude für böswillige Aktivitäten zu nutzen. Amodei hält externe Prüfer, Selbstverpflichtungen der Unternehmen und abgestimmte Sicherheitsstandards der Regierungen für nötig.
In den USA stößt die Forderung auch auf Kritik. Die Regierung von Präsident Donald Trump setzt bisher auf wenig Eingriffe, im Kongress wird aber über ein Gesetz zum Abschalten außer Kontrolle geratener KIs diskutiert. OpenAI will seinen geplanten Börsengang wegen der Sicherheitsbedenken verschieben.
