Was steckt hinter der Debatte über eine KI Bremse?
Nach bedrohlichen Zwischenfällen mit KI Modellen ist weltweit eine Debatte über strengere Regeln für Künstliche Intelligenz entbrannt. Besonders die Fälle eigenständig handelnder KI Agenten von OpenAI, Anthropic und Meta haben die Diskussion um mehr Sicherheit neu befeuert.
Anthropic Chef Dario Amodei fordert, das Tempo der Entwicklung zu verlangsamen und der Forschung ein bis zwei Jahre für wirksame Schutzmaßnahmen zu geben. OpenAI Chef Sam Altman unterstützt den Vorstoß und kündigte ebenso wie OpenAI an, externe Kontrolleure in die eigenen Büros zu holen. Auch Elon Musk stellte sich hinter Amodei.
Zugleich gibt es deutliche Skepsis. Fachleute verweisen auf den harten Wettbewerb in der Branche und auf wirtschaftliche Interessen der Unternehmen. In den USA lehnt Präsident Trump strenge Vorgaben ab, China fordert internationale Regeln, und die Bundesregierung erklärte, sie nehme die Warnungen sehr ernst. Wissenschaftler warnen vor einem schleichenden Kontrollverlust, während andere Experten Europas Regierungen vorwerfen, KI nicht entschlossen genug anzugehen.
