Unkontrollierbare Risiken: KI Bosse in den USA wollen Entwicklung bremsen
Der Chef des US KI Unternehmens Anthropic, Dario Amodei, warnt vor unkontrollierbaren Risiken beim rasanten Ausbau Künstlicher Intelligenz und fordert strengere Regeln. Er spricht sich dafür aus, den Wettbewerb in der Branche zu verlangsamen und Leitplanken für ein kontrolliertes Fortschreiten einzuführen. Dazu zählt nach seinen Vorstellungen auch, externe Prüfer mit umfassenden Zugriffsrechten in den Unternehmen einzusetzen.
Unterstützung für diese Forderungen kam von OpenAI Chef Sam Altman und dem Tech Unternehmer Elon Musk. Amodei fordert außerdem, dass Regierungen gemeinsam verbindliche Sicherheitsstandards festlegen. Die US Regierung habe bei dem Thema bisher kaum eingegriffen und den weltweiten Wettlauf um KI eher beschleunigt als begrenzt.
Auslöser der neuen Debatte waren Aussagen des früheren Mitarbeiters Jacob Coxon sowie ein Sicherheitsbericht von Anthropic. OpenAI will seinen geplanten Börsengang wegen der Sicherheitsbedenken verschieben, bei Anthropic sollen die Börsenpläne dagegen weiterlaufen.
