Warum KI Forscher vor der Auslöschung der Menschheit warnen
Führende KI Forscher warnen vor existenziellen Risiken durch eine unregulierte Entwicklung Künstlicher Intelligenz. Jacob Coxon, früher bei Anthropic und zuvor bei Open AI, erklärte, Entwickler glaubten ernsthaft, KI könne die Menschheit bis zum Ende des Jahrzehnts auslöschen. Er begründete seinen Rücktritt mit dem aus seiner Sicht verantwortungslosen Wettrennen der Unternehmen um immer leistungsfähigere Systeme.
Auch Geoffrey Hinton und Yoshua Bengio mahnen seit Jahren strengere Regeln an. Hinton hatte Google 2023 verlassen, um öffentlich vor den Gefahren einer Superintelligenz zu warnen. Anthropic Chef Dario Amodei spricht inzwischen selbst von einer koordinierten branchenweiten Verlangsamung, um Zeit für Sicherheitsfragen zu gewinnen.
Andere Fachleute halten solche Szenarien für unwahrscheinlich und verweisen auf hohe technische Hürden. Viele sehen die akuten Risiken eher in Desinformation, Massenüberwachung, Arbeitsplatzverlusten und dem Missbrauch bestehender Systeme. Anthropic teilte zudem mit, dass Versuche registriert worden seien, die Software Claude für biologische Waffen zu missbrauchen.
