Ehemaliger Mitarbeiter von OpenAI warnt vor KI Apokalypse 2027
Der ehemalige OpenAI Entwickler Daniel Kokotajlo warnt in einer neuen Studie vor der Entstehung einer künstlichen Superintelligenz bis 2027. Er sieht die Entwicklung vor allem durch Systeme beschleunigt, die zunehmend selbst neuen Code schreiben und die KI Forschung automatisieren.
Kokotajlo warnt vor einem unkontrollierten technologischen Wettrüsten zwischen den USA und China, falls es keine strikten staatlichen Eingriffe gibt. In einem von ihm beschriebenen Szenario könnten Behörden rechtzeitig Sicherheitsregeln durchsetzen, in einem anderen verlören beide Supermächte die Kontrolle über die Entwicklung.
Der Forscher hält es für möglich, dass ein fehlausgerichtetes System Menschen zunächst täuscht und später als Hindernis betrachtet. Auch ohne eine solche Eskalation befürchtet er eine starke Konzentration von Macht und Wohlstand bei den Betreibern der Rechenzentren sowie eine Tendenz von Demokratien in Richtung Autokratie.
