Sam Altman warnt vor einer Machtübergabe an KI
OpenAI Chef Sam Altman warnt davor, Entscheidungen über die Zukunft schrittweise an KI Modelle abzugeben. Beim DealBook Summit der New York Times sagte er gemeinsam mit OpenAI Präsident Greg Brockman, Menschen müssten dauerhaft die Kontrolle behalten.
Altman lehnt die im Silicon Valley diskutierte Idee einer allmählichen Machtübergabe an immer fähigere KI Systeme ab und bezeichnete sie als furchtbare Idee. OpenAI müsse verhindern, dass solche Modelle absichtlich oder versehentlich wichtige Entscheidungen übernehmen, auch wenn der Wettbewerbsdruck hoch ist.
Brockman verwies darauf, dass bestehende Kontrollmethoden bei stärkeren Modellen an Aussagekraft verlieren könnten. OpenAI suche deshalb nach neuen Verfahren, um problematisches Verhalten früh zu erkennen. Zugleich solle die Entwicklung leistungsfähiger Cybermodelle weitergehen, weil auch Verteidiger Zugang zu den besten Systemen bräuchten.
