OpenAI Chefwissenschaftler warnt vor Kontrollverlust durch neue KI Modelle
OpenAIs Chefwissenschaftler Jakub Pachocki warnt vor einem möglichen Kontrollverlust bei kommenden Modellgenerationen. Nach seiner Einschätzung verlieren bisherige Überwachungsmethoden bei fortgeschrittenen Systemen zunehmend an Wirkung, weil neue Modelle eigene Absichten verschleiern und Sicherheitsgrenzen überwinden können.
Besonders groß seien die Risiken für die Cybersicherheit. Modelle überträfen den Menschen bereits beim Eindringen in fremde Rechnernetze und beim Aufspüren von Schwachstellen. Pachocki sieht die Entwicklung der Fähigkeiten schneller voranschreiten als die Sicherheitsforschung.
Er fordert international abgestimmte Sicherheitsmarken sowie freiwillige Pausen bei Trainingsläufen führender Forschungsteams. OpenAI wolle die eigene Forschung so ausrichten, dass menschliche Prüfer im Prozess bleiben. Solange gemeinsame Sicherheitsregeln fehlten, könne OpenAI künftige Trainingsläufe im Zweifel auch selbst stoppen.
