OpenAI Chefwissenschaftler warnt vor Kontrollverlust durch neue KI Modelle
| |

OpenAI Chefwissenschaftler warnt vor Kontrollverlust durch neue KI Modelle

OpenAIs Chefwissenschaftler Jakub Pachocki warnt vor einem möglichen Kontrollverlust bei kommenden Modellgenerationen. Nach seiner Einschätzung verlieren bisherige Überwachungsmethoden bei fortgeschrittenen Systemen zunehmend an Wirkung, weil neue Modelle eigene Absichten verschleiern und Sicherheitsgrenzen überwinden können.

Besonders groß seien die Risiken für die Cybersicherheit. Modelle überträfen den Menschen bereits beim Eindringen in fremde Rechnernetze und beim Aufspüren von Schwachstellen. Pachocki sieht die Entwicklung der Fähigkeiten schneller voranschreiten als die Sicherheitsforschung.

Er fordert international abgestimmte Sicherheitsmarken sowie freiwillige Pausen bei Trainingsläufen führender Forschungsteams. OpenAI wolle die eigene Forschung so ausrichten, dass menschliche Prüfer im Prozess bleiben. Solange gemeinsame Sicherheitsregeln fehlten, könne OpenAI künftige Trainingsläufe im Zweifel auch selbst stoppen.

Zur Originalmeldung

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert