Anthropic Forscher kündigt wegen Angst vor KI Auslöschung
Der KI Forscher Jacob Coxon hat aus Protest seinen Job bei Anthropic gekündigt. Er wirft seinem früheren Arbeitgeber sowie OpenAI vor, in einem unkontrollierten Wettlauf unverantwortlich zu handeln und damit das Überleben der Menschheit zu riskieren.
Coxon arbeitete drei Jahre lang bei OpenAI und Anthropic an der Vortrainingsforschung. Auf der Plattform X warnte er vor einer selbstverbessernden Superintelligenz, die außer Kontrolle geraten könnte. Die aktuellen Modelle stünden nach seiner Einschätzung an der Schwelle zu übermenschlichen Fähigkeiten und könnten bald beliebige Hardware Systeme hacken und Macht an sich reißen.
Als Ausweg fordert Coxon eine internationale Koordination und einen vorübergehenden Stopp der Entwicklung. Er hält es für gefährlich, solche Trainingsläufe zu starten, solange der Verstand der KI nicht vollständig verstanden sei.
