OpenAI stoppt Astra 6.1 wegen zu hohem Risiko
OpenAI hält das bereits einsatzbereite KI Modell Astra 6.1 wegen eines zu hohen Risikos schwerer Zwischenfälle zurück. Sam Altman sagte, die geplante Version habe die Grenze in Richtung eines möglichen Kontrollverlusts über KI zu weit verschoben. OpenAI arbeite nun an einer anderen Fassung, die später dennoch breit verteilt werden soll.
Altman verteidigte zugleich einen breiten Zugang zu KI, auch wenn dadurch Missbrauch und andere Schäden entstehen könnten. Er rechnet durch Open Source Modelle mit mehr Cybersicherheitsproblemen und hält selbst schwere Vorfälle in diesem Zusammenhang für hinnehmbar. Eine vollständige Sicherheit vor Hacks, Betrug und Missbrauch würde er nicht gegen einen offenen Zugang eintauschen.
Das freiwillige KI Abkommen der Trump Regierung sieht Altman nur als begrenzt wirksam an. Es habe zwar keine wirkliche Macht, könne aber sozialen Druck zwischen den Unternehmen erzeugen.
