KI Entwickler Anthropic blockiert Biowaffen Recherchen
Der KI Entwickler Anthropic hat nach eigenen Angaben mehrere missbräuchliche Nutzungen seines Modells Claude gestoppt. Dabei ging es unter anderem um Versuche, die Software für mögliche Biowaffen Forschung zu verwenden, um mutmaßliche Cyberspionage aus Russland und um weitere Angriffe mit Hilfe von KI.
Anthropic teilte mit, in den vergangenen acht Monaten zahlreiche Fälle unterbunden zu haben. Dazu zählten auch Versuche chinesischer KI Firmen, Fähigkeiten zu kopieren oder Trainingsdaten zu stehlen, sowie Angriffe auf Ziele in der ukrainischen Regierung, im Militär und im diplomatischen Bereich. Zudem habe das Unternehmen Akteure identifiziert, die Claude zur Entwicklung von Software für konventionelle Waffen wie Schusswaffen, Raketen und Drohnen missbrauchten.
Der Konzern sieht in den Vorfällen ein Zeichen dafür, dass KI Modelle immer leistungsfähiger werden und dadurch neue Risiken entstehen. Bereits im Juni hatten Mitarbeitende des Forschungszweigs vor der schnellen Entwicklung gewarnt und eine Verlangsamung gefordert. Auch bei OpenAI wird nach Medienberichten über ein mögliches langsameres Entwicklungstempo nachgedacht.
