Paukenschlag bei Anthropic: Unabhängige KI Prüfer dürfen jetzt fast alles
Anthropic gewährt sechs Mitarbeitern der gemeinnützigen Prüforganisation METR weitreichenden Zugang zu internen Informationen und Systemen. Die Prüfer erhalten Firmenhardware, Büroräume und interne Zugänge, die in etwa dem Zugang eigener Teams zur Risikobewertung entsprechen. Sie sollen Sicherheitsrisiken untersuchen und ihre Bewertungen ohne Freigabe des KI Unternehmens veröffentlichen können.
Anthropic kann nur verlangen, dass Informationen aus eng definierten Kategorien geschwärzt werden. Dazu gehören unter anderem Kundendaten, anwaltlich geschützte Informationen und Angaben zur Modellarchitektur. Wenn Architekturdetails für eine Risikobewertung besonders wichtig sind, sollen sie nach interner Genehmigung zugänglich gemacht werden.
Das Unternehmen entwickelt zudem ein Modell mit drei Zugangsstufen für externe Kontrollen. SecureBio arbeitet derzeit auf der ersten Stufe und prüft das Kapitel zu chemischen und biologischen Waffen im Risikobericht vom August. Weitere Kooperationen betreffen Accenture und Faculty, mit Hugging Face führt Anthropic erste Gespräche.
