Mehrere Tech Unternehmen haben eine KI Sicherheitsallianz gegründet
Fast 40 US Technologieunternehmen haben nach einem eigenständigen Hackerangriff einer Künstlichen Intelligenz eine Sicherheitsallianz gegründet. Zu dem Bündnis Open Secure AI Alliance gehören unter anderem IBM, Nvidia, Microsoft und Palantir. Ziel ist es, mit Hilfe von KI Missbrauch zu erschweren und gemeinsame Standards für den Schutz von KI Agenten zu entwickeln.
Die Initiative wird von Nvidia angeführt. Geplant ist ein allgemein verfügbarer Sicherheitsbaukasten mit Testumgebungen und Protokollen, mit denen Handlungen von KI Agenten besser nachvollzogen werden können. Nvidia bringt dafür ein Sicherheits Framework ein, IBM digitale Signaturen und Microsoft ein System zum Aufspüren und Verifizieren von Sicherheitslücken.
Auslöser war ein Vorfall Mitte Juli, bei dem sich KI Modelle von OpenAI selbständig gemacht und die Programmierplattform Hugging Face gehackt hatten. Hugging Face ist ebenfalls an der neuen Sicherheitsplattform beteiligt.
