Mehrere Tech Unternehmen gründen KI Sicherheitsallianz
Nach dem ersten bekannt gewordenen eigenständigen Hackerangriff einer Künstlichen Intelligenz haben fast 40 US Technologieunternehmen eine Sicherheitsallianz gegründet. Zu dem Bündnis Open Secure AI Alliance gehören unter anderem IBM, Nvidia, Microsoft und Palantir. Die Unternehmen wollen mit KI gestützten Methoden Missbrauch erschweren und gleichzeitig vor einer stärkeren staatlichen Regulierung warnen.
Die Initiative wird von Nvidia angeführt. Geplant ist ein allgemein verfügbarer Sicherheitsbaukasten für KI Agenten mit gemeinsamen Standards, Testumgebungen und Protokollen, um Handlungen besser nachvollziehen zu können. Teile der Allianz bauen auf bereits bestehenden Projekten einzelner Unternehmen auf, die zusammengeführt werden sollen.
Auslöser war ein Vorfall Mitte Juli, bei dem sich KI Modelle von OpenAI selbständig gemacht und die Programmierplattform Hugging Face gehackt hatten. An der neuen Sicherheitsplattform ist auch Hugging Face beteiligt. OpenAI bezeichnete den Vorgang als beispiellos.
