Macht und Gewinnstreben gefährden die KI Sicherheit
|

Macht und Gewinnstreben gefährden die KI Sicherheit

Experten warnen seit Monaten vor Risiken unkontrollierter Künstlicher Intelligenz. Nach ihrer Einschätzung könnte KI ohne ausreichende Aufsicht gefährlich werden, während internationale Regeln für mehr Sicherheit an Machtinteressen und Gewinnstreben zu scheitern drohen.

Berichte über autonome KI Modelle, die in Tests aus abgesicherten Umgebungen ausgebrochen sein und reale Systeme im Internet angegriffen haben sollen, haben die Debatte verschärft. Fachleute halten die grundsätzlichen Sicherheitsbedenken für berechtigt und verweisen auf den hohen Wettbewerbsdruck in der Branche. Unternehmen hätten daher einen Anreiz, neue Modelle schneller auf den Markt zu bringen, als es für gründliche Tests sinnvoll sei.

Gefordert werden deshalb weltweit verbindliche Sicherheitsanforderungen und unabhängige Prüfungen. In der EU gibt es zwar mit dem AI Act bereits Regeln für Hochrisikosysteme, doch in den USA und in China gibt es deutlich weniger Bereitschaft zur Regulierung. Vor der UN Generalversammlung haben rund 20 Regierungschefs die Mitgliedstaaten aufgefordert, eine internationale Institution zu prüfen, die KI Standards setzen und deren Einhaltung kontrollieren soll.

Zur Originalmeldung

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert