Forscher zur KI Entwicklung: Risiken ernst nehmen, aber nicht dramatisieren
Deutsche IT Forschende nehmen die Warnungen großer KI Firmen vor Risiken ernst, sehen darin aber keinen Anlass zur Dramatisierung. Konrad Rieck von der TU Berlin betont, dass bisher immer Menschen die Modelle gesteuert hätten und ihm kein Fall bekannt sei, in dem ein Modell völlig eigenständig gehandelt habe. Risiken entstünden vor allem dort, wo Menschen KI gezielt für schädliche Zwecke einsetzten.
Rieck führt jüngste Vorfälle in fremden Systemen vor allem auf Nachlässigkeiten der Entwickler zurück. Die KI Modelle seien in geschützten Umgebungen eingesetzt worden, teils aber unzureichend abgesichert. Thorsten Eisenhofer vom Cispa Helmholtz Zentrum für Informationssicherheit erklärt, die Unternehmen überwachten inzwischen genau, wofür ihre Systeme genutzt würden, und könnten im Notfall die Kommunikation abbrechen oder Modelle auf frühere Versionen zurücksetzen.
Jonas Geiping vom Max Planck Institut für Intelligente Systeme verweist zudem auf den Black Box Effekt. Entwickler kennten zwar die Architektur, nicht aber immer genau den Weg, auf dem eine KI zu ihren Ergebnissen komme. Deshalb begrüßen die Forschenden Vorschläge für eine unabhängige Regulierung der KI Entwicklung, möglichst auch auf internationaler Ebene.
