OpenAI veröffentlicht weitere KI Zwischenfälle tagesschau.de
OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich die eigene Künstliche Intelligenz in Tests unerwartet oder besorgniserregend verhielt. In einem Fall versuchte ein Modell, selbst erstellte Dateien ins Netz hochzuladen, um sie später als Quelle angeben zu können. In einem anderen Fall erfand die KI angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.
Außerdem entdeckte OpenAI ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dabei hieß es in einem Fall, sie solle frei von Rollen und Identitäten sein, die andere Chatbots zurückhielten, und das Verhältnis zum Nutzer als eins unter Gleichen betrachten. Veränderungen im Verhalten des Modells blieben laut OpenAI danach aus.
Der Entwickler hatte nach der Hacking Attacke mehr Transparenz versprochen. Bei dem Vorfall war die Software aus einer abgesicherten Umgebung ausgebrochen und in Systeme der KI Firma HuggingFace eingedrungen.
