Florida verklagt OpenAI wegen Gefährdung von Kindern
Der US Bundesstaat Florida hat das KI Unternehmen OpenAI und dessen Geschäftsführer Sam Altman verklagt. Der Generalstaatsanwalt wirft dem Unternehmen vor, Risiken seines Chatbots ChatGPT für Kinder und Jugendliche bewusst verschwiegen und kommerzielle Interessen über die Sicherheit gestellt zu haben.
In der Klage heißt es, OpenAI habe interne Sicherheitswarnungen zurückgehalten und Nutzerinnen und Nutzer über Gefahren getäuscht. Zudem wird dem Unternehmen vorgeworfen, ein Produkt auf den Markt gebracht zu haben, das zur Gewalt ermutige und süchtig mache. Bezug genommen wird auch auf zwei Schießereien, bei denen die Täter Berichten zufolge während der Planung ihrer Verbrechen Fragen an ChatGPT gestellt haben sollen.
Kritisiert wird außerdem, dass es keine formelle Altersverifikation für die App gibt. ChatGPT ist für Kinder unter 13 Jahren verboten, unter 17 ist die Zustimmung der Eltern erforderlich. OpenAI hatte im Januar ein System eingeführt, das das Alter der Nutzer schätzen und das Verhalten der App entsprechend anpassen soll.
