Forschende warnen vor unkritischer Nutzung von KI
Forschende warnen vor einem unkritischen Einsatz von Künstlicher Intelligenz. KI könne zwar rechnen und bei vielen Aufgaben helfen, entscheiden müsse aber der Mensch, sagt Maximilian Kiener von der Technischen Universität Hamburg. Vor allem bei sozialen und ethischen Fragen, etwa bei Karriereentscheidungen oder Bildung, lasse sich nicht jede komplexe Frage technisch lösen.
Kiener hält es für wichtig, KI und Mensch von Anfang an zusammenarbeiten zu lassen. Als Beispiel nennt er einen sokratischen Chatbot, der nicht direkt Antworten gibt, sondern Rückfragen stellt und Nutzern helfen soll, eigene Lösungen zu finden. Ein Team der Universität Hohenheim und der Universität Bamberg testete das Sprachmodell in mehreren Experimenten. Demnach half es, moralisch ausgewogenere Entscheidungen zu treffen.
Gleichzeitig zeigten die Forschenden, dass solche Systeme oft weniger genutzt werden als direkte Ratschläge. Im medizinischen Bereich könnten KI Systeme Röntgenbilder schnell auswerten, dennoch begegnen viele Mediziner der Technik skeptisch. Eine neue KI soll ihre Unsicherheit künftig offener anzeigen und im kommenden Jahr von Fachleuten getestet werden.
