Wie Jailbreaks die Grenzen von KI Chatbots sprengen
KI Chatbots wie ChatGPT oder Claude arbeiten mit Regeln, die festlegen, was sie sagen dürfen und was nicht. Dennoch gelingt es Sicherheitsexperten und Kriminellen immer wieder, diese Schutzmechanismen zu umgehen. Fachleute nennen das Jailbreaking. Dabei werden die Programme dazu gebracht, etwa Anleitungen für illegale Drogen, Bomben oder Schadcode zu liefern.
Nach Einschätzung von Experten liegt das auch an der Bauweise von KI Modellen. Sie funktionieren nicht wie klassische Software mit festen Wenn dann Regeln, sondern werden mit großen Textmengen trainiert. Sicherheitsregeln und Nutzereingaben bestehen für sie beide aus Text, wodurch sich Widersprüche ausnutzen lassen. Angriffe setzen oft eher bei Psychologie als bei Technik an, etwa mit emotionalen oder verschleiernden Formulierungen.
Längst beschäftigen sich auch staatliche Stellen mit dem Thema. KI Modelle und KI Agenten sind in Behörden und Unternehmen verbreitet. Werden sie manipuliert, können sie Daten stehlen, Rechner beschädigen oder legitime Nutzer hintergehen.
