KI schickt unschuldige Menschen ins Gefängnis
Eine ungerechtfertigte Haft hatte für Richardson schwerwiegende Folgen. Während seiner Inhaftierung verlor er seinen Arbeitsplatz und damit sein Einkommen. Seine Familie konnte die Miete nicht mehr zahlen und lebt seitdem bei Bekannten oder schläft im Auto. Außerdem verlor er durch die Zeit im Gefängnis das Sorgerecht für zwei seiner Kinder.
Die Ermittler hatten ihr Vorgehen mit einem vermeintlich hohen Erkennungswert begründet. Ein KI Ergebnis von 85 Prozent bedeutet jedoch nicht, dass die abgebildete Person mit 85 Prozent Wahrscheinlichkeit die gesuchte Person ist. Es handelt sich um einen statistischen Konfidenzwert, der nur die biometrische Ähnlichkeit zweier Gesichtsvorlagen beschreibt.
In einer Datenbank mit Millionen von Einträgen führt ein solcher Wert zu vielen Fehlalarmen. Der Konfidenzwert kann Menschen für eine manuelle Prüfung in Betracht ziehen, taugt aber nicht als Grundlage für eine sofortige Inhaftierung.
