Ki-fehler richten schaden an: frau fünf monate ins gefängnis – wegen algorithmus?
Ein algorithmus hat eine Frau in Tennessee fälschlicherweise für eine Bankbetrügerin erklärt und so zu einer fünfmonatigen Haftstrafe geführt. Ein Fall, der die dunkle Seite der künstlichen Intelligenz aufzeigt.
Falsche identität, falsche justiz
Angela Lipps, eine Betreuerin für vier Kinder, wurde von der Polizei verhaftet und inhaftiert, nachdem eine Gesichtserkennungssoftware sie mit vier Bankbetrügereien in North Dakota in Verbindung gebracht hatte. Sie betonte wiederholt, nie in North Dakota gewesen zu sein und keine Flugreise in der Vergangenheit gehabt zu haben.
Die Polizei hatte anhand von Überwachungskameras und einem Gesichtserkennungsalgorithmus die Übereinstimmung gefunden. Ein Detective verglich Lipps' Führerschein und Social-Media-Profile mit den Videoaufnahmen und kam zu dem Schluss, dass sie die Täterin sei. Die Entscheidung basierte ausschließlich auf den Gesichtszügen, der Körperform und den Haaren.
Die fünf Monate im Gefängnis kosteten Lipps ihren Job, ihr Zuhause und ihren Hund. Sie kämpft nun um eine Entschuldigung. Aber das ist nicht der einzige Fall: Es ist bereits der neunte dokumentierte Fall in den USA, in dem Personen aufgrund von KI-basierten Fehlentscheidungen unrechtmäßig inhaftiert wurden.
Der Vorfall wirft eine ernste Frage auf: Wie viel Vertrauen sollten wir in Algorithmen setzen, die so gravierende Konsequenzen haben können? Der Fehler liegt nicht in der Technologie selbst, sondern in der blinden Akzeptanz ihrer Ergebnisse. Die Verantwortlichen, die die Ergebnisse der KI nicht hinterfragen, tragen die Schuld.
Die Behörden in Fargo nahmen den Fall nach fünf Monaten wieder auf. Ein Pflichtverteidiger entdeckte schnell, dass Lipps in Tennessee Bargeld ausgegeben und Schecks eingelöst hatte – in der gleichen Zeit, als die Betrügereien in North Dakota begangen wurden. Ein simpler Nachweis, der die Fälschung der KI-Analyse offenlegte.
Die Geschichte von Angela Lipps ist ein Weckruf. Sie zeigt, dass die Technologie noch lange nicht ausgereift ist und dass menschliche Urteilskraft und sorgfältige Überprüfung unerlässlich sind. Die KI ist ein Werkzeug, kein Richter. Die Konsequenzen für solche Fehler sind verheerend – und die Zahl der betroffenen Personen wird voraussichtlich steigen.
Die KI wird immer besser, aber sie ist noch lange nicht perfekt. Und die menschliche Verantwortung für ihre Anwendung darf nicht vernachlässigt werden.
Die Technologie schreitet voran, aber die menschliche Sorgfalt hinkt hinterher. Das ist das eigentliche Problem.