Der Einsatz von KI in der EU soll künftig sicher, ethisch und grundrechtskonform sein. Deshalb will die Europäische Kommission entsprechende Gesetze erlassen. Das bedeutet beispielsweise, dass Anwendungen in verschiedene Risikostufen eingeteilt und Datensätze und Entscheidungen nachvollziehbar gemacht werden müssen. Dazu zählt auch Software, die Menschen auf irgendeine Weise beurteilt oder kategorisiert – und damit möglicherweise algorithmische Diskriminierung möglich macht.

Künstliche Intelligenz: EU verbietet automatisierte Gesichtserkennung an öffentlichen Orten – „mit wenigen Ausnahmen“ (netzpolitik.org)

Die EU will Künstliche Intelligenz an die Leine legen – Magazin – 1E9

Diese Thematik, algorithmische Diskriminierung, greift der Dokumentarfilm „Coded Bias“ (Vorprogrammierte Diskriminierung) auf, im Mittelpunkt steht der Einsatz von Überwachungskameras und Gesichtserkennungssoftware. Zwei Aspekte aus dem Film zeigen die Bandbreite des Themas auf: bei Menschen mit dunkler Hautfarbe liefert die Software keine oder falsche Ergebnisse – in China wird Gesichtserkennung großenteils als komfortabel aufgefasst, weil Menschen sich bequem mit dem eigenen Gesicht zum einkaufen einloggen können.

Die Süddeutsche schreibt dazu, dass Coded Bias der bislang beste Film zum Thema digitale Technologien auf Netflix ist, „weil er seine Sozialkritik fundiert mit Wissenschaft untermauert“.

Film “Coded Bias” auf Netflix: Code und Vorurteil – Kultur – SZ.de (sueddeutsche.de)