Gesichtserkennungssoftware des Innenministeriums ‘systemisch rassistisch’.

0

Gesichtserkennungssoftware zur Überprüfung von Pässen wurde als “systemisch rassistisch” bezeichnet, nachdem eine Studie ergab, dass ein Bild einer schwarzen Frau doppelt so häufig abgelehnt wurde wie eines weißen Mannes.

Eine Untersuchung der Technologie, die vom Innenministerium verwendet wird, ergab, dass 22 Prozent der dunkelhäutigen Frauen sagten, ihre Bilder seien von schlechter Qualität.

Das ist vergleichbar mit nur neun Prozent der hellhäutigen Männer.

Die 22-jährige Studentin Elaine Owusu aus London erfuhr fälschlicherweise, dass ihr Mund auf fünf verschiedenen Fotos, die sie zu verwenden versuchte, offen stand.

Sie behauptete, der Fehler sei ein Beweis für Systemrassismus.

Frau Owusu sagte gegenüber der BBC: “Wenn der Algorithmus meine Lippen nicht lesen kann, ist dies ein Problem mit dem System und nicht mit mir.”

Weiße Frauen hatten laut BBC etwas häufiger (14 Prozent) ein Flaggenbild als schwarze Männer (15 Prozent). 

 Die Software wird vom Home Office im Rahmen des Online-Bewerbungsprozesses verwendet, um festzustellen, ob Fotos für einen Reisepass geeignet sind.

Eine Untersuchung hat ergeben, dass die Technologie Mängel aufweist.

Es kann darauf hinweisen, dass die Augen von Menschen geschlossen werden, wenn sie es nicht waren, oder die Lippen von Menschen für einen offenen Mund halten.  

Das Innenministerium hat den Dienst 2016 live geschaltet, obwohl es sich der Probleme bewusst war.

In einer kürzlich von der BBC durchgeführten Studie wurden mehr als 1.000 Fotos von Politikern aus aller Welt auf dem Checker verwendet.

Es zeigte sich, dass Frauen mit dem dunkelsten Hautton viermal häufiger eine schlechte Qualität erhielten als ihre hellhäutigen Kollegen. 

Ein Sprecher des Innenministeriums sagte: „Der indikative Scheck hilft unseren Kunden, ein Foto einzureichen, das beim ersten Mal richtig ist.

‘Über neun Millionen Menschen haben diesen Service genutzt und unsere Systeme verbessern sich. Wir werden unsere Systeme weiterentwickeln und evaluieren, um die Beantragung eines Passes für alle so einfach wie möglich zu gestalten. ‘

Share.

Comments are closed.