Die Industrie der künstlichen Intelligenz steht vor einer “Diversity-Krise”, sagten Forscher des AI Now Institute in einem heute veröffentlichten Bericht, der Schlüsselfragen zur Richtung des Feldes aufwirft.

Frauen und Farbige sind stark unterrepräsentiert, der Bericht stellt fest, dass etwa 80 Prozent der KI-Professoren Männer sind, während nur 15 Prozent der KI-Forschungsmitarbeiter bei Facebook und 10 Prozent bei Google Frauen sind; Farbige werden ebenfalls ausgegrenzt und machen nur einen Bruchteil der Mitarbeiter in großen Technologieunternehmen aus.

Worse, Pläne zur Verbesserung des Problems durch die Behebung der “Pipeline” potenzieller Bewerber ist weitgehend gescheitert: “Trotz vieler Jahrzehnte von “Pipeline-Studien”, die den Fluss der verschiedenen Bewerber von der Schule zur Industrie bewerten, gibt es in der KI-Branche keine wesentlichen Fortschritte in der Vielfalt”, schreiben die Forscher.

Die Forscher machen einige Vorschläge zur Verbesserung des Problems: Unternehmen könnten die Transparenz verbessern, indem sie mehr Daten über die Vergütung veröffentlichen, aufgeschlüsselt nach Rasse und Geschlecht, und indem sie Berichte über die Transparenz bei Belästigung und Diskriminierung veröffentlichen.

Diversität stellt zwar eine Hürde in der Technologiebranche dar, birgt aber spezifische Gefahren in der KI, wo potenziell voreingenommene Technologien wie die Gesichtserkennung überproportional auf historisch marginalisierte Gruppen wirken können. 2017 eingeführte Tools wie ein Programm, das Gesichter scannt, um Sexualität zu bestimmen, Echoungerechtigkeiten der Vergangenheit, schreiben die Forscher. strenge Tests sind notwendig.

“Die Diversitätskrise in der KI ist gut dokumentiert und weitreichend”, so die Forscher abschließend. “Sie zeigt sich an ungleichen Arbeitsplätzen in Industrie und Wissenschaft, an den Unterschieden bei der Einstellung und Beförderung, an den KI-Technologien, die verzerrte Stereotypen reflektieren und verstärken, und an der Wiederbelebung des biologischen Determinismus in automatisierten Systemen.”