Die Tech-Branche kämpft seit Langem mit einem Diversitätsdefizit – ein Problem, das sich nun direkt auf die Entwicklung künstlicher Intelligenz auswirkt. Kay Firth-Butterfield, Leiterin des Weltwirtschaftsforums für KI und maschinelles Lernen, warnt eindringlich davor.
Auf einer Veranstaltung in Tianjin, China, hob Firth-Butterfield die Verzerrungen in KI-Algorithmen hervor und forderte eine deutlich vielfältigere Tech-Branche im Westen.
Sehen Sie, wie verwandte MIT-Forscher der KI beibringen, Depressionen zu erkennen. DeepMind von Google wendet seine virtuelle Hand an, um vorherzusagen, wann jemand sterben könnte.
„Es gab einige offensichtliche Probleme mit KI-Algorithmen“, sagte sie gegenüber CNBC und nannte den Fall aus 2015, als Googles Bilderkennungssoftware einen Schwarzen Mann und seinen Freund als „Gorillas“ klassifizierte. Laut einem Bericht von Wired Anfang dieses Jahres hat Google das Problem nicht behoben, sondern Suchbegriffe für Primaten blockiert.
„Da immer mehr solcher Fälle auftauchen, ist die ethische Debatte um KI enorm gewachsen“, betonte Firth-Butterfield. Sie verwies auch auf die DSGVO in Europa, die ethische Fragen zu Daten und Technologie in den Fokus rückte.
Die Dominanz „weißer Männer eines bestimmten Alters“ in der Tech-Branche fördert Vorurteile, die sich in KI-Algorithmen einschleichen. Maschinelle Lernsysteme, trainiert auf unausgewogenen Datensätzen, zeigen besonders bei Gesichtserkennung Schwächen.
Ein MIT-Experiment testete Systeme von Microsoft, IBM und Megvii: Bei weißen Männern lag die Genauigkeit bei 99 %, bei schwarzen Frauen nur bei 35 %. Ähnlich versagte Amazons Software, indem sie 28 US-Kongressmitglieder fälschlich als Kriminelle einstuft.
Dr. Adrian Weller, Programmdirektor für KI am Alan Turing Institute, erklärte gegenüber Alphr: „Algorithmische Systeme beeinflussen zunehmend unser Leben – von Krediten über Einstellungen bis zu Strafverfahren. Sie müssen fair sein und keine Gruppen diskriminieren.“
„Besonders problematisch ist das Training auf historisch voreingenommenen Daten“, fügte er hinzu. Weller sieht Fortschritte bei fairen, transparenten und ethischen Algorithmen – eine Haltung, die Firth-Butterfields Ziel teilt, KI „zum Wohle der Menschheit“ voranzutreiben.
Menschliche Diversität ist nicht das einzige Issue: Eine Studie von Cardiff University und MIT zeigt, dass autonome Maschinen Vorurteile kopieren und voneinander lernen können.