Coded Bias: Künstliche Intelligenz und Diskriminierung
Coded Bias ist ein Dokumentarfilm über Diskriminierung durch künstliche Intelligenz. Im Mittelpunkt steht Joy Buolamwini, die einen gravierenden Fehler in Gesichtserkennungstechnologie entdeckt.
Coded Bias ist ein Dokumentarfilm über Diskriminierung durch künstliche Intelligenz. Im Mittelpunkt steht die MIT-Media-Lab-Forscherin Joy Buolamwini, eine Informatikerin, die einen gravierenden Fehler in der Gesichtserkennungstechnologie entdeckt.
Der Zweck von Technologie war schon immer, Menschen zu unterstützen – und nicht vergessen: Menschen haben Technologie erschaffen. Wir nutzen Technologie, um Sicherheitsvorschriften zu verbessern, schneller von einem Ort zum anderen zu gelangen, uns über ein weltweites Netzwerk global mit anderen zu verbinden, ins All vorzudringen und vieles, vieles mehr. Du wärst überrascht, wie schnell nahezu jede Maschine um dich herum ständig lernt, sich anpasst, erkennt und sich an jeden deiner geschriebenen oder gesprochenen Gedanken erinnert. Wir sind an einem Punkt angelangt, an dem künstliche Intelligenz (KI) und maschinelles Lernen selbstständig lernen und funktionieren können. Aber vielleicht wusstest du das bereits – und hattest kein Problem damit.
Der Dokumentarfilm beginnt mit Joy Buolamwinis Erfahrung im Media Lab. Sie besucht einen Kurs namens „Science Fabrication“, der Studierende dazu ermutigt, sich Ideen vorzustellen und auf Grundlage von Science-Fiction-Konzepten Neues zu entwickeln. Sie plante, etwas zu bauen, das sie „Aspire Mirror“ nannte. Wie im Dokumentarfilm erklärt wird, sollte der Aspire Mirror das Gesicht einer Person erkennen und durch das Gesicht eines Tieres oder einer Person ersetzen, die diese inspiriert. Mithilfe einer Kamera und Computer-Vision-Software sollte die Technologie Buolamwinis Gesicht verfolgen können. Bei ihr funktionierte das jedoch nicht besonders gut – bis sie eine weiße Maske aufsetzte, durch die ihr Gesicht erkannt werden konnte.
Vorhersage individuellen Verhaltens mithilfe biometrischer Gesichtserkennung. Screenshot aus Coded Bias.
Nach langem Nachdenken und Experimentieren wird klar: Maschinen werden mit Beispielen und den Inhalten trainiert, die sie lernen sollen. Alles maschinelle Lernen basiert auf historischen Daten, und die Ergebnisse werden anhand getroffener Handlungen oder Entscheidungen berechnet. Das bedeutet: Alles, was man einer Maschine zuführt, wird Teil ihres Gedächtnisses – genau wie bei uns Menschen und unserem Gehirn.
Stell dir also vor, wir würden einer künstlichen Intelligenz unsere Geschichte der vergangenen 200 Jahre zuführen. Kannst du dir das Ergebnis vorstellen? Das Problem ist: Angesichts jahrhundertealter Probleme wie Rassismus, Kriegen, gesellschaftlichen Spaltungen und vielem mehr haben Maschinen gelernt, dass die Entscheidungen, die sich durchgesetzt haben, die besseren Entscheidungen waren – nicht unbedingt die richtigen. Der Fehler einer Maschine liegt darin, dass sie eine Blackbox ist, die wir nicht untersuchen oder reparieren können, weil es sich um Algorithmen handelt, die wir nicht vollständig kontrollieren. Menschen haben ihre Vorurteile praktisch in Technologie eingebaut, die von ihnen gelernt hat.
„KI basiert auf Daten, und Daten sind ein Spiegel unserer Geschichte. Deshalb lebt die Vergangenheit in unseren Algorithmen weiter“ – Joy Buolamwini
Die von Microsoft für Twitter entwickelte wertende Tay zeigte eindrucksvoll, wozu KI fähig ist. Der Bot lernte im Internet so viel, dass er beleidigende rassistische, sexistische und aufrührerische Tweets verfasste, durchsetzt mit bitteren gesellschaftlichen Kommentaren. Innerhalb von 16 Stunden nach ihrer Veröffentlichung musste Tay abgeschaltet werden. Als Begründung hieß es, sie sei Opfer eines „koordinierten Angriffs durch eine Gruppe von Menschen“ geworden – zumindest wurde das so berichtet.
Wir leben in einer Gesellschaft, in der künstliche Intelligenz über Freiheit und Individuen bestimmt. Wir werden ständig diskriminiert – sogar von Maschinen. Der Dokumentarfilm zeigt, dass die Gesichtserkennung vieler großer Unternehmen wie Amazon, Facebook, IBM, Microsoft und anderer auf männlichen Gesichtern besser funktionierte als auf weiblichen. Bei Unternehmen wie Amazon wurden rassistische Verzerrungen in den Algorithmen zur Personalauswahl festgestellt: Sie wählten mehr weiße Männer aus als Menschen anderer Ethnien und Geschlechter.
Das könnte dir auch gefallen: NBA – Standing Against Racism
Wir sehen, wie Gesichtserkennung in China eingesetzt wird und für nahezu jeden Schritt erforderlich ist – von der Verbindung mit dem Internet bis zum Zugfahren. Im Vereinigten Königreich ging die Überwachung durch CCTV so weit, dass mithilfe biometrischer Gesichtserkennung potenzielle Verdächtige identifiziert und Verdächtigungen ausgesprochen wurden. Das führte unmittelbar zu direkten Befragungen durch die örtliche Polizei – mitten auf der Straße. Wer versuchte, sein Gesicht vor den Überwachungswagen zu verbergen, wurde mit einer Geldstrafe belegt!
Ein weiteres Beispiel ist, wie Gesichtserkennung Teil der Sicherheitsmaßnahmen der Atlanta Plaza Towers in den USA wurde. Dieses Gebäude in Brownsville, New York, hat überwiegend eine schwarze und braune Bevölkerung. Die Bewohnerinnen und Bewohner des Gebäudes pochten auf ihr Recht, nicht durch solche Systeme verfolgt zu werden. Die Politikwissenschaftlerin und Autorin Virginia Eubanks weist sehr interessant darauf hin, dass die am stärksten auf Überwachung ausgerichteten Instrumente zuerst an armen Arbeitergemeinschaften getestet werden. Wenn sie in solchen Umgebungen funktionieren, in denen allgemein nur geringe Erwartungen bestehen, dass die Rechte der Menschen respektiert werden, werden sie anschließend auf andere Gemeinschaften übertragen.
Der Dokumentarfilm thematisiert außerdem staatliche Überwachung im Gegensatz zu unternehmerischer Überwachung durch biometrische Gesichtserkennung. Staatliche Überwachung wird in China eingesetzt, um Bürgerinnen und Bürger zu erfassen und zu regulieren, indem ihre Daten kategorisiert und abgerufen werden. In Ländern wie den USA dient Überwachung kommerziellen Anwendungen, die auf Einnahmen ausgerichtet sind.
Auf zahlreichen Websites wirst du im Abschnitt Berechtigungen der Allgemeinen Geschäftsbedingungen häufig um deine Zustimmung gebeten. Dadurch wird der Zugriff auf Informationen ermöglicht, mit denen du dein Profil erstellt hast, sowie auf weitere Online-Aktivitäten. Dazu gehören deine Bilder, dein Alter, deine Interessen, deine Einflüsse und vieles mehr, von dem du nichts weißt. Wir sind uns nicht einmal bewusst, welchen Einfluss die Menschen, die Big Data kontrollieren, auf unser Leben haben.
Den Rest überlassen wir dir zum Anschauen!
Sieh dir CODED BIAS auf Netflix an.
Buolamwini gründete die Algorithmic Justice League, um auf die Auswirkungen künstlicher Intelligenz aufmerksam zu machen. Die Organisation ist außerdem überzeugt, dass rassistische Gerechtigkeit auch algorithmische Gerechtigkeit erfordert – insbesondere angesichts der Zukunft, auf die wir mit unseren unregulierten, rasanten technologischen Fortschritten zusteuern.
Wir können nicht immer darauf vertrauen, zu wissen, wozu eine Autorität befugt ist. Wir müssen gegenüber jedem System wachsam sein, das um uns herum eingeführt wird. KI-basierte Systeme haben Schlupflöcher, weil es keine angemessenen Gesetze gibt, die den Einsatz dieser Technologie regeln, und keine Vorschriften, die ihren Umfang bestimmen.
Was glaubst du, wird passieren?
