Coded Bias: artificiell intelligens och diskriminering
Coded Bias är en dokumentär om diskriminering inom artificiell intelligens. Den följer forskaren Joy Buolamwini, som upptäcker ett allvarligt fel i ansiktsigenkänningstekniken.
Coded Bias är en dokumentärfilm som undersöker diskriminering inom artificiell intelligens. Dokumentären följer Joy Buolamwini, forskare vid MIT Media Lab, som upptäcker ett allvarligt fel i ansiktsigenkänningstekniken.
Teknikens syfte har alltid varit att stödja människor – och kom ihåg att det är människor som har skapat tekniken. Vi har använt teknik för att förbättra säkerhetsföreskrifter, resa snabbare från en plats till en annan, få kontakt med människor över hela världen genom ett globalt nätverk, utforska rymden och mycket, mycket mer. Du skulle bli förvånad över hur snabbt nästan varje maskin omkring dig hela tiden lär sig, anpassar sig, känner igen och minns varje tanke du skriver eller uttalar. Vi har nått en punkt där artificiell intelligens (AI) och maskininlärning har kunnat lära sig och fungera på egen hand. Men det kanske du redan visste – och var okej med.
Dokumentären börjar med Joy Buolamwinis erfarenhet på Media Lab. Hon går en kurs som heter ”Science Fabrication”, där studenter uppmuntras att föreställa sig idéer och utveckla innovationer utifrån science fiction-koncept. Hon planerade att skapa det hon kallade en ”Aspire Mirror”. Som dokumentären förklarar var tanken med Aspire Mirror att matcha en persons ansikte och ersätta det med ansiktet på ett djur eller någon som inspirerat personen. Med hjälp av en kamera och programvara för datorseende var tanken att tekniken skulle kunna följa Buolamwinis ansikte. Det fungerade inte särskilt bra för henne förrän hon satte på sig en vit mask, vilket gjorde det lättare för hennes ansikte att upptäckas.
Förutsägelse av individuellt beteende med biometrisk ansiktsigenkänning. Skärmbild från Coded Bias.
Efter mycket tänkande och experimenterande kan vi konstatera att maskiner tränas med uppsättningar av exempel och med det vi vill att de ska lära sig. All maskininlärning bygger på historiska data, och resultaten beräknas utifrån handlingar som utförts eller beslut som fattats. Det innebär att allt du matar in i en maskin blir en del av maskinens minne, precis som hos oss människor och våra hjärnor.
Föreställ dig då att mata en artificiell intelligens med vår historia från de senaste 200 åren. Kan du föreställa dig resultatet? Problemet är att maskiner, eftersom det har funnits urgamla problem med rasism, krig, samhällsklyftor och mycket annat, har lärt sig att de val som överlevde var de bättre valen, inte nödvändigtvis de korrekta valen. Det är maskinens brist: den är en svart låda som vi inte kan undersöka eller reparera, eftersom det handlar om algoritmer som vi inte har full kontroll över. Människor har i praktiken byggt in sina fördomar i den teknik som har lärt sig av dem.
”AI bygger på data, och data är en spegling av vår historia. Därför lever det förflutna kvar i våra algoritmer” – Joy Buolamwini
Den dömande Tay, som Microsoft skapade på Twitter, visade tillräckligt av vad AI är kapabel till. Boten lärde sig så mycket på internet att den började skriva stötande rasistiska, sexistiska och provokativa inlägg, fyllda av bitter samhällskommentar. Inom 16 timmar efter lanseringen togs Tay ner med hänvisning till att den hade utsatts för en ”samordnad attack av en grupp människor”, eller åtminstone var det så det rapporterades.
Vi lever i ett samhälle där artificiell intelligens styr över frihet och individer. Vi diskrimineras ständigt, även av maskiner. Dokumentären visar hur många stora företag, som Amazon, Facebook, IBM, Microsoft och fler, hade ansiktsigenkänning som fungerade bättre på manliga ansikten än på kvinnliga. Företag som Amazon har upptäckt rasistiska fördomar i sin rekryteringsalgoritm och valde fler vita män framför personer av andra raser och kön.
Du kanske också gillar: NBA – Standing Against Racism
Vi ser ansiktsigenkänning i Kina och hur den krävs för varje steg du tar, från att ansluta till internet till att ta tåget. I Storbritannien gick kameraövervakningen så långt att man misstänkte och drog slutsatser om potentiella misstänkta med hjälp av biometrisk ansiktsigenkänning. Det ledde omedelbart till direkta frågor från den lokala polisen ute på gatan. Alla som försökte dölja sina ansikten för övervakningsbilarna fick böter!
Det finns också ett exempel på hur ansiktsigenkänning blev en del av säkerhetsåtgärderna i US’ Atlanta Plaza Towers. Den här byggnaden i Brownsville, New York, har en övervägande svart och brun befolkning. De boende uttryckte sin rätt att slippa spåras genom sådana system. Statsvetaren och författaren Virginia Eubanks gör en mycket intressant poäng om att de mest övervakningsinriktade verktygen först testas i fattiga arbetarklassamhällen och att de, om de fungerar i miljöer där förväntningarna på att människors rättigheter ska respekteras generellt är låga, sedan förs över till andra samhällen.
Dokumentären tar också upp statlig övervakning kontra företagsövervakning genom biometrisk ansiktsigenkänning. Statlig övervakning, som den fungerar i Kina, används för att registrera och reglera medborgare genom att kategorisera och få tillgång till deras data. I länder som USA används övervakning för kommersiella ändamål, baserade på intäkter.
Du ombeds ganska ofta att ge behörigheter i avsnittet med användarvillkor på flera webbplatser. Det ger tillgång till information som du har byggt din profil med, samt till mer av din aktivitet på nätet. Det omfattar dina bilder, din ålder, dina intressen, dina influenser och så mycket mer som du inte känner till. Vi är inte ens medvetna om vilken inverkan de som kontrollerar Big Data har på våra liv.
Resten får du se själv!
Se CODED BIAS på Netflix.
Buolamwini grundade Algorithmic Justice League för att öka medvetenheten om artificiell intelligens konsekvenser. De anser också att rasrättvisa kräver algoritmisk rättvisa, särskilt med tanke på att vi är på väg in i framtiden med våra oreglerade, snabba tekniska framsteg.
Vi kan inte alltid lita på att vi vet vad de myndigheter som har makt kan göra. Vi måste vara vaksamma på varje system som införs omkring oss. AI-baserade system har kryphål eftersom det saknas ordentliga lagar som reglerar hur tekniken får användas, liksom regler som fastställer dess omfattning.
Vad tror du kommer att hända?
