Coded Bias: Kunstig intelligens og diskrimination
Coded Bias er en dokumentarfilm om diskrimination i kunstig intelligens. Den følger MIT-forskeren Joy Buolamwini, der opdager en alvorlig fejl i ansigtsgenkendelse.
Coded Bias er en dokumentarfilm, der undersøger diskrimination i kunstig intelligens. Dokumentaren følger MIT Media Lab-forskeren Joy Buolamwini, en datalog, der opdager en alvorlig fejl i ansigtsgenkendelsesteknologien.
Teknologiens formål har altid været at støtte mennesker – og husk, at det er mennesker, der har skabt teknologien. Vi har brugt teknologi til at forbedre sikkerhedsregler, rejse hurtigere fra ét sted til et andet, komme i kontakt med mennesker over hele verden via et globalt netværk, udforske rummet og meget, meget mere. Du ville blive overrasket over, hvor hurtigt næsten alle maskiner omkring dig konstant lærer, tilpasser sig, genkender og husker hver eneste tanke, du skriver eller siger. Vi er nået dertil, hvor kunstig intelligens (AI) og maskinlæring har kunnet lære og fungere på egen hånd. Men det vidste du måske allerede, og du havde det fint med det.
Dokumentaren begynder med Joy Buolamwinis oplevelse på Media Lab. Hun tager et kursus, der hedder ‘Science Fabrication’, og som opfordrer de studerende til at forestille sig idéer og innovere med udgangspunkt i science fiction-koncepter. Hun planlagde at skabe det, hun kaldte et ‘Aspire Mirror’. Som det forklares i dokumentaren, var idéen med Aspire Mirror at matche en persons ansigt og erstatte det med ansigtet på et dyr eller en person, der inspirerede vedkommende. Ved hjælp af et kamera og software til computersyn var tanken, at teknologien skulle kunne følge Buolamwinis ansigt. Det fungerede ikke særlig godt for hende, før hun tog en hvid maske på, hvilket gjorde det muligt for systemet at registrere hendes ansigt.
Forudsigelse af individuel adfærd ved hjælp af biometrisk ansigtsgenkendelse. Skærmbillede fra Coded Bias.
Efter mange overvejelser og eksperimenter bemærker vi, at maskiner trænes med sæt af eksempler og det, vi ønsker, at de skal lære. Al maskinlæring bygger på historiske data, og resultaterne beregnes ud fra handlinger, der er foretaget, eller beslutninger, der er truffet. Det betyder, at alt, hvad du fodrer en maskine med, bliver en del af maskinens hukommelse – ligesom hos os mennesker og vores hjerner.
Så forestil dig, at vi fodrer en kunstig intelligens med vores historie gennem de seneste 200 år. Kan du forestille dig resultatet? Problemet er, at fordi der har været århundredgamle problemer med racisme, krige, samfundsmæssige skel og meget mere, har maskiner lært, at de valg, der overlevede, var de bedre valg – ikke nødvendigvis de rigtige valg. Det er maskinens fejl: Den er en sort boks, som vi ikke kan undersøge eller reparere, fordi det er algoritmer, vi ikke har fuld kontrol over. Mennesker har i høj grad indlejret deres fordomme i den teknologi, der lærer af dem.
“AI bygger på data, og data er en afspejling af vores historie. Derfor lever fortiden videre i vores algoritmer” – Joy Buolamwini
Den fordømmende Tay, som Microsoft skabte på Twitter, viste tydeligt, hvad AI er i stand til. Botten lærte så meget på internettet, at den begyndte at skrive stødende, racistiske, sexistiske og provokerende tweets fyldt med bitter samfundskommentar. Efter 16 timer blev Tay taget ned med beskeden om, at den havde været udsat for et “koordineret angreb fra en gruppe mennesker” – eller sådan blev det rapporteret.
Vi lever i et samfund, hvor kunstig intelligens styrer frihed og individer. Vi bliver konstant diskrimineret – også af maskiner. Dokumentaren afslører, hvordan mange store virksomheder som Amazon, Facebook, IBM, Microsoft og flere andre havde ansigtsgenkendelse, der fungerede bedre på mandlige ansigter end på kvindelige. Virksomheder som Amazon har oplevet racemæssig skævhed i deres ansættelsesalgoritme, som valgte flere hvide mænd end personer fra andre racer og køn.
Du vil måske også kunne lide: NBA – Standing Against Racism
Vi ser ansigtsgenkendelse i Kina, hvor den kræves ved hvert eneste skridt, du tager – fra at oprette forbindelse til internettet til at tage et tog. I Storbritannien gik overvågningen med CCTV så langt, at man ved hjælp af biometrisk ansigtsgenkendelse mistænkte og drog konklusioner om potentielle mistænkte. Det førte til direkte afhøringer fra det lokale politi på selve gaden. Alle, der forsøgte at skjule ansigtet for overvågningsvognene, fik bøder!
Der er også et eksempel på, at ansigtsgenkendelse blev en del af sikkerhedsforanstaltningerne i US’ Atlanta Plaza Towers. Denne bygning i Brownsville, New York, har overvejende en sort og brun befolkning. Beboerne i bygningen gjorde gældende, at de havde ret til ikke at blive sporet gennem sådanne systemer. Statskundskabsforskeren og forfatteren Virginia Eubanks fremhæver et meget interessant punkt: De mest overvågningsorienterede værktøjer bliver først testet i fattige arbejdermiljøer, og hvis de fungerer i sådanne omgivelser, hvor forventningen om, at folks rettigheder bliver respekteret, generelt er lav, bliver de ført videre til andre samfund.
Dokumentaren diskuterer også statslig overvågning over for virksomheders overvågning gennem biometrisk ansigtsgenkendelse. Statslig overvågning, som den fungerer i Kina, bruges til at registrere og regulere borgere ved at kategorisere og tilgå deres data. I lande som USA bruges overvågning til kommercielle formål baseret på indtjening.
Du bliver ret ofte bedt om tilladelser i afsnittet med vilkår og betingelser på forskellige websites. Det giver adgang til oplysninger, som du har opbygget din profil med, samt til mere af din aktivitet på nettet. Det omfatter dine billeder, din alder, dine interesser, dine inspirationskilder og meget mere, som du ikke kender til. Vi er ikke engang klar over, hvilken indflydelse de mennesker, der kontrollerer Big Data, har på vores liv.
Resten må du selv se!
Se CODED BIAS på Netflix.
Buolamwini grundlagde Algorithmic Justice League for at skabe opmærksomhed om konsekvenserne af kunstig intelligens. De mener også, at racemæssig retfærdighed kræver algoritmisk retfærdighed, især når vi bevæger os ind i fremtiden med vores uregulerede, hastige teknologiske udvikling.
Vi kan ikke altid stole på, at vi ved, hvad myndigheder har magt til at gøre. Vi må være på vagt over for hvert eneste system, der bliver indført omkring os. AI-baserede systemer har smuthuller, fordi der ikke findes ordentlige love, der regulerer, hvordan denne teknologi må bruges, og ingen regler, der fastlægger dens rækkevidde.
Hvad tror du, der kommer til at ske?
