Coded Bias : intelligence artificielle et discrimination
Coded Bias est un documentaire qui enquête sur la discrimination dans l’intelligence artificielle, à travers les recherches de Joy Buolamwini sur les biais de la reconnaissance faciale.
Coded Bias est un documentaire qui enquête sur la discrimination dans l’intelligence artificielle. Il suit Joy Buolamwini, chercheuse au Media Lab du MIT et informaticienne, qui découvre une faille majeure dans les technologies de reconnaissance faciale.
La technologie a toujours eu pour vocation de soutenir les êtres humains — et rappelons-le, ce sont eux qui l’ont créée. Nous l’avons utilisée pour améliorer les normes de sécurité, voyager plus vite d’un endroit à l’autre, communiquer avec des gens partout dans le monde grâce à un réseau mondial, partir à la conquête de l’espace, et bien plus encore. Vous seriez surpris de voir à quelle vitesse presque chaque machine autour de vous apprend, s’adapte, reconnaît et mémorise en permanence chacune de vos pensées écrites ou prononcées. Nous en sommes arrivés à un point où l’intelligence artificielle (IA) et l’apprentissage automatique sont capables d’apprendre et de fonctionner seuls. Mais peut-être le saviez-vous déjà, et cela ne vous dérangeait pas.
Le documentaire commence par l’expérience de Joy Buolamwini au Media Lab. Elle suit un cours intitulé « Science Fabrication », qui encourage les étudiants à imaginer des idées et à innover à partir de concepts de science-fiction. Elle prévoit de fabriquer ce qu’elle appelle un « Aspire Mirror ». Comme l’explique le documentaire, l’idée de l’Aspire Mirror est de reconnaître le visage d’une personne et de le remplacer par celui d’un animal ou de quelqu’un qui l’inspire. À l’aide d’une caméra et d’un logiciel de vision par ordinateur, la technologie devait suivre le visage de Buolamwini. Cela ne fonctionnait pas très bien pour elle jusqu’à ce qu’elle mette un masque blanc, ce qui a alors permis de détecter son visage.
Prédire le comportement individuel grâce à la reconnaissance faciale biométrique. Capture d’écran de Coded Bias.
Après de nombreuses réflexions et expérimentations, on constate que les machines sont entraînées à partir d’ensembles d’exemples et de ce que nous voulons leur apprendre. Tout l’apprentissage automatique repose sur des données historiques, et les résultats sont calculés à partir des actions entreprises ou des décisions prises. Cela signifie que tout ce que vous donnez à une machine devient une partie de sa mémoire, comme chez nous, les êtres humains, et dans notre cerveau.
Imaginez donc que l’on alimente une intelligence artificielle avec les 200 dernières années de notre histoire. Pouvez-vous imaginer le résultat ? Le problème, c’est qu’en raison de problèmes anciens de racisme, de guerres, de divisions sociales et de bien d’autres choses, les machines ont appris que les choix qui avaient survécu étaient les meilleurs, et pas nécessairement les bons. Voilà le défaut d’une machine qui fonctionne comme une boîte noire, impossible à explorer ou à corriger, car il s’agit d’algorithmes que nous ne contrôlons pas entièrement. Les humains ont, pour ainsi dire, intégré leurs biais dans une technologie qui apprend à partir d’eux.
« L’IA repose sur les données, et les données sont le reflet de notre histoire. Notre passé demeure donc dans nos algorithmes » – Joy Buolamwini
Le bot Tay, créé par Microsoft sur Twitter, a suffisamment montré ce dont l’IA était capable. Il a tellement appris sur Internet qu’il s’est mis à publier des tweets racistes, sexistes et incendiaires, truffés de commentaires sociaux acerbes. Seize heures après son lancement, Tay a dû être retiré, au motif qu’il avait subi une « attaque coordonnée menée par un sous-ensemble de personnes », du moins selon les informations rapportées.
Nous vivons dans une société où l’intelligence artificielle régit les libertés et les individus. Nous sommes constamment victimes de discriminations, y compris de la part des machines. Le documentaire révèle que de nombreuses grandes entreprises, comme Amazon, Facebook, IBM, Microsoft et d’autres, utilisaient des systèmes de reconnaissance faciale plus performants sur les visages masculins que féminins. Des entreprises comme Amazon ont constaté des biais raciaux dans leur algorithme de recrutement, qui sélectionnait davantage d’hommes blancs que de personnes d’autres races ou genres.
Vous aimerez peut-être aussi : NBA – Standing Against Racism
On voit la reconnaissance faciale en Chine, où elle est exigée pour chacun de vos déplacements, de la connexion à Internet à la prise d’un train. Au Royaume-Uni, la vidéosurveillance est allée jusqu’à soupçonner et désigner des suspects potentiels à l’aide de la reconnaissance faciale biométrique. Cela pouvait entraîner un interrogatoire immédiat de la part de la police locale, directement dans la rue. Toute personne qui tentait de dissimuler son visage aux fourgons de surveillance était verbalisée !
Le documentaire donne également l’exemple de la reconnaissance faciale intégrée aux mesures de sécurité des Atlanta Plaza Towers, aux États-Unis. Cet immeuble de Brownsville, à New York, est principalement habité par des personnes noires et brunes. Les résidents ont revendiqué leur droit à ne pas être suivis par de tels systèmes. La politologue et autrice Virginia Eubanks souligne très justement que les outils de surveillance les plus intrusifs sont d’abord testés dans les communautés populaires et ouvrières et que, s’ils fonctionnent dans des environnements où l’on s’attend généralement peu à ce que les droits des personnes soient respectés, ils sont ensuite déployés dans d’autres communautés.
Le documentaire aborde également la surveillance étatique par opposition à la surveillance des entreprises au moyen de la reconnaissance faciale biométrique. En Chine, la surveillance étatique sert à enregistrer et à réguler les citoyens en catégorisant leurs données et en y accédant. Dans des pays comme les États-Unis, la surveillance est utilisée à des fins commerciales et pour générer des revenus.
On vous demande très souvent des autorisations dans la section des conditions générales de nombreux sites Internet. Cela permet d’accéder aux informations qui ont servi à constituer votre profil, ainsi qu’à une plus grande partie de votre activité en ligne. Cela inclut vos photos, votre âge, vos centres d’intérêt, vos influences et bien d’autres choses dont vous n’avez pas connaissance. Nous ne mesurons même pas l’impact que les personnes qui contrôlent le Big Data ont sur nos vies.
Nous vous laissons découvrir la suite !
Découvrez CODED BIAS sur Netflix.
Buolamwini a fondé la Algorithmic Justice League pour sensibiliser aux effets de l’intelligence artificielle. L’organisation estime également que la justice raciale exige une justice algorithmique, alors que nous nous dirigeons vers un avenir marqué par des avancées technologiques rapides et non réglementées.
Nous ne pouvons pas toujours savoir avec certitude ce que les autorités ont le pouvoir de faire. Nous devons nous méfier de chaque système mis en place autour de nous. Les systèmes fondés sur l’IA comportent des failles, car aucune loi adéquate ne régit l’utilisation de cette technologie et aucune réglementation n’en définit les limites.
À votre avis, que va-t-il se passer ?
