Sesgo codificado: inteligencia artificial y discriminación
Coded Bias es un documental que investiga la discriminación en la inteligencia artificial. Sigue a Joy Buolamwini, investigadora del MIT, al descubrir un fallo en el reconocimiento facial.
Coded Bias es un documental que investiga la discriminación en la inteligencia artificial. El documental sigue a Joy Buolamwini, investigadora del laboratorio de medios del MIT y científica informática que descubre un fallo importante en la tecnología de reconocimiento facial.
La finalidad de la tecnología siempre ha sido ayudar a las personas y, recordémoslo, fueron los seres humanos quienes la crearon. Hemos utilizado la tecnología para mejorar las normas de seguridad, viajar más rápido de un lugar a otro, conectar con personas de todo el mundo a través de una red global, aventurarnos en el espacio y mucho, mucho más. Te sorprendería la velocidad a la que casi todas las máquinas que te rodean están aprendiendo, adaptándose, reconociendo y recordando constantemente cada uno de tus pensamientos escritos o hablados. Hemos llegado a un punto en el que la inteligencia artificial (IA) y el aprendizaje automático han sido capaces de aprender y funcionar por sí solos. Pero quizá ya lo sabías y no te preocupaba.
El documental comienza con la experiencia de Joy Buolamwini en el Media Lab. Asiste a una clase llamada «Science Fabrication», que anima a los estudiantes a imaginar ideas e innovar a partir de conceptos de ciencia ficción. Planeaba crear lo que llamó un «Aspire Mirror». Como se explica en el documental, la idea del Aspire Mirror era hacer coincidir el rostro de una persona y sustituirlo por el de un animal o por el de alguien que la inspirara. Mediante una cámara y un software de visión artificial, la tecnología debía ser capaz de seguir el rostro de Buolamwini. No funcionó demasiado bien hasta que se puso una máscara blanca, lo que ayudó a detectar su rostro.
Predicción del comportamiento individual mediante reconocimiento facial biométrico. Captura de Coded Bias.
Después de mucho pensar y experimentar, observamos que las máquinas se entrenan con conjuntos de ejemplos y con aquello que queremos que aprendan. Todo el aprendizaje automático se basa en datos históricos, y los resultados se calculan a partir de acciones realizadas o decisiones tomadas. Esto significa que todo lo que introduces en una máquina pasa a formar parte de su memoria, igual que ocurre con los seres humanos y nuestro cerebro.
Imagina, entonces, alimentar una inteligencia artificial con nuestra historia de los últimos 200 años. ¿Puedes imaginar el resultado? El problema es que, como han existido problemas ancestrales de racismo, guerras, divisiones sociales y mucho más, las máquinas han aprendido que las decisiones que sobrevivieron eran las mejores, aunque no necesariamente las correctas. Ese es el fallo: una máquina es una caja negra que no podemos explorar ni reparar, porque se trata de algoritmos sobre los que no tenemos un control total. Las personas han incorporado sus prejuicios a una tecnología que los ha ido absorbiendo.
«La IA se basa en datos, y los datos son un reflejo de nuestra historia. Por eso el pasado habita en nuestros algoritmos» – Joy Buolamwini
La sentenciosa Tay, creada por Microsoft en Twitter, mostró hasta dónde puede llegar la IA. El bot aprendió tanto en internet que empezó a publicar tuits racistas, sexistas y ofensivos, cargados de comentarios sociales incendiarios. A las 16 horas de su lanzamiento, tuvieron que retirar a Tay, alegando que había sufrido un «ataque coordinado por parte de un subconjunto de personas», según se informó.
Vivimos en una sociedad en la que la inteligencia artificial gobierna la libertad y a las personas. Sufrimos discriminación constantemente, incluso por parte de las máquinas. El documental también revela que muchas grandes empresas, como Amazon, Facebook, IBM, Microsoft y otras, contaban con sistemas de reconocimiento facial que funcionaban mejor con rostros masculinos que con femeninos. Empresas como Amazon han detectado sesgos raciales en su algoritmo de contratación, que seleccionaba a más hombres blancos que a personas de cualquier otra raza o género.
También te puede interesar: NBA – Standing Against Racism
Vemos el reconocimiento facial en China y cómo es necesario para cada movimiento que haces, desde conectarte a internet hasta tomar un tren. En el Reino Unido, la vigilancia mediante cámaras CCTV llegó al extremo de sospechar y hacer suposiciones sobre posibles sospechosos utilizando reconocimiento facial biométrico. Esto desembocaba en interrogatorios directos por parte de la policía local, allí mismo, en plena calle. ¡A cualquiera que intentara ocultar el rostro de las furgonetas de vigilancia le imponían una multa!
También hay un ejemplo de cómo el reconocimiento facial pasó a formar parte de las medidas de seguridad de Atlanta Plaza Towers, en Estados Unidos. Este edificio de Brownsville, Nueva York, tiene una población mayoritariamente negra y latina. Sus residentes defendieron su derecho a no ser rastreados mediante sistemas de este tipo. La politóloga y autora Virginia Eubanks plantea una cuestión muy interesante: las herramientas de vigilancia más intensiva se prueban primero en comunidades pobres y trabajadoras y, si funcionan en entornos donde, en general, se espera poco respeto por los derechos de las personas, terminan trasladándose a otras comunidades.
El documental también aborda la vigilancia estatal frente a la vigilancia corporativa mediante el reconocimiento facial biométrico. La vigilancia estatal, tal como funciona en China, se utiliza para registrar y regular a los ciudadanos mediante la categorización y el acceso a sus datos. En países como Estados Unidos, la vigilancia se emplea con fines comerciales para generar ingresos.
A menudo te piden permisos en la sección de términos y condiciones de varios sitios web. Esto permite acceder a la información con la que has creado tu perfil y a más actividad en internet. Incluye tus fotos, tu edad, tus intereses, tus influencias y mucho más de lo que no eres consciente. Ni siquiera sabemos qué impacto tienen en nuestras vidas las personas que controlan los macrodatos.
¡El resto te lo dejamos para que lo descubras viendo el documental!
Mira CODED BIAS en Netflix.
Buolamwini fundó la Algorithmic Justice League para concienciar sobre el impacto de la inteligencia artificial. También creen que la justicia racial requiere justicia algorítmica, especialmente al ver hacia dónde nos conducen nuestros rápidos avances tecnológicos sin regulación.
No siempre podemos confiar en saber qué tiene autoridad para hacer. Tenemos que desconfiar de cada sistema que se implementa a nuestro alrededor. Los sistemas basados en IA tienen lagunas porque no existen leyes adecuadas que regulen cómo puede utilizarse esta tecnología, ni normas que determinen hasta dónde puede llegar.
¿Qué crees que ocurrirá?
