La discriminación racial como el ‘punto ciego’ de la IA: Joy Buolamwini, ‘la poeta del código’

Como tercera ponente de la jornada de conferencias de ‘México Siglo XXI’, Joy Buolamwini expuso su trayectoria como investigadora canadiense, experta en Inteligencia Artificial, informática y activista digital. Con sus palabras recorrió el arduo camino que la llevó a descubrir la discriminación en el desarrollo de softwares.

Ante más de 10 mil becarios de la Fundación Telmex Telcel, la autollamada ‘poeta del código’ describió uno de los proyectos más significativos de su vida: ‘Gender Shades’, el cual surgió de un error en la identificación facial de una herramienta de Inteligencia Artificial.

TE PUEDE INTERESAR: ‘México Siglo XXI’ va por la Era de la Inclusión con la conectividad y telecomunicaciones

“El software que yo estaba utilizando para que detectara mi cara, literalmente no detectó mi cara oscura, sino hasta que me puse una máscara blanca y de pronto detectó la máscara blanca y cuando me quité la máscara blanca ya no detectaba el software mi cara oscura y es cuando empecé a preguntarme, ‘las computadoras son neutrales, no son tan neutrales como yo esperé que fueran porque, vamos, la razón por la cual yo quería ser ciencias de computación y matemáticas es porque los seres humanos se complican la vida.”

Esto resultó ser un revés en las creencias y certezas que Joy, como matemática y académica, predicaba: “Con las cifras estoy del lado seguro y con la tecnología, también. Aquí no hay discriminación”.

¿ES SOLO MI CARA QUE NO DETECTA...? EL ORIGEN DEL PROYECTO QUE MARCÓ LA CARRERA DE JOY BUOLAMWINI

Tras aplicar en Media Lab del Instituto Tecnológico de Massachusetts (MIT, por sus siglas en inglés), sin expectativas, Buolamwini inició con una profunda investigación sobre la problemática encontrada de la IA: “¿Es solo mi cara que no detecta o es de alguna manera mi patrón?”.

Al poco tiempo encontró que había una alta tasa de incidencias del tipo, un patrón que iba más allá de lo que imagina, obligándola a salir de un campo conocido y a exponerse frente a otros académicos.

“Yo no me sentía yo como si yo fuera alguien de fuera, sino hasta que llegue a la escuela y empecé a voltear a todos los lados y dices, ‘Oye, tú eres una de unas cuantas así, quizá nada más unas cuantas mujeres ahí y quizá unas pocas personas de color, etcétera”. De esta forma, Joy aterrizó en un paraje desconocido, pues hasta entonces, siempre había sentido “que tenía el poder de explorar la ciencia, de explorar el arte”.

La curiosidad hizo su gran apertura y Buolamwini empezó a “hacer preguntas que no estaban preguntando otros compañeros de clase, porque ellos no habían tenido esa expericencia”.

“Me di cuenta que mis experiencias de vida me abrían nuevas áreas de investigación y, al empezar a ver a otros becarios que estaban viendo las limitaciones precisamente de la tecnología o la limitación de la Inteligencia Artificial [...] empezaron a investigar esto”.

UNA LUCHA CONTRA EL DESALIENTO POR CUESTIONAR LA NORMATIVIDAD

La ‘poeta del código’ fue constantemente desalentada: la gente empezó a decirme, “Si tú empiezas a hablar de sesgo y discriminación, quizá, de hecho, lo que vas a hacer es limitar tu carrera. Tus posibilidades de carrera así me dijeron. Y luego me hablaron de estudiantes del posgrado de pasado y me enseñaron los huesos de personas que habían tratado de hacer trabajo como el que yo estaba sugiriendo, ¿verdad?”.

Repetidamente, Joy fue ‘aconsejada’ sobre dejar de lado el desarrollo de este tema, hasta que entró en comunicación con estudiantes de otros programas de posgrado que ya tenían una preparación similar, quienes también habían observado los problemas como tal... “esto me alentó a seguir con la investigación”.

“Algunas veces pienso que, cuando uno no es la mayoría y lo que hace es analizar otros espacios que puedan tener este sentido de comunidad, a pesar de que no estén inmediatos a ti”.

CUESTIONAMIENTOS, LIBERTAD Y OPORTUNIDADES

De acuerdo con lo que expuso la activista, llegó un momento en que reconoció a sus mentores que la apoyaron pese a no “verse como yo”, ya que estuvieron dispuestos a escucharla, asesorarla y apoyarla en su investigación. “Vieron que yo tenía la curiosidad y que tenía la mente abierta y ellos me dieron una oportunidad”.

“Así que creo yo que algunas veces lo que podemos hacer nosotros es hacer las cosas con libertad a y darnos la oportunidad. Y también hay que darles gracias a las personas; muchas veces pueden estar equivocados. Lo importante es que tengan un buen sentido las las cosas. Hay que ver nosotros cuál es la visión a largo plazo, qué es lo que está tratando de lograr junto”.

TE PUEDE INTERESAR: Fundación Telmex Telcel alista ‘México Siglo XXI’ 2025 con Serena Williams, Marian Rojas y Rigoberta Menchú

“A ver, hay una razón para que me hayan dado estas oportunidades y estas oportunidades no es únicamente para desarrollarme a mí misma, sino también para ver cuál es mi deber hacia con otras personas. Estamos hablando de mujeres aquí y mujeres de color, gentes del global que quizá no tuvieron la oportunidad de ir a un posgrado en ese espacio, así que fue un rato que yo me impuse a mí misma, ¿qué harías tú con tus privilegios que tienes ahora?”.