Disparidades de precisión interseccional en la clasificación comercial por género

Revisión de artículo

El artículo escrito por Joy Buolamwini y Timnit Gebru analiza la precisión de los sistemas comerciales de clasificación de género basados en reconocimiento facial, con un enfoque interseccional de raza y género. El estudio evaluó 3 algoritmos comerciales de clasificación de género de IBM, Microsoft y Face++ con un conjunto de datos que las investigadoras etiquetaron previamente de forma manual. Las autoras calcularon las tasas de precisión comparando las predicciones de los algoritmos con el trabajo manual y también analizaron la variación de la precisión interseccionalmente (en diferentes grupos demográficos, incluida la raza, el tipo de piel y la edad).

La principal conclusión del estudio es que serán necesarios conjuntos de datos de referencia e informes de precisión inclusivos serán necesarios para aumentar la transparencia y la rendición de cuentas en inteligencia artificial, lo cual es posible si las características demográficas y fenotípicas de los conjuntos de datos de entrenamiento y el rendimiento de los algoritmos son divulgados como información abierta. Las autoras señalan que se necesita más investigación para determinar si las disparidades significativas en la tasa de error según el género, el tipo de piel y los subgrupos interseccionales encontrados en este estudio de clasificación de género persisten en otras tareas de visión computarizada que involucran a humanos.

Además de encontrar que los algoritmos comerciales evaluados funcionaron peor para rostros con tonos de piel más oscuros y para rostros femeninos, particularmente para mujeres de piel más oscura, las autoras entregaron un nuevo conjunto de datos con un tipo de piel y representación de género más equilibrados, que es una contribución notable para reducir el sesgo en decisiones tomadas por los algoritmos de Inteligencia Artificial en contextos donde la precisión es crucial. Las autoras también sugieren que la futura investigación y desarrollo en esta área debería priorizar la creación de sistemas de clasificación de género que sean inclusivos, precisos y libres de sesgos.

Lo anterior se reafirma al revisar un punto importante que las autoras abordan: el hecho de que las empresas no proporcionen documentación para aclarar si sus sistemas de clasificación de género que brindan etiquetas de sexo están clasificando la identidad de género o el sexo biológico se relaciona con una falta de conciencia sobre las complejidades de género en el área de la visión computarizada. Esto se muestra en el trabajo de Quinan y Hunt: sus datos etnográficos evidencian cómo los cuerpos trans y no binarios se ven obligados a doblegarse a estos sistemas de visión computarizada, y cómo pueden usarse para discriminar sistemáticamente. Scheuerman et al. proporcionan evidencia empírica que muestra que en los sistemas que analizaron la clasificación binaria de género proporcionada por los servicios de visión computarizada funcionó peor en las imágenes trans que en las cis, y no pudieron clasificar correctamente los géneros no binarios.

El potencial discriminatorio de estos sistemas no sólo se demuestra por su inexactitud, sino también a través de las visiones de los investigadores. En un artículo que explora cómo el estudio de la visión computarizada afecta a les investigadores, une transgénero afirmó que sintió pura rabia como primera reacción, y luego solo una profunda tristeza que aún persiste, después de leer un artículo sobre el reconocimiento facial de género que sugería que algunas personas podrían usar la terapia de reemplazo hormonal como un disfraz para engañar a los algoritmos de reconocimiento facial.

La identificación de género a través de la visión artificial es un tema crítico que requiere serias consideraciones desde perspectivas éticas e inclusivas, ya que las consecuencias de los sesgos son vividas y sufridas por minorías. El artículo escrito por Buolamwini y Gebru es un paso importante hacia una aplicación justa de las tecnologías de Inteligencia artificial, como las de visión computarizada. 🤖