Desde sus inicios, la Inteligencia Artificial (IA) se ha desarrollado a partir de puntos de vista optimistas y casi irreflexivos. Probablemente, este hecho ha permitido los increíbles resultados que vemos hoy en día, después de aproximadamente 70 años de su inicio. Entre los años 50 y 60, el campo de la IA pasó del escepticismo total respecto a lo que podían hacer las máquinas al descubrimiento de que podían hacer mucho más de lo que sus programas les dictaban, lo que llevó a predicciones desproporcionadas sobre las posibilidades. Estas predicciones sobre la capacidad futura de la IA sucederían continuamente a lo largo de los años, entre los altos de entusiasmo y bajos de pesimismo cuando no se cumplían. Incluso ahora, es visible el patrón de promesas maravillosas y, aunque es prudente tener cautela considerando lo alarmante que ha sido la discusión entorno a la IA en su historia, también es necesario admitir su amplia influencia en todos los sistemas que sustentan el mundo tal y como lo conocemos y, por lo tanto, cuestionarse cómo ha llegado a ser.

Durante el debate de Lighthill en 1973, los expertos en el campo de la IA deliberaban sobre las promesas de este campo y la posibilidad de que el “robot de propósito general fuera un espejismo“. Aunque las afirmaciones que apoyaban lo anterior se basaban principalmente en la incapacidad de la IA en aquel momento para hacer frente al rápido crecimiento de la complejidad de los problemas (definida como explosión combinatoria), ninguno de ellos prestó atención a cómo estaban definiendo general como sinónimo de universal. Los sistemas de IA y el pensamiento que los sustenta fueron definidos y desarrollados principalmente por hombres que formaban parte de universidades de élite en países del norte global; en el debate de Lighthill no participó ni una sola mujer.

Aunque tras los argumentos de la discusión de Lighthill, la perspectiva de la IA como campo prometedor se volvió negativa y, con el tiempo, provocó el fin del apoyo financiero a la mayoría de los investigadores del área, a principios de los 80 casi todas las grandes corporaciones estadounidenses tenían su propio grupo de IA, y hubo varios esfuerzos hacia su investigación. Hacia 1987, se produjo un cambio de enfoque que integró resultados experimentales en lugar de afirmaciones filosóficas. A partir de entonces, la IA empezó a tener un desarrollo más amplio. Aunque lo anterior significó varios avances como se mencionó antes, sostengo que no tener una filosofía clara, o al menos no reconocer las limitaciones de la que subyace al desarrollo de la IA, también ha llevado a lo que parecen ser callejones sin salida; reproducción de la discriminación en los sistemas de IA, profundización de las desigualdades a su alrededor, entre otros problemas notorios hoy en día. La posibilidad de tener resultados sin pensar en el punto de vista filosófico bajo el que se logran estos resultados llevó a la “articulación de las ciencias de lo artificial a tener como sujeto/objeto central la figura universal del hombre” (p. 141).

Feminismos y pensamiento descolonial como parte de la pluriversalidad

Si el error en el desarrollo de la IA hasta ahora ha sido considerar como universal la figura del hombre blanco y heterosexual, un enfoque pluriversal podría permitir enmendar ese error. La pluriversalidad es la noción de que en este mundo debe haber lugar para que coexistan muchos mundos. Tiene sus raíces en el movimiento zapatista de México, y apuesta por lo universal como algo que no puede definirse desde una perspectiva estrecha y limitada; “lo universal sólo puede ser pluriversal“, porque “reconoce y apoya un radio más amplio de necesidades sociopolíticas, ecológicas, culturales y económicas” (p. 672). A mi modo de ver, este concepto engloba muchas otras visiones que quiero retratar como los imaginarios que la IA podría haber considerado como filosofías y teorías de base en los últimos 20 años y que son necesarios hoy para desarrollar las soluciones justas e inclusivas que se necesitan.

En relación con las teorías feministas, el tecnofeminismo y el xenofeminismo se articulan con visión pluriversal a través de la necesidad de reconocer las realidades materiales de la producción tecnológica (p. 324). Uno de los objetivos del tecnofeminismo, que se enmarca en los Estudios de Ciencia y Tecnología feministas, “es deshacer esa figura del ‘hombre’ como universal y los arreglos que sirve para mantener en su lugar” (p. 141). El xenofeminismo va más allá, y postula el reconocimiento de los otros desde una interseccionalidad, que se centra en pensar cómo los diferentes aspectos de la identidad de una persona (como su género, raza y sexualidad) afectan sus experiencias en la sociedad. El manifiesto xenofeminista especifica que entender cómo estos aspectos de la identidad se solapan e interactúan entre sí no es un universal que pueda imponerse desde arriba, sino que se construye desde abajo. Esto último se alinea con la pluriversalidad, ya que no se trata de “relativismo cultural, sino del entrelazamiento de varias cosmologías conectadas hoy en un diferencial de poder“. Ese diferencial de poder se define hoy en día por la mediación de las tecnologías basadas en la IA, entre otros sistemas.

Adicionalmente, las visiones decoloniales son la base principal de la pluriversalidad, ya que postulan que, históricamente, la tecnología ha sido utilizada para extender la modernidad patriarcal capitalista, los objetivos del mercado y/o del Estado, y para borrar las formas indígenas de ser, conocer y hacer (p. 11). Las muchas formas en las que el pensamiento colonial ha penetrado en los caminos del desarrollo tecnológico de la IA han sido discutidas por varios autores (Mohamed et al., 2020; Thatcher et al., 2016; Zuboff, 2019), pero el principal vínculo de ésta con la definición de lo universal como un uno y único se enmarca en la modernidad; como menciona Mignolo, “la lógica de la colonialidad es encubierta por la narrativa retórica de la modernidad”.

¿Para qué la pluriversalidad en la IA?

Cuestionarse por qué los puntos de vista mencionados no se tuvieron en cuenta durante la historia de la IA es engorroso. En general, porque no creo que este pensamiento sobre la posibilidad de la universalidad desde el punto de vista de unos pocos haya sido una concepción espontánea, al contrario, requirió que varios factores se alinearan para que ocurriera. Sin embargo, sí considero que hubo falta de reflexión durante el proceso. Pienso en el caso de Alison Adam, que guió el desarrollo de dos sistemas de IA feministas en 1993 (que no se mencionan en los principales libros de historia de la IA), con los que planteó preguntas que siguen siendo válidas: “¿Cómo se utiliza la IA y con qué fines? ¿Cómo representa la IA el conocimiento? ¿Qué conocimiento se utiliza en los sistemas de IA?”. (p. 3). Adam no sólo se cuestionaba esto, sino también su propio trabajo; después de desarrollar estos sistemas le preocupaba la posibilidad de que acabaran “replicando el orden social y las estructuras de poder que existen en la sociedad” (p. 5). Este tipo de esfuerzo reflexivo no ha estado presente en la historia de la IA hasta ahora.

La ausencia de reflexión sobre el propio trabajo puede ser una de las razones por las que algunas ideas fundacionales de la IA son falacias. Por ejemplo, la idea de que la inteligencia sólo implica al cerebro ha sido uno de los principales focos de desarrollo de la IA a lo largo de la historia. Sin embargo, se ha demostrado que la inteligencia es imposible sin un cuerpo; la cognición es corpórea. Melanie Mitchell menciona que “muchas otras disciplinas, como la psicología del desarrollo, aportan pruebas a favor de esta afirmación. Sin embargo, la investigación en IA ha ignorado la mayoría de estos resultados” (p. 7). El uso de una perspectiva pluriversal contemplaría esos conocimientos como un aporte en el contexto de la IA: no cambiar el mundo, sino las creencias y la comprensión del mundo, lo que cambiaría nuestra forma de vivir en el mundo.

La revisión y el cuestionamiento de la historia de la IA permiten explorar alternativas a las filosofías subyacentes a los sistemas de IA que han dado resultados cuestionables. En este caso, una de las bases discutibles de la IA es lo universal como definición posible desde el punto de vista de unos pocos. Unos pocos que eran principalmente hombres, blancos y con una formación académica específica. En este ensayo se argumentó cómo la noción de pluriversalidad, que engloba teorías tecnofeministas, xenofeministas y decoloniales, puede ser un enfoque apropiado para actuar contra los problemas actuales presentes en los sistemas de IA al permitir una mejor comprensión del mundo en el que están inmersos. 🤖