Herramienta de diseño feminista

Toma de decisiones racional para el diseño de interacción y de IA

Esta herramienta fue creada por Feminist Internet y Josie Young (ver la licencia). Me pareció muy útil, así que la reproduje aquí y la traduje al español a continuación.

El objetivo de la herramienta de diseño feminista es profundizar en tu forma de pensar sobre los valores que incorporarás en tu diseño a medida que lo creas, ya sea un chatbot, un agente impulsado por inteligencia artificial o cualquier otra cosa. Las preguntas en esta herramienta tienen como objetivo mejorar tu diseño (¡y hacerlo más feminista!) asegurando que no perpetúe, a sabiendas o sin saberlo, sesgos o desigualdades.

1. Empezando

👨‍👨‍👧‍👦Partes interesadas

La idea de «usuarios universales» se ha vuelto muy popular en el diseño de interacción. Significa diseñar para «todxs», lo que suena bien, pero en la práctica puede significar que las personas con necesidades específicas se pasen por alto en favor de los grupos mayoritarios. Esto se debe a que los diseñadores no siempre consideran a las personas que actualmente no están bien atendidas por los productos y servicios principales. Si resuelves para las personas que actualmente no están bien atendidas, es más probable que diseñes algo que funcione para todas. Un buen ejemplo de esto son las rampas para sillas de ruedas: hacen que los edificios sean accesibles para las personas que usan y no usan sillas de ruedas.

+ Además, el término «usuario» en sí mismo es problemático. Posiciona el uso de un producto o servicio por parte de una persona por encima de otros aspectos de su realidad vivida, y no reconoce su potencial para la participación activa en la producción de tecnologías. Preferimos el término «partes interesadas», que enfatiza la idea de que todos tenemos un interés en las tecnologías que usamos y somos participantes activos en la construcción de su significado y valor social. ¡Alternativamente, puedes simplemente usar ‘persona’ o ‘personas’!

Has considerado:

  1. En lugar de diseñar para un «usuario universal», ¿puedes identificar a una parte interesada que actualmente no está bien atendida y que podría beneficiarse de tu diseño? (Trata de no hacer suposiciones sobre lo que es beneficioso, en su lugar haz una investigación de buena calidad de las partes interesadas).
  2. ¿Cuáles podrían ser algunas de las necesidades, barreras y problemas específicos que enfrentan?
  3. ¿Cuáles son sus fortalezas y puntos de vista?
  4. ¿Qué métodos participativos diferentes tienes disponibles para que tu parte interesada pueda co-crear o tener aportes directos en el desarrollo de tu diseño? Algunos ejemplos de métodos participativos incluyen:
    • tener una parte interesada de la comunidad para la que está diseñando en tu equipo de diseño
    • asegurarte de que los miembros de la comunidad estén de acuerdo en que está abordando un problema relevante
    • asegurarte de que los miembros de la comunidad estén de acuerdo en que la elección de la tecnología se adapta a la solución que buscan
    • talleres de diseño de co-creación, retroalimentación y pruebas tempranas y continuas

💖Propósito

Las tecnologías se construyen por muchas razones y pueden tener muchas posibles consecuencias beneficiosas o perjudiciales para las personas. Esta herramienta trata de alentarte a diseñar tecnologías que mejoren, y no agraven, los resultados sociales, ambientales y económicos. Esto comienza definiendo el propósito de lo que quieres hacer y considerando si es beneficioso para el mundo.

Has considerado:

  1. ¿Tu diseño satisface una necesidad humana significativa o aborda una injusticia?
  2. ¿Cómo abordará tu diseño el/los problema/s experimentado/s por la parte interesada?
    Es posible que desees pensar en tus partes interesadas con más detalle para ayudarte:
  3. ¿Cuál es el problema que están tratando de superar?
  4. ¿Qué obstáculos les impiden superar el problema?

💡Contexto

La tecnología no se encuentra aislada de las dinámicas de poder políticas, sociales, económicas, culturales, tecnológicas, legales y ambientales. Por ejemplo, la tecnología de reconocimiento facial está siendo implementada actualmente por los servicios policiales en el contexto de una historia de discriminación policial hacia comunidades negras.

Has considerado:

  1. ¿Tienes una buena comprensión del contexto del que tu diseño será parte y las dinámicas de poder en juego dentro de él?
  2. ¿Entiendes las oportunidades y los desafíos para las diferentes partes interesadas dentro de este contexto?
  3. ¿Quién no está bien atendido en este contexto y por qué?
  4. ¿Tu diseño exacerba los problemas que otros están actualmente tratando de resolver en este contexto?

2. Dando un paso atrás

👁️Sesgos del equipo

Todxs venimos de lugares y experiencias que han dado forma a nuestro pensamiento y perspectivas, y tendemos a incorporar inconscientemente estas perspectivas en las cosas que hacemos. El riesgo de no reflexionar sobre esto es que tu diseño puede reforzar estereotipos negativos sobre grupos particulares de personas, lo que podría ser perjudicial para tus partes interesadas.

Tu equipo ha considerado:

  1. ¿Sus valores y posición en la sociedad, individual y colectivamente?
  2. ¿Cómo sus valores y posición podrían llevarles a elegir una opción sobre otra o a tener una perspectiva específica del mundo?
  3. ¿Cómo se relacionan sus valores y posición en la sociedad con las partes interesadas que su diseño busca involucrar?
  4. ¿Hay perspectivas adicionales que necesitan incorporar al proceso? ¿Cómo podrían hacer esto?

3. Entrando en el detalle

🤖Diseño y representación

La forma en la que se diseñan y representan los agentes de IA (chatbots, personajes de juegos, etc.) puede desafiar o reforzar los estereotipos. Por ejemplo, caracterizar a un bot de asesoramiento financiero como hombre podría reforzar el estereotipo de que los hombres son más competentes que las mujeres con el dinero. ¿Cómo planea representar o representar su diseño a sus partes interesadas?

Has considerado:

  1. ¿Qué tipo de carácter le darás a tu diseño?
  2. ¿Cómo podría la elección de tu personaje reforzar los estereotipos?
  3. ¿Cómo le recordará tu personaje a la parte interesada que es un robot?
  4. ¿Le asignarás un género a tu personaje? ¿Por qué? ¿De qué manera podría esto reforzar o cuestionar los estereotipos de género? ¿Has considerado un diseño sin género? ¿Qué posibilidades podría abrir esto?
  5. ¿De qué manera tus elecciones podrían incitar a las personas a comportarse de manera poco ética o con prejuicios?

💬Diseño conversacional

Dado que la conversación es probablemente la interfaz principal entre las partes interesadas y el diseño, el diálogo debe elaborarse cuidadosamente. Así es como decidirán si el diseño es efectivo y también cómo su diseño podría dañarlos o discriminarlos. Un enfoque feminista para el diseño de conversaciones significa utilizar un lenguaje e imágenes empáticos, inclusivos y accesibles, y brindar oportunidades para que las partes interesadas especifiquen cómo les gustaría que se dirigieran a ellas.

Has considerado:

  1. ¿Cómo puedes lograr que el diseño hable con una voz feminista? ¿Cuál es el tono de voz (física y metafóricamente)?
  2. ¿Qué palabras debe evitar el diseño (¿qué podría desencadenar o molestar?)
  3. ¿Hay palabras específicas para su parte interesada que necesita para asegurarse de que su diseño pueda entender?
  4. Si recibe abuso, ¿cómo responderá el diseño?
  5. ¿Qué dirá tu diseño cuando no entienda?
  6. ¿Cómo obtendrá retroalimentación sobre si la conversación es apropiada para sus partes interesadas?
  7. ¿Cómo te gustaría que se dirigiera a la parte interesada?

🗄️Data

Los sesgos en los conjuntos de datos y las técnicas de IA que éstos potencian (como el aprendizaje automático) pueden afectar negativamente el funcionamiento de tu diseño e impactar a las partes interesadas. Es importante monitorear el sesgo de los datos durante todo el ciclo de vida del diseño.

Has considerado:

  1. ¿Cómo recopilarás y tratarás los datos durante el desarrollo de tu diseño?
  2. ¿Eres consciente de cómo se puede manifestar el sesgo en tus datos de entrenamiento?
  3. ¿Sabes cómo se puede manifestar el sesgo en las técnicas de IA que impulsan tu diseño (como el aprendizaje automático)?
  4. ¿Cómo podrían utilizarse los datos y la retroalimentación generados por las partes interesadas para mejorar el diseño?
  5. ¿Aprenderá el diseño del comportamiento de las partes interesadas y, de ser así, estás asumiendo que el diseño lo entenderá correctamente?
  6. ¿Qué mecanismos o características podrían hacer que estos supuestos sean visibles para las partes interesadas y empoderarles para cambiar los supuestos si así lo desean?
  7. ¿Cómo protegerás los datos de las partes interesadas?

📐Arquitectura

La construcción de dispositivos conectados se lleva a cabo dentro de un ecosistema físico complejo de infraestructura física, hardware, software y trabajo humano. A menudo, este ecosistema está oculto y puede ser difícil rastrear la explotación o sus efectos negativos. Si bien no siempre es posible tener una arquitectura totalmente feminista, es importante considerar los pasos que puedes seguir para minimizar el daño y justificar tus elecciones.

Has considerado:

  1. ¿Qué tipo de arquitectura técnica y capacidades utilizarás? Por ejemplo, ¿los estás comprando directamente de empresas como Amazon o utilizando plataformas de código abierto? ¿Eres consciente de las implicaciones éticas y feministas de tu elección?
  2. ¿Cómo minimizarás la huella de carbono y climática de tu diseño? Por ejemplo, el uso excesivo de datos a través de cosas como la transmisión de video puede generar altas huellas de carbono.
  3. ¿Dónde podría existir mano de obra no remunerada o explotada en la cadena de producción/suministro de la tecnología que estás utilizando?
  4. ¿El impacto de la IA y la automatización en el servicio que tu diseño pretende proporcionar hará que algunos trabajos sean redundantes o de menor categoría?

La idea de esta herramienta es revisar las preguntas de cada sección y responderlas como equipo en el proceso de diseño, para ello, puedes usar herramientas colaborativas como Mural o Miro. Lo estoy usando en un pequeño proyecto con unas amigas y nos han gustado las reflexiones resultantes del desarrollo de la guía. ¡Espero que esta guía te sirva también! 🤓

Una respuesta a “Herramienta de diseño feminista”

  1. […] This tool was created by Feminist Internet and Josie Young (see the license). I found it useful, so I reproduced it below. Also, I translated it into Spanish here. […]

    Me gusta

Deja una respuesta

Introduce tus datos o haz clic en un icono para iniciar sesión:

Logo de WordPress.com

Estás comentando usando tu cuenta de WordPress.com. Salir /  Cambiar )

Imagen de Twitter

Estás comentando usando tu cuenta de Twitter. Salir /  Cambiar )

Foto de Facebook

Estás comentando usando tu cuenta de Facebook. Salir /  Cambiar )

Conectando a %s

A %d blogueros les gusta esto: