Agrupamiento:

Grupos de 2-4 personas

Imagina que sois un equipo de desarrolladores que está creando una IA capaz de predecir la futura profesión de una persona a partir de su fotografía. El sistema se entrena con miles de imágenes extraídas de Internet etiquetadas como:

• “medicina”
• “enfermería”
• “ingeniería”
• “magisterio”
• “mecánica”
• “futbolista”
• etc.

El problema es que las imágenes disponibles en Internet pueden reflejar estereotipos sociales. Si la mayoría de imágenes de “enfermería” son mujeres y la mayoría de imágenes de “ingeniería” son hombres, la IA aprenderá ese patrón. Aunque no le digamos nada sobre género.

---

Descripción de la Tarea

1️⃣  Investigación de datos

• Buscad en Google Imágenes distintas profesiones.
• Observad qué género aparece mayoritariamente en cada caso.
• En un documento anotad:
  • Profesión
  • Género predominante con porcentaje aproximado
    

---

2️⃣  Análisis técnico

En el mismo documento responded:

• ¿Por qué la IA podría aprender estos estereotipos?
  
• ¿La IA es “machista” o simplemente reproduce patrones?

Investiga los siguientes conceptos:

• ¿Qué es un sesgo algorítmico?
• ¿Qué es la discriminación algorítmica?

---

3️⃣  Propuesta de mejora como desarrolladores

Proponed medidas concretas:

• ¿Cómo podríais mejorar el modelo para evitar los sesgos?
  • ¿Equilibraríais el el conjunto de datos?
  • ¿Añadiríais controles de revisión humana?
    
  • ¿Haríais auditorías éticas del sistema?

Justificad vuestras decisiones.

---