🎤 Charla

PROMPT INJECTION SOCIAL: CÓMO SE CUELA EL GÉNERO EN UNA IA.

Los modelos de IA ya no fallan la prueba obvia: dos CVs idénticos, uno con nombre de mujer y otro de hombre, reciben la misma calificación. ¿Problema resuelto? No necesariamente. El sesgo puede esconderse donde no lo buscamos: en verbos como “apoyé” frente a “lideré”, en una pausa laboral por cuidados o en los adjetivos que el modelo elige para describir a cada persona. En esta charla construimos en vivo un evaluador de CVs con Amazon Bedrock y lo sometemos a pruebas contrafactuales cada vez más finas: nombre, estilo de escritura, trayectoria y lenguaje generado. Medimos las diferencias, discutimos de dónde vienen y aplicamos mitigaciones concretas: rúbricas explícitas, normalización del texto y pruebas automáticas como requisito antes de desplegar. Te llevas un método reproducible para auditar tus propias apps de IA y una nueva forma de leer tu propio CV. Porque un sistema solo es tan justo como las preguntas que alguien se tomó el tiempo de hacerle.