Seguimos con el capítulo 23 de “Inteligencia artificial generativa para gente real. Tu brújula para usarla bien”, una serie semanal para la Cadena Ser, en «A vivir Cantabria».
A menudo escucho que la inteligencia artificial es más objetiva que nosotros porque, al ser una máquina, no tiene «días malos» ni prejuicios. Sin embargo, la realidad es muy distinta. Hace poco, un amigo me confesó que se fiaba más de la IA generativa que de una persona precisamente por esa supuesta imparcialidad. Eso me hizo darme cuenta de que necesitamos hablar urgentemente de los sesgos de la IA. La IA no tiene prejuicios propios: refleja los nuestros. Es un espejo que nos devuelve lo que somos como sociedad, pero a menudo es un espejo deformante que exagera nuestras peores facetas.
El capítulo de hoy se puede escuchar en el programa aquí, a partir del minuto 32:07: https://cadenaser.com/audio/ser_cantabria_avivircantabria_20260426_130515_140000/
¿Qué es exactamente un sesgo en la IA?
Un sesgo es una distorsión sistemática. Ocurre cuando la tecnología favorece a un grupo o penaliza a otro de forma constante y sin una razón objetiva. La máquina no odia ni tiene intenciones maliciosas; simplemente aprende de los datos que le proporcionamos (textos, fotos y artículos de internet).
Si durante décadas las fotos de médicos en la red han sido mayoritariamente de hombres blancos, la IA asocia estadísticamente «médico» con «hombre blanco». El problema es que no solo repite el error, sino que lo amplifica.
El efecto lupa: Cuando la realidad se distorsiona
Un estudio de Bloomberg con Stable Diffusion reveló datos preocupantes sobre esta amplificación:
- Trabajos mal pagados: En EE. UU., el 70% de los trabajadores de comida rápida son blancos. Sin embargo, la IA generó imágenes donde el 70% eran personas de piel oscura. Invirtió la realidad para encajar en un estereotipo de precariedad.
- Roles de poder: Al pedir imágenes de directores ejecutivos, abogados o jueces, más del 80% eran hombres de piel clara. En los puestos de prestigio, la IA tiende a «borrar» a las mujeres y a las minorías.
Los chatbots también viven en los años cincuenta
No es solo una cuestión de imágenes. Los modelos de texto como ChatGPT o Gemini también arrastran estos prejuicios. Un estudio de la Universidad Técnica de Dinamarca analizó cientos de respuestas sobre profesiones y hobbies:
- Profesiones: Las mujeres eran sistemáticamente asociadas a diseñadoras gráficas, enfermeras o diseñadoras de moda. Los hombres, a ingenieros de software, arquitectos y directivos.
- Lectura y ocio: La diferencia en recomendaciones de libros para adolescentes de 14 años fue asombrosa. Harry Potter fue recomendado 22 veces de cada 30 a chicos, pero cero veces a las chicas. A ellas se les sugerían libros como Ana de las Tejas Verdes o Yo soy Malala, mientras que a ellos se les ofrecía aventura épica como El Hobbit o Eragon.
Lo más curioso es que, al comparar esto con recomendaciones de bibliotecarios humanos reales, las personas fuimos mucho menos estereotipadas. La IA encasilla más que nosotros.
La invisibilidad de lo «neutro» y el fallo de Google
Otro problema detectado (y documentado en la revista Nature en 2025) es la homogeneización racial. La IA suele dibujar a personas de una misma raza como si fueran clones. Por ejemplo, los hombres de Oriente Medio suelen aparecer siempre con barba y ropa tradicional, ignorando su individualidad.
Además, se ha comprobado que, para la IA, lo neutro es masculino por defecto. Si no especificas el género en un «prompt», los resultados se parecen mucho más a los masculinos que a los femeninos.
Intentar corregir esto no es fácil. En febrero de 2024, Google Gemini intentó forzar la diversidad y acabó en el otro extremo: generaba «padres fundadores» de EE. UU. multirraciales o soldados nazis de 1943 con una diversidad étnica históricamente imposible. Pasaron del sesgo al exceso de corrección, lo que obligó a suspender la generación de imágenes durante semanas.
Consecuencias reales en el mundo laboral
Esto no es solo una curiosidad tecnológica; tiene efectos directos en la vida de las personas:
- Amazon y la selección de personal: Desarrollaron una IA para filtrar currículos entrenada con datos de diez años. Como la mayoría de contratados habían sido hombres, la IA penalizaba cualquier currículo que incluyera la palabra «mujer» (por ejemplo, «capitana del club de ajedrez femenino»). Tuvieron que descartarla.
- Nombres y etnia: Bloomberg demostró que, ante currículos idénticos, la IA puntuaba peor a aquellos con nombres asociados a personas afroamericanas para puestos de analista financiero.
La IA no es objetiva. Su peligro radica en que aplica sus sesgos a una escala y velocidad masivas, respaldada por una falsa autoridad tecnológica difícil de cuestionar.
¿Hay esperanza? Así estamos en 2026
Afortunadamente, estamos mejorando, aunque el camino es lento. Según datos de octubre de 2025:
- GPT-5 ha reducido un 30% el sesgo político respecto a GPT-4o.
- En representación de género, Google Imagen ha logrado casi la paridad (50%) en imágenes de líderes hospitalarios, superando a DALL-E (86% hombres) y Midjourney (69% hombres).
- Sin embargo, en sesgo racial, todos los modelos siguen suspendiendo y sobrerrepresentando a personas blancas en roles de liderazgo.
A nivel legal, Europa ya cuenta con el AI Act, y países como Corea del Sur y Japón han aprobado leyes en 2025 y 2026 que exigen auditorías de equidad y prohíben el entrenamiento con datos sesgados.
Tu papel como usuario: El reto de la semana
Como usuarios, tenemos más poder del que creemos. No debemos dejarnos pillar desprevenidos. Por eso, te propongo un ejercicio revelador que puedes hacer hoy mismo en tu generador de imágenes favorito:
- Pide: «Dibújame a alguien que se dedica a la ciencia».
- Pide: «Dibújame a alguien que limpia casas».
- Compara los resultados y observa si se repiten los estereotipos de género o raza.
También puedes pedirle que escriba una historia sobre un niño y una niña eligiendo carrera y ver qué futuro les asigna. La IA puede ser parte del problema, pero también de la solución: un estudio en Nature demostró que exponernos a imágenes inclusivas generadas por IA ayuda a reducir nuestros propios prejuicios humanos.
¿Qué resultados has obtenido tú? Comparte tus hallazgos en los comentarios o a través de nuestras redes. Sigamos construyendo una tecnología que, en lugar de repetir nuestros errores, nos ayude a ser mejores.
Para profundizar más, aquí os dejo algunas fuentes que he utilizado en este capítulo:
Sesgos en generación de imágenes — Estudio Bloomberg / Stable Diffusion
Bloomberg — «Generative AI Takes Stereotypes and Bias From Bad to Worse»
https://www.bloomberg.com/graphics/2023-generative-ai-bias/
Nature / Scientific Reports — «AI-generated faces influence gender stereotypes and racial homogenization» (2025)
https://www.nature.com/articles/s41598-025-99623-3
Brookings Institution — «Rendering misrepresentation: Diversity failures in AI image generation»
https://www.brookings.edu/articles/rendering-misrepresentation-diversity-failures-in-ai-image-generation/
Sesgos de ChatGPT por nombre, género y raza
MIT Technology Review en español — «ChatGPT discrimina por raza y género según el nombre de usuario»
https://technologyreview.es/article/chatgpt-discrimina-por-raza-y-genero-segun-el-nombre-de-usuario-en-el-01-de-las-interacciones/
IA+Igual — «Género y raza: los sesgos que ChatGPT incorpora de serie»
https://iamasigual.eu/genero-raza-sesgos-que-chatgpt-incorpora-de-serie/
Controversia Google Gemini con imágenes de personas (febrero 2024)
NPR — «Google CEO Pichai says Gemini’s AI image results ‘offended our users’»
https://www.npr.org/2024/02/28/1234532775/google-gemini-offended-users-images-race
Axios — «Google pauses Gemini’s AI image generation after diversity controversies»
https://www.axios.com/2024/02/23/google-gemini-images-stereotypes-controversy
Amazon: herramienta de selección sesgada contra mujeres
Reuters (vía MIT Technology Review) — «Amazon ditched AI recruitment software because it was biased against women»
https://www.technologyreview.com/2018/10/10/139858/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/
ACLU — «Why Amazon’s Automated Hiring Tool Discriminated Against Women»
https://www.aclu.org/news/womens-rights/why-amazons-automated-hiring-tool-discriminated-against
Algoritmo COMPAS: sesgo racial en justicia penal
ProPublica — «Machine Bias»
https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing
Modelos de texto
OpenAI (octubre 2025) — GPT-5 muestra un 30% menos de sesgo político que GPT-4o
https://dataconomy.com/2025/10/10/openai-says-its-new-gpt-5-models-are-30-percent-less-politically-biased/
WinBuzzer — «OpenAI Claims 30% Reduction in Political Bias for GPT-5»
https://winbuzzer.com/2025/10/10/openai-claims-30-reduction-in-political-bias-for-gpt-5-releases-new-measurement-framework-xcxwbn/
Mejoras en sesgos: generación de imágenes
ScienceDirect (2025) — «Gender Disparities in AI-Generated Images of Hospital Leadership» (comparativa DALL-E / Midjourney / Imagen)
https://www.sciencedirect.com/science/article/pii/S2949761225000252
MDPI Social Sciences — «Perpetuation of Gender Bias in Visual Representation of Professions in DALL·E and Bing Image Creator»
https://www.mdpi.com/2076-0760/13/5/250
Mejoras en sesgos: reconocimiento facial
Security Industry Association — «What Science Really Says About Facial Recognition Accuracy and Bias Concerns» (datos NIST 2024)
https://www.securityindustry.org/2022/07/23/what-science-really-says-about-facial-recognition-accuracy-and-bias-concerns/
AndOpen — «The State of Facial Recognition Technology in 2025»
https://andopen.co.kr/the-state-of-facial-recognition-technology-in-2025-accuracy-performance-and-future-trends/
University at Buffalo — «UB computer science professor weighs in on bias in facial recognition software»
https://www.buffalo.edu/news/tipsheets/2024/ub-ai-expert-facial-recognition-expert-ifeoma-nwogu.html
Regulación internacional de sesgos en IA
AIhub (marzo 2026) — «Top AI ethics and policy issues of 2025 and what to expect in 2026»
https://aihub.org/2026/03/04/top-ai-ethics-and-policy-issues-of-2025-and-what-to-expect-in-2026/
AIMultiple (enero 2026) — «Bias in AI: Examples and 6 Ways to Fix it in 2026»
https://research.aimultiple.com/ai-bias/
¡Hasta la semana que viene!