Seguimos con el capítulo 31 de “Inteligencia artificial generativa para gente real. Tu brújula para usarla bien”, una serie semanal para la Cadena Ser, en «A vivir Cantabria». ¿Te ha pasado alguna vez que has visto un vídeo en WhatsApp o redes sociales y, al menos durante unos segundos, te has creído por completo lo que decía un famoso o un político? No te preocupes, no eres el único. De hecho, si tardas solo diez segundos en sospechar porque notas que la boca va un pelín desincronizada (como en las películas dobladas de los ochenta9, estás bastante por encima de la media. La mayoría de la gente ni se entera. La nueva batalla por la confianza digital.
El verdadero problema nos golpea la puerta: ¿qué pasará el día en que no se note absolutamente nada? Ese día ya casi ha llegado. Por eso, en internet ya no basta con hacernos la clásica pregunta de «¿esto es falso?». Ahora estamos obligados a dar un paso más allá y preguntarnos: ¿sé de dónde viene esto, quién lo ha hecho y si alguien lo ha tocado por el camino? Es el inicio de una nueva era en la que nos toca aprender a leer procedencias.
El capítulo de hoy se puede escuchar en el programa aquí, a partir del minuto 22:00: https://cadenaser.com/audio/ser_cantabria_avivircantabria_20260621_130507_140000/
Europa le pone matrícula a la inteligencia artificial
Ante este panorama, Bruselas se ha puesto seria. Recientemente se ha publicado un nuevo código de buenas prácticas destinado a marcar, detectar y etiquetar todo el contenido creado o manipulado con inteligencia artificial (fotos, vídeos, audios, textos o deepfakes).
Es muy importante aclarar un matiz legal: este Código no es una ley nueva. Se trata de una guía de buenas prácticas diseñada para cumplir mejor con el Reglamento Europeo de Inteligencia Artificial, cuyas obligaciones de transparencia se aplicarán de forma estricta a partir del 2 de agosto. Mientras que firmar el código de buenas prácticas es un acto voluntario para las empresas, cumplir con las obligaciones de transparencia de la ley es totalmente obligatorio. En resumen: Europa quiere ponerle matrícula a la IA.
Esta estrategia de regulación se resume en tres capas muy sencillas:
- Primera capa: Si hablas con una máquina, tienes derecho a saberlo. Un chatbot de atención al cliente no puede hacerse pasar por una persona real de carne y hueso.
- Segunda capa: Los proveedores de sistemas de IA generativa tendrán que facilitar que sus contenidos salgan marcados de origen en un formato que puedan leer las máquinas.
- Tercera capa: Los deepfakes y ciertos textos que afecten a asuntos de interés público tendrán que llevar obligatoriamente una etiqueta que sea perfectamente visible para los usuarios.
¿Significa esto que Europa quiere censurar o prohibir la creatividad? Todo lo contrario. Nadie te prohíbe crear nada. Es exactamente igual que la etiqueta de ingredientes de un bollo: nadie te impide comértelo, pero tienes derecho a saber qué lleva. En el periodismo tradicional ya sabemos si una foto es de archivo, si es una recreación o si es una infografía; lo que hace Europa es trasladar esa misma lógica a todo el ecosistema digital para que dejemos de navegar a ciegas.
El chip del perro y el cartel visible: ¿Cómo se marca la IA?
Para entender cómo se va a marcar un contenido hay que diferenciar dos niveles técnicos que suelen mezclarse:
1. La marca técnica (invisible)
Funciona de forma interna. Son metadatos, marcas de agua digitales o señales escondidas dentro del propio archivo que los verificadores y las plataformas pueden leer mediante sistemas informáticos. Es como el chip de un perro: tú no lo ves a simple vista, pero el veterinario lo escanea y obtiene toda la información.
2. La etiqueta visible
Es el cartelito que entiende cualquier persona al mirar la pantalla de su móvil y que reza: «Contenido generado con IA». Europa está preparando incluso un juego de iconos comunes para que esta señalización sea idéntica en toda la Unión y la reconozcas de un vistazo.
Ambas medidas son complementarias y necesarias. La marca invisible permite rastrear el origen de un archivo aunque dé veinte vueltas por internet, mientras que la etiqueta visible te avisa a ti, de forma directa, en el momento del consumo.
En este sentido, ya existe un estándar técnico real y muy prometedor llamado C2PA, que propone las denominadas «credenciales de contenido». Esto funciona como una auténtica tabla nutricional digital que detalla quién creó esa imagen, con qué herramienta específica y qué modificaciones ha sufrido a lo largo del camino. Eso sí, debemos ser prudentes: que una imagen no tenga credenciales no significa automáticamente que sea falsa, solo significa que tenemos menos pistas.
Tolerancia cero: la prohibición de las «nudifier apps»
Dentro de todo este paquete de regulación, hay un capítulo especialmente serio que aborda una realidad muy preocupante: las llamadas nudifier apps. Estas herramientas cogen una foto normal de cualquier persona (una compañera de trabajo, una vecina o una menor en un instituto) y fabrican una imagen sexual falsa sin su absoluto consentimiento.
Hasta ahora, la respuesta legal estaba muy fragmentada según el país, el caso o la forma de difusión. Europa va a cerrar esta zona gris de manera contundente: se prohíben directamente los sistemas diseñados para crear desnudos falsos o material íntimo sin consentimiento.
Antes, falsificar una imagen con esa precisión requería conocimientos técnicos avanzados y horas de edición; ahora, lamentablemente, algunas herramientas lo habían convertido en un simple botón. Cuando hacer daño se vuelve tan fácil, la ley tiene que ser igual de contundente. El acuerdo definitivo entre el Parlamento y el Consejo se cerró el pasado 7 de mayo y la prohibición entrará en vigor el próximo 2 de diciembre.
El gran acelerador de esta firmeza fue un escándalo muy concreto: el protagonizado por Grok (la IA de la red social X), que estuvo generando imágenes sexualizadas de mujeres reales sin su consentimiento. La indignación fue tal que 57 eurodiputados de todos los colores políticos firmaron juntos de inmediato para exigir la prohibición. A partir de diciembre, quien desarrolle o use estos sistemas en suelo europeo se enfrentará a duras sanciones.
La cruda realidad: ¿Por qué las etiquetas no son una varita mágica?
A pesar de las buenas intenciones de las normativas, debemos ser honestos: las etiquetas ayudan, pero no van a solucionar el problema por sí solas. La ciencia y los datos nos dan tres motivos de peso para no confiarnos:
El ojo humano falla estrepitosamente
Un estudio internacional realizado por el centro CISPA con participantes de Alemania, China y Estados Unidos demostró que muchísima gente clasifica como humano el contenido que ha sido íntegramente generado por una IA, ya sea en formato de texto, audio o imagen. El mito de «a mí no me la cuelan» es una fantasía estadística. Detectamos los engaños poco mejor que lanzando una moneda al aire.
Los detectores automáticos fallan en el «barro» de internet
Se suele pensar que la solución es poner a máquinas a cazar máquinas, pero no es tan fácil. El estudio Deepfake-Eval-2024 hizo un experimento muy inteligente: en lugar de probar los detectores en un entorno controlado de laboratorio, recopiló deepfakes reales que circulaban de forma directa por redes sociales (45 horas de vídeo, más de 50 de audio y casi 2000 imágenes). ¿El resultado? Los detectores automáticos que parecían infalibles en los bancos de pruebas clásicos perdieron muchísima eficacia al enfrentarse al contenido real de las redes. El laboratorio es una cosa y el barro de internet es otra.
La trazabilidad técnica es frágil
Una marca de agua digital se puede intentar borrar de forma maliciosa y un metadato interno se pierde con algo tan sencillo como hacer una captura de pantalla. Por lo tanto, etiquetar mejora sustancialmente nuestro punto de partida y nos da señales valiosas, pero son señales imperfectas. Es como el cinturón de seguridad: no evita todos los accidentes, pero es un invento imprescindible.
El peligro real ya no es un meme
Para comprobar que esto no es una teoría de ciencia ficción, solo hay que mirar lo que le ocurrió recientemente al mismísimo Banco de Inglaterra. La institución tuvo que salir públicamente a alertar sobre unos vídeos deepfake que circulaban en la red social X, donde aparecía su gobernador, Andrew Bailey, enfrentándose físicamente a un político. Todo era falso de arriba a abajo. El propio Bailey denunció que los anuncios falsos imitando a bancos centrales se están disparando.
Esto demuestra que los deepfakes han dejado de ser simples memes divertidos de Tom Cruise. Ahora son herramientas de fraude financiero a gran escala, de suplantación de autoridad y de manipulación emocional. Cuando se falsifica al gobernador de un banco central para colarte una estafa de inversión, queda claro que el juego ha cambiado por completo de liga.
Tu caja de herramientas de bolsillo para sobrevivir en internet
Ante este escenario, la UNESCO insiste de forma constante en la necesidad de la alfabetización mediática: el criterio final lo sigues teniendo tú. Aquí tienes cuatro pautas fundamentales para aplicar en tu día a día:
- Gestiona la indignación: Si un contenido te provoca un enfado o un impacto emocional inmediato, detente y haz una pausa antes de compartir. El cabreo instantáneo es el motor principal que busca quien fabrica un bulo para que lo difundas.
- Rastrea la fuente: Mira siempre quién publica el contenido originalmente. Casi nunca es la persona que te lo acaba de reenviar por el grupo de WhatsApp.
- Acude a los verificadores: Comprueba de forma activa si algún medio de comunicación fiable o agencia de verificación ha analizado y desmentido la noticia.
- Verifica las emergencias por otros canales: Si recibes un audio o un vídeo (incluso con la voz de un familiar o un hijo) donde se te pide dinero, datos personales o algo extremadamente urgente, no respondas por ahí. Cuelga y llama tú directamente al número de teléfono de siempre para comprobarlo.
Y recuerda dos matices esenciales para cuando empieces a ver estas etiquetas de forma habitual: que un contenido lleve el sello de «hecho con IA» no significa que sea mentira (puede ser una parodia legítima, una ilustración o una recreación educativa); y al revés, la ausencia de etiqueta no garantiza absolutamente nada.
Durante siglos nos enseñaron a leer letras sobre papel. Después tuvimos que adaptarnos a leer de forma crítica las pantallas. Ahora, nos toca dar el paso definitivo y aprender a leer procedencias: quién ha hecho esto, con qué herramienta lo ha fabricado, con qué intención lo difunde y qué pruebas reales tengo de que sea verdad. Es la única asignatura obligatoria para no naufragar en internet.
Fuentes y enlaces de interés
· Comisión Europea — Código de buenas prácticas sobre marcado y etiquetado de contenidos generados por IA (página oficial)
https://digital-strategy.ec.europa.eu/es/policies/code-practice-ai-generated-content
· Reglamento (UE) 2024/1689 — Ley de Inteligencia Artificial (artículo 50, obligaciones de transparencia) — EUR-Lex
https://eur-lex.europa.eu/eli/reg/2024/1689/oj
· «AI Act: Parliament and Council reach agreement to amend rules on artificial intelligence» (prohibición de las nudifier apps, acuerdo del 7 de mayo de 2026) — EUNews https://www.eunews.it/en/2026/05/07/parliament-and-the-council-reach-agreement-on-the-amendment-to-the-ai-act-ban-on-sexual-deepfakes-finalised/
· «Así es cómo planea la UE prohibir los ‘deepfakes’ sexuales y sus apps» — Euronews https://es.euronews.com/my-europe/2026/05/19/asi-es-como-planea-la-ue-prohibir-los-deepfakes-sexuales-y-sus-apps
· C2PA — Coalition for Content Provenance and Authenticity (Content Credentials)
https://c2pa.org
· «Deepfake-Eval-2024: A Multi-Modal In-the-Wild Benchmark of Deepfakes Circulated in 2024» — arXiv
https://arxiv.org/abs/2503.02857
· «A Representative Study on Human Detection of Artificially Generated Media Across Countries» — CISPA / Ruhr-Universität Bochum (estudio con 3.002 participantes de Alemania, China y EE. UU.)
https://arxiv.org/abs/2312.05976
(Nota de prensa de CISPA: https://cispa.de/en/holz-ai-generated-media)
· UNESCO — Media and Information Literacy (alfabetización mediática e informacional)
https://www.unesco.org/en/media-information-literacy
· «Bank of England Chief Andrew Bailey Shown Fighting Nigel Farage in X Deepfakes» — Bloomberg https://www.bloomberg.com/news/articles/2026-06-08/boe-raises-concern-over-x-posts-showing-fake-farage-bailey-fight
¡Hasta la semana que viene!