Seguimos con el capítulo 28 de “Inteligencia artificial generativa para gente real. Tu brújula para usarla bien”, una serie semanal para la Cadena Ser, en «A vivir Cantabria». Lo que ocurrió el pasado lunes 25 de mayo eleva el debate a una dimensión histórica: el Papa León XIV presentó una encíclica de 110 páginas dedicada, de principio a fin, a la inteligencia artificial.
Y creedme, cuando desde el Vaticano dedican su documento más importante a los algoritmos, es porque estamos ante un punto de inflexión para la humanidad.
El capítulo de hoy se puede escuchar en el programa aquí, a partir del minuto xx:xx:
Un tema que define nuestra época
Los papas no escriben encíclicas sobre cualquier cosa; las reservan para los asuntos que marcan una era. León XIII publicó la famosísima Rerum Novarum en 1891 para abordar la revolución industrial. Juan XXIII escribió Pacem in Terris en 1963, cuando la crisis de los misiles de Cuba casi nos lleva a la guerra nuclear. Años después, Francisco publicó Laudato Si’ sobre la crisis ecológica y nuestra casa común.
Ahora, el recién elegido León XIV centra su atención en el mayor desafío moral de nuestro tiempo bajo un título muy revelador: Carta encíclica Magnifica Humanitas del Santo Padre León XIV sobre la custodia de la persona humana en el tiempo de la inteligencia artificial.
Como veis, el foco no está en la máquina, sino en la persona. No es un manual de tecnología, sino una lectura humanista, social y política que se pregunta qué le hace la IA a nuestra democracia, a nuestro trabajo y a la verdad.
Una imagen que vale más que mil palabras: el ateo y el Papa
Lo curioso es que, aunque usamos la IA en la intimidad, nos volvemos recelosos cuando entra en el sistema público. La población Durante la presentación oficial del texto, hubo un detalle fascinante. Sentado entre cardenales y teólogos se encontraba Christopher Olah, de 33 años, ateo confeso y cofundador de Anthropic (la empresa desarrolladora del potentísimo modelo Claude).
¿Qué hacía allí uno de los grandes creadores de la IA? Sus palabras fueron muy sinceras: admitió que las empresas de este sector operan bajo inmensas presiones comerciales, geopolíticas y de ambición personal, dinámicas que muchas veces chocan con la ética. Por eso, confesó que necesitan voces externas que no estén metidas en esa rueda; alguien que actúe como un contrapeso moral y les diga las verdades incómodas.
¿Construimos Babel o reconstruimos Jerusalén?
Para ayudarnos a entender el encrucijada en la que estamos, el Papa utiliza dos potentes metáforas bíblicas:
- La torre de Babel: Representa el proyecto tecnológico arrogante. Una iniciativa movida por el orgullo, el afán de dominio y la uniformidad (un solo idioma), que termina en el colapso de la comunicación y en la dispersión.
- La reconstrucción de Jerusalén: Extraída del libro de Nehemías (siglo V a.C.), cuenta cómo una ciudad en ruinas vuelve a levantarse, no por un plan impuesto desde arriba, sino gracias a la cooperación. Se convoca a las familias y cada una asume su tramo de muralla, coordinándose para sacar el proyecto adelante.
La pregunta que nos lanza el documento es clara: ¿Estamos usando la IA para uniformar, concentrar el poder y tratar a las personas como simples datos (Babel)? ¿O la estamos utilizando para conectar, cuidar y cooperar (Jerusalén)?
El mito de la neutralidad y la economía de la atención
Hay un mito enorme que el Papa desmonta de un plumazo: «La tecnología no es neutral, porque toma el rostro de quien la concibe, la financia, la regula y la utiliza».
Los algoritmos no caen del cielo ni son matemáticas puras. Llevan incorporados los valores, los sesgos y los puntos ciegos de quienes los diseñan. Y lo preocupante es que estos creadores son, en su mayoría, empresas privadas transnacionales con oficinas en Silicon Valley que atesoran más poder que muchos Estados soberanos. Sin ningún control democrático, un puñado de personas está decidiendo qué vemos, qué se censura y qué es moralmente correcto para cientos de millones de usuarios.
Esto nos afecta directamente a todos. Cuando usamos aplicaciones como WhatsApp y nos sugieren vídeos, compras o noticias, hay un algoritmo diseñado para retener nuestra atención el máximo tiempo posible. Son modelos de negocio que prosperan explotando nuestras debilidades psicológicas.
La verdad, los deepfakes y la necesidad de un «ayuno de IA»
PEl problema de vivir enganchados a las pantallas se agrava cuando la IA se utiliza para generar imágenes falsas, audios manipulados (deepfakes) o noticias inventadas. La desinformación siempre ha existido, pero la IA es un multiplicador brutal.
Para ilustrar el peligro que esto supone para la democracia, el documento cita a la filósofa Hannah Arendt, advirtiendo que los súbditos ideales del totalitarismo son aquellas personas que ya no saben distinguir entre un hecho real y la ficción. Si perdemos la verdad como bien común, lo perdemos todo.
¿La solución? El Papa propone algo tremendamente práctico: educar para decidir cuándo no usar la IA. Igual que no le damos una calculadora a un niño que aún no sabe sumar, no deberíamos delegar nuestro razonamiento a una máquina sin antes habernos esforzado en pensar.
Para apoyar esta idea, la encíclica tira de dos referencias culturales sorprendentes:
Platón: Quien recordaba que las cosas verdaderamente importantes requieren tiempo y esfuerzo; hay que frotar los conceptos entre sí, como el pedernal, hasta que salta la chispa.
J.R.R. Tolkien: Citando a Gandalf en El retorno del rey, el texto nos recuerda que no nos corresponde dominar todas las mareas del mundo, sino cuidar de los días que nos ha tocado vivir y dejar una tierra limpia a los que vengan detrás. Es decir, hacernos cargo de nuestro propio «tramo de muralla».
Las nuevas esclavitudes y el coste oculto
Personalmente, esta es la parte que más me ha impactado. Tendemos a pensar en la nube o en ChatGPT como algo etéreo, pero el Papa denuncia con dureza que detrás de la magia hay infraestructuras físicas y un inmenso coste que se divide en tres frentes:
Coste humano: Millones de trabajadores invisibles (en su mayoría mujeres jóvenes en el Sur global cobrando sueldos miserables) se pasan el día etiquetando datos a mano o moderando contenidos traumáticos de extrema violencia y pornografía para que el sistema aprenda a filtrarlos. A esto se suma el trabajo infantil en la extracción de tierras raras y minerales para los microprocesadores. La encíclica usa una frase demoledora: «Cuerpos marcados, mutilados, consumidos para que el flujo de los cálculos no se interrumpa».
Coste ambiental: Conectando con la Laudato Si’, recuerda que cada pregunta que le hacemos a un chatbot exige centros de datos consumiendo cantidades masivas de electricidad y agua para refrigerarse.
Coste militar: La IA aplicada al armamento baja el umbral de los conflictos, haciendo la violencia más rápida e impersonal. El mensaje aquí no admite matices: no es lícito delegar decisiones letales a una máquina porque «no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable».
Desarmar la IA: el reto de seguir siendo humanos
De todo este análisis nace el concepto central de la encíclica: «desarmar la IA». Una expresión brillante con un doble sentido. Por un lado, significa frenar la carrera armamentística y la lógica de dominio. Por el otro, significa quitarle la «armadura» tecnológica para hacerla más transparente, debatible y, en definitiva, más humana.
Como curiosidad final para los que disfrutan de las matemáticas de la historia: este texto se firmó el 15 de mayo de 2026. Exactamente 135 años después de que León XIII publicara la Rerum Novarum sobre la revolución industrial. Han cambiado las máquinas, pero la pregunta de fondo sigue siendo la misma: ¿el progreso, para quién?
Si me permitís un consejo, la gran reflexión con la que debemos quedarnos es cómo conservar aquello que nos hace irreemplazables frente a los algoritmos. La duda, el error, la compasión, el amor o la simple capacidad de sentarnos frente a alguien y mirarnos a los ojos son aspectos que ninguna inteligencia artificial podrá optimizar jamás.
Os animo encarecidamente a leer el texto completo. Son 110 páginas que nos interpelan a todos. Podéis descargarlo aquí:
¡Hasta la semana que viene!