Qué dice León XIV sobre la IA y sobre nosotros
Tres maneras de leer la encíclica del Papa León XIV "Magnifica Humanitas a través de las opiniones de Enric Juliana, Daniel Arjona y Pep Martorell.
No soy ingeniera, ni filósofa, ni experta en inteligencia artificial.
Pero estos días he leído con fascinación varios análisis sobre Magnifica Humanitas, la encíclica que Papa León XIV ha dedicado íntegramente a la IA. Y cuanto más leía, más me daba cuenta de algo curioso: cada autor parecía encontrar en ella una preocupación distinta.
Para intentar entenderla mejor, he seguido especialmente tres lecturas.
La de Enric Juliana, con un título muy sugerente Sobre las cosas nuevas, uno de los grandes analistas políticos y culturales del periodismo español.
La de Daniel Arjona, El papa contra la IA: 'Magnifica Humanitas', una encíclica roja para liberarlos a todos, escritor y periodista atento a las batallas culturales y tecnológicas de nuestro tiempo.
Y la de Pep Martorell, Magnífica Humanitas: la respuesta de la Iglesia a la revolución de la IA, físico y experto en innovación tecnológica, que aborda el texto desde una mirada mucho más técnica.
Los tres leen la misma encíclica.
Y, sin embargo, parece que estuvieran leyendo tres cosas distintas.
Quizá porque Magnifica Humanitas no es un documento fácil de clasificar. No es simplemente una advertencia moral sobre la tecnología. Tampoco un manifiesto político. Ni un tratado técnico. Y seguramente ahí reside parte de su fuerza.
Los tres autores coinciden en algo importante: esta encíclica no habla realmente de máquinas. O al menos no sólo de máquinas.
La inteligencia artificial aparece más bien como el escenario de una pregunta mucho más antigua y más profunda: qué ocurre con el ser humano cuando el poder económico, técnico o político, se concentra demasiado.
Juliana se fija especialmente en esa dimensión histórica y humana. Leyendo su artículo, uno tiene la sensación de que la encíclica establece un paralelismo deliberado entre la revolución industrial y la revolución algorítmica. Igual que Rerum novarum (Encíclica de León 15 de mayo de 1891) intentó responder a las heridas sociales del siglo XIX, Magnifica Humanitas parece querer responder a las del XXI.
Pero Juliana no pone el foco sólo en la tecnología, sino en algo más inquietante: la desaparición de la responsabilidad humana detrás de sistemas cada vez más opacos. Hay un fragmento de la encíclica que atraviesa todo su análisis:
“Confiar, en la práctica, a un algoritmo el poder de seleccionar quién es digno y quién no…”
La pregunta ya no sería únicamente qué puede hacer la IA, sino qué dejamos de hacer nosotros cuando empezamos a delegar demasiadas decisiones en sistemas automáticos.
Arjona, en cambio, lleva el debate a un terreno mucho más filosófico y político. Su lectura es probablemente la más combativa de las tres. Habla de “una encíclica roja”, del choque con Silicon Valley, del tecnofeudalismo y de la concentración de poder en manos de unas pocas compañías tecnológicas.
Pero también introduce una idea muy interesante: la encíclica puede coincidir con algunas críticas progresistas a la IA, aunque sus fundamentos sean completamente distintos.
Porque, como recuerda Arjona, la dignidad humana de la que habla León XIV no nace de una construcción social ni de un consenso político. Es anterior. Inherente. No depende del rendimiento, de la utilidad ni de la productividad.
Y eso hace que el texto desconcierte.
Critica el poder acumulado por las grandes tecnológicas, pero también cuestiona una visión del futuro en la que todo parece medirse únicamente en términos de eficiencia y rendimiento.
Martorell, por su parte, aporta algo distinto y muy valioso: ayuda a entender por qué esta encíclica ha sorprendido incluso dentro del mundo tecnológico.
Su análisis insiste en un aspecto que quizá haya pasado más desapercibido: el rigor técnico del documento.
Cuando la encíclica afirma que las inteligencias artificiales modernas están más “cultivadas” que “construidas”, Martorell reconoce inmediatamente el lenguaje de los debates actuales sobre interpretabilidad y modelos fundacionales. No es el tono habitual de un documento eclesiástico.
Y ahí aparece una de las intuiciones más interesantes de las tres lecturas juntas: la Iglesia no está hablando desde fuera del debate tecnológico. Está entrando en él.
Quizá el concepto más original de toda la encíclica sea precisamente el que los tres autores destacan de una forma u otra: “desarmar la IA”.
La expresión resulta extraña al principio. ¿Qué significa desarmar una tecnología?
Arjona lo interpreta casi como una rebelión contra la lógica de dominio de Silicon Valley y la carrera geopolítica por el control de los algoritmos. Martorell, en cambio, lo conecta con la idea de “ecología integral” desarrollada por el Papa Francisco: la IA ya no sería simplemente una herramienta, sino un ecosistema en el que vivimos inmersos. Juliana lo lee desde la responsabilidad y la necesidad de preservar espacios humanos frente a sistemas impersonales.
Pero quizá los tres estén señalando algo parecido.
La encíclica no propone destruir la tecnología. Propone impedir que el poder tecnológico se convierta automáticamente en derecho a gobernar.
Y ahí aparece otra cuestión central: quién decide los valores de la IA.
Martorell y Arjona prestan especial atención a la crítica que la encíclica hace a la llamada “alineación” de la inteligencia artificial: no basta con construir una IA “moral” si esa moral es decidida por unos pocos actores privados.
Quien controla los sistemas termina imponiendo también una visión del mundo. Y los algoritmos ya organizan buena parte de nuestra vida: lo que vemos, lo que compramos, lo que creemos, incluso aquello a lo que prestamos atención.
Pero quizá una de las partes más incómodas de la encíclica no tiene que ver directamente con la tecnología, sino con nuestra capacidad para acostumbrarnos al sufrimiento ajeno.
Aquí, el análisis de Arjona resulta especialmente interesante.
León XIV no se limita a denunciar los riesgos de la inteligencia artificial. En un gesto poco habitual, mira también hacia atrás y reconoce la lentitud con la que la propia Iglesia condenó la esclavitud, una complicidad que define como una “herida en la memoria cristiana”.
Arjona interpreta ese pasaje como una advertencia muy actual: una sociedad puede convivir durante demasiado tiempo con formas de explotación que terminan pareciendo normales. Y quizá esa sea la pregunta más incómoda de toda la encíclica: quién sostiene silenciosamente el mundo digital y quién queda descartado cuando el valor de las personas empieza a medirse sólo por su utilidad.
Porque otra de las ideas centrales del texto es precisamente esa: la dignidad humana no debería depender nunca de la productividad.
No hay que ganarse el derecho a ser considerado valioso.
Y quizá por eso la encíclica resulta tan incómoda para una época obsesionada con optimizarlo todo, incluso a las personas.
Y aquí aparece alguien inesperado: J. R. R. Tolkien.
Curiosamente, una de las voces que atraviesan la encíclica no es la de un filósofo ni la de un ingeniero, sino la del autor de El Señor de los Anillos. Arjona recuerda cómo León XIV cierra Magnifica Humanitas citando unas palabras de Gandalf:
“No nos atañe a nosotros dominar todas las mareas del mundo, sino hacer lo que está en nuestras manos por el bien de los días que nos ha tocado vivir, extirpando el mal en los campos que conocemos.”
No parece una cita casual.
Porque, en el fondo, gran parte de la obra de Tolkien gira alrededor de una misma advertencia: el deseo de poder absoluto termina deshumanizando incluso a quienes creen utilizarlo para el bien.
El Anillo Único prometía exactamente eso: eficacia absoluta, control absoluto, dominio absoluto.
Y precisamente por eso corrompía.
Quizá por eso la encíclica insiste tanto en “desarmar” la IA.
No para renunciar a la tecnología.
Sino para impedir que el poder técnico termine convirtiéndose en una nueva forma de dominio sobre lo humano.
Después de leer a Juliana, Arjona y Martorell, tengo la sensación de que la gran pregunta de Magnifica Humanitas no es qué podrán hacer las máquinas.
Es qué ocurrirá con nosotros.
Con nuestra capacidad de cuidar, de decidir, de responsabilizarnos unos de otros.
Con nuestra posibilidad de seguir siendo humanos dentro de un mundo cada vez más gobernado por sistemas que apenas comprendemos.
Quizá por eso esta encíclica está provocando conversaciones tan distintas.
Porque, en el fondo, no habla sólo de inteligencia artificial.
Habla de nosotros.
Aqui esta el texto completo de la Encíclica “Magnifica Humanitas” es español
Gracias, excepcionalmente interesante e importante a partes iguales
Hace falta varices para decir que Enric Juliana es un gran analista político...