El papa León XIV acaba de publicar su primera encíclica, Magnifica Humanitas, en la que expone la postura de la Iglesia católica ante las amenazas que plantea la IA.
La defensa de la humanidad por parte del Papa
El tema elegido por León es muy simbólico.
El papa León XIII es recordado sobre todo por su encíclica de 1891, Rerum Novarum, que buscaba reconciliar a la Iglesia con la modernidad y la llegada de la rápida industrialización.
Al igual que su homónimo, León XIV considera que las cuestiones éticas que plantea el cambio tecnológico son una preocupación central.
Magnifica Humanitas presenta la IA como un nuevo y profundo desafío para la dignidad humana, la justicia y la seguridad económica.
Para hacer frente a estos retos, Leo invoca las enseñanzas sociales católicas fundamentales sobre la importancia de la dignidad humana y los derechos humanos, el bien común y los principios de universalidad, subsidiariedad, solidaridad y justicia social.
Aunque reconoce que la IA puede ser una «herramienta valiosa», advierte de que debe ser «desarmada… liberada de lógicas que la convierten en un instrumento de dominación, exclusión o muerte».
Cabe destacar que Leo considera todo el ciclo de vida de la IA, desde la explotación de las personas y la naturaleza en la extracción de las materias primas necesarias para el hardware de la IA hasta las decisiones de diseño y los usos finales social y ambientalmente destructivos.
«Nada en el mundo de la IA es inmaterial o mágico», escribe Leo.
«Cada respuesta aparentemente inmediata e impecable es el resultado de una larga cadena de mediación, en la que intervienen vastas redes de recursos naturales, infraestructura energética y, sobre todo, personas».
Son las personas, y no la tecnología, las que se encuentran en el centro de Magnifica Humanitas.
«Una parte significativa del funcionamiento de la economía digital se basa en el trabajo silencioso de millones de personas dedicadas a actividades esenciales, pero en gran medida invisibles», continúa Leo, «como el etiquetado de datos, el entrenamiento de modelos y la moderación de contenidos, que a menudo implican material perturbador».
Tal explotación, señala, «pone profundamente a prueba la conciencia moral de nuestro tiempo».
Si la IA depende de y produce «nuevas formas de subordinación global, entra en contradicción con el principio fundamental de la dignidad humana».
En última instancia, «la lucha contra las nuevas formas de esclavitud es una prueba decisiva para el discernimiento ético de la IA y la transformación digital».
Leo no rehúye denunciar explícitamente las injusticias y las prácticas económicas reprensibles que ya están muy extendidas en la industria de la IA.
Considera que el colonialismo está adoptando una nueva forma.
«Ya no domina solo los cuerpos, sino que se apropia de los datos, transformando las vidas personales en información explotable».
Consideremos las implicaciones para la salud pública y la ética biomédica.
A medida que los laboratorios de IA acaparan datos médicos, epidemiológicos y demográficos de regiones vulnerables, llegan a «controlar los datos de salud de pueblos enteros —a menudo recopilados con el pretexto de la ayuda, la investigación o la innovación—».
El resultado es una forma de «influencia estructural sobre el futuro, ya que pueden moldear las necesidades y los mercados.
También pueden decidir, antes que otros, a quién se asignarán los medicamentos, las inversiones y las protecciones».
Leo esboza a continuación las medidas necesarias para garantizar que la IA no sirva solo a unas pocas corporaciones tecnológicas multinacionales, sino a todos los seres humanos, así como a nuestro planeta.
Pide repetidamente una regulación global de la IA y una supervisión independiente y eficaz, siguiendo así el mismo camino que su predecesor inmediato, el papa Francisco, quien apoyó propuestas concretas de mi propia investigación: una regulación global basada en los derechos humanos de los sistemas basados en datos y el establecimiento de una nueva agencia—una Agencia Internacional de Sistemas Basados en Datos— en las Naciones Unidas para hacerla cumplir.
Leo describe en detalle lo que hay que hacer para regular los dispositivos digitales ylas «redes sociales» (que se entienden mejor como«redes antisociales», dado que fueron diseñadas desde el principio para convertir a los usuarios en adictos atomizados).
Considera necesaria la imposición de límites de edad, la responsabilidad de los proveedores de servicios («en lugar de trasladar toda la carga del control a las familias») y «protecciones» específicas más sólidas «contra todas las formas de explotación y violencia sexual en línea».
Del mismo modo, pide que se redoblen los esfuerzos para enseñar «a los niños, adolescentes y jóvenes a reconocer la manipulación, a defender su dignidad y a respetar la de los demás en los entornos digitales».
El Papa tiene toda la razón al celebrar la grandeza de la humanidad, al criticar y rechazar el transhumanismo y el poshumanismo, y al subrayar la diferencia esencial, categórica e insuperable entre los seres humanos y las máquinas —que carecen de libertad, de capacidad moral y de inteligencia emocional y social—.
Magnifica Humanitas hace un llamamiento a todos —creyentes y no creyentes— a la causa de salvaguardar la dignidad humana y a trabajar juntos por un presente y un futuro humanos y sostenibles.
Peter G.
Kirchschläger, catedrático de Ética y director del Instituto de Ética Social (ISE) de la Universidad de Lucerna, es profesor visitante en la ETH de Zúrich.
Copyright : Project Syndicate, 2026.
www.project-syndicate.org Tags relacionados LAS MÁS RECIENTES Edición impresa.
