León XIV presentó el lunes su primera encíclica. El documento se titula “Magnifica Humanitas”. Significa “Humanidad magnífica” en español. Consta de 110 páginas dedicadas a la inteligencia artificial. Analiza sus efectos sobre la dignidad humana.
El primer papa estadounidense de la historia firmó el texto el 15 de mayo. Eligió esa fecha por su simbolismo histórico. Se cumplían 135 años de la Rerum Novarum. León XIII publicó aquel documento en 1891. Respondió entonces a la Revolución Industrial.
El actual pontífice toma nombre y referencia de aquel papa. Su formación incluye matemáticas y derecho canónico. Advierte en el texto que la IA “no puede considerarse moralmente neutra”. Reclama “desarmarla” para “evitar que domine al ser humano”.
La encíclica fija la postura de la Iglesia. Aborda lo que el papa describió como el mayor desafío de la época. Lo dijo días después de su elección. No es un tratado técnico sobre tecnología. Tampoco condena los avances tecnológicos en sí mismos. Reconoce su valor en múltiples ámbitos.
Se trata de una actualización doctrinal. Renueva la Doctrina Social de la Iglesia. Su tesis central plantea una disyuntiva clara. Las innovaciones tecnológicas “pueden aumentar la participación y la justicia, o ampliar las desigualdades, el control y la exclusión”.
La IA, según escribe, “alimenta la brecha entre los incluidos y los excluidos”. Algunos especialistas anticipan que será una referencia del debate. Paolo Carozza es profesor de Derecho en Notre Dame. Preside el consejo de supervisión de Meta. Declaró a la agencia AP su convicción. “Será un documento decisivo para nuestra época, profundo y profético”.
Lo describió como un llamado a construir un mundo diferente. La tecnología debe “servir a los seres humanos en lugar de degradarlos”. Esta visión atraviesa todo el documento papal.
El núcleo de la crítica apunta al sector privado. Denuncia la concentración de poder en pocas manos. Patentes, algoritmos y plataformas digitales quedan concentrados. Las infraestructuras y datos también se acumulan. “Concentrados en las manos de unos pocos”, según el texto.
Son esas empresas las que definen múltiples aspectos. Establecen “condiciones de acceso, reglas de visibilidad, formas de relación e incluso oportunidades económicas”. El papa advierte sobre las consecuencias. “Cuando un poder de tal magnitud se concentra en pocas manos, tiende a hacerse opaco y a eludir el control público”.
Ve en ello el riesgo de “nuevas dependencias, exclusiones, manipulaciones y desigualdades”. Frente a eso pide reglas concretas. “No basta con invocar la ética de manera abstracta; se requieren marcos jurídicos sólidos, supervisión independiente, usuarios informados y un sistema político que no abdique de su responsabilidad”.
Resume su posición con una frase contundente. “Una IA más moral no es suficiente si esa moralidad es determinada por unos pocos”. Cuestiona así quién tiene autoridad moral sobre la tecnología.
Esa concentración tecnológica tiene un correlato económico. La riqueza mundial “se concentra cada vez más en menos manos, lo que agranda las desigualdades”. En la era de la IA y la robótica ya no basta. No es posible confiar únicamente en la “mano invisible” del mercado.
León XIV insta a los responsables políticos. Deben orientar las políticas hacia “el bien común”. Deben promover “el trabajo digno, la inclusión social y una distribución equitativa de los beneficios de la innovación”.
La advertencia no es abstracta ni teórica. OpenAI y Anthropic son las dos principales competidoras del sector. Figuran entre las empresas privadas más valiosas de Estados Unidos. Sus valoraciones alcanzan cientos de miles de millones de dólares. Superan el PIB de numerosos países.
El papa apeló en varias ocasiones a los desarrolladores. También se dirigió a los responsables políticos. Les pide “frenar” y reflexionar sobre lo que están haciendo. Deben orientar su trabajo hacia un objetivo distinto. No hacia el beneficio o el poder propios. Sino hacia el bien de la humanidad.
El documento se presentó este lunes en el Vaticano. Asistió el cofundador de Anthropic, Christopher Olah. Su empresa mantiene un litigio con la administración de Donald Trump. Se negó a permitir el uso militar irrestricto de su tecnología.
La inclusión de Anthropic en el acto generó críticas. Forma parte de un diálogo de una década. El Vaticano y Silicon Valley conversan sobre el costo humano de la IA. Algunos leyeron su presencia como un aval pontificio. Fuentes vaticanas la equipararon a la audiencia con un jefe de Estado. Es decir, un reconocimiento y no un respaldo.
El texto retoma también la preocupación ambiental. Francisco la colocó en el centro de su magisterio. Lo hizo con la encíclica Laudato si’ en 2015. Ahora León XIV la aplica a la IA. Señala que los centros de datos que entrenan los modelos consumen cantidades enormes. Requieren “enormes cantidades de energía y agua”.
Influyen de forma significativa en las emisiones de dióxido de carbono. La demanda es creciente e impulsada por los grandes modelos de lenguaje. Ante esto, pide “soluciones tecnológicas más sostenibles”.
Si la concentración de poder es el diagnóstico general, el papa reserva advertencias más concretas. Las dirige a quienes considera más expuestos. Sobre los menores, alerta de “fenómenos de captación, chantaje y explotación sexual”.
Estos se agravan por “perfiles falsos, algoritmos que amplifican contactos peligrosos y herramientas de IA capaces de manipular imágenes y vídeos”. Pide límites de edad para el acceso. También reclama mayor responsabilidad de los proveedores.
Sobre el trabajo, sostiene que los enfoques tecnológicos actuales pueden tener efectos negativos. Pueden “desespecializar a los trabajadores, someterlos a una vigilancia automatizada y relegarlos a tareas rígidas y repetitivas”. Reclama que toda automatización vaya acompañada de protecciones. Requiere “medidas verificables de protección del empleo y de recualificación”.
El orden económico debe permanecer subordinado. Debe estar bajo la dignidad humana. “La búsqueda de mayores beneficios no puede justificar decisiones que sacrifiquen sistemáticamente empleos”, escribe. Añade que los gobiernos deben fomentar condiciones que favorezcan el empleo. “Ya que es un bien primario para las familias y para las sociedades”.
En materia de conflicto armado, León XIV hizo un llamado significativo. Llamó a superar el concepto de “guerra justa”. Según el texto, se invoca “con demasiada frecuencia para justificar cualquier conflicto”. Declaró que es “no permisible” delegar decisiones letales e irreversibles a sistemas de IA.
Denunció que “la humanidad se está deslizando hacia una cultura violenta del poder”. Reclamó una cadena de responsabilidad identificable. Debe alcanzar a “quienes diseñan, entrenan, autorizan y emplean la tecnología”. Pidió un marco internacional común. Su objetivo es “frenar la carrera armamentística tecnológica y garantizar una protección sólida para los civiles”.
El papa dedica también buena parte del texto a la vida pública. Sostiene que la desinformación “encontró un potente amplificador” en la IA. Esto se debe a su capacidad de “manipular contenidos, imágenes y videos”. Advierte de que la democracia se debilita cuando el pragmatismo sustituye a la verdad.
El pragmatismo es “lo que parece útil y eficaz”. “La indiferencia hacia la verdad conduce, lenta pero seguramente, a un descenso hacia el totalitarismo”, escribe. Esta advertencia conecta tecnología con política.
El pontífice reclama además responsabilidad a quienes controlan las plataformas digitales. También a quienes manejan las redes sociales. Deben guiar ese poder por “la búsqueda de la verdad”. También por el respeto a la dignidad. Concibe internet como “un espacio en el que puedan madurar la libertad interior y el pensamiento crítico”.
No lo ve como “un instrumento de distracción excesiva, homogeneización o dominación”. Propone una visión positiva de la tecnología digital. Pero condicionada a valores éticos fundamentales.
El texto contiene además un elemento histórico significativo. Incluye la primera disculpa formal de un papa. Se refiere al papel de la propia Santa Sede. Reconoce su participación en la legitimización de la esclavitud. León XIV la califica de “herida en la memoria cristiana”.
“Por esto, en nombre de la Iglesia, pido sinceramente perdón”, escribió el pontífice. Su historia familiar incluye tanto personas esclavizadas como propietarios de esclavos. Así lo revelan investigaciones genealógicas publicadas por Henry Louis Gates Jr.
Otros papas habían pedido perdón anteriormente. Juan Pablo II lo hizo en 1992. Pidió perdón por la participación de cristianos en la trata. Francisco denunció en repetidas ocasiones sus formas actuales. León XIV fue más allá al reconocer el papel de los propios pontífices.
En el siglo XV autorizaron a soberanos portugueses y españoles. Les permitieron someter y esclavizar a los “infieles”. La Iglesia, recuerda, poseyó esclavos hasta la Edad Media. Tardó diecinueve siglos en articular una condena clara. Una “condena formal, absoluta y universal de la esclavitud”.
El papa vinculó ese pasado con el presente. Advirtió que el incumplimiento de los estándares laborales en la economía digital constituye una nueva injusticia. Incluida la extracción de minerales para chips de IA. Esto constituye “una nueva forma de esclavitud y colonialismo”.
Esta conexión entre pasado y presente refuerza su argumento. La tecnología puede reproducir antiguas injusticias. Puede crear nuevas formas de explotación. Por eso requiere vigilancia ética constante.
La presentación del documento tuvo lugar en el Aula Nuova del Sínodo del Vaticano. El acto reunió a representantes de diversos sectores. Incluyó voces del ámbito tecnológico y académico. También participaron expertos en derechos humanos.
La encíclica representa una intervención significativa en el debate global. Aporta la perspectiva de una institución milenaria. Una que ha atravesado múltiples revoluciones tecnológicas. Ahora se enfrenta a la más reciente.
El documento no ofrece soluciones técnicas específicas. Tampoco propone regulaciones detalladas. Su aporte es de naturaleza ética y moral. Establece principios que deberían guiar el desarrollo tecnológico.
La insistencia en la dignidad humana atraviesa todo el texto. También la preocupación por los más vulnerables. Los menores, los trabajadores, los civiles en conflictos armados. Todos merecen protección especial frente a la IA.
La crítica a la concentración de poder es especialmente relevante. Pocas empresas controlan infraestructuras digitales globales. Definen cómo miles de millones de personas se comunican. Determinan qué información reciben. Influyen en sus decisiones económicas y políticas.
El llamado a marcos jurídicos sólidos responde a esta realidad. La autorregulación de las empresas no basta. Se requiere supervisión independiente. Los usuarios deben estar informados. Los sistemas políticos no pueden abdicar de su responsabilidad.
La dimensión ambiental añade otra capa de preocupación. Los centros de datos consumen recursos enormes. Su huella de carbono es significativa. El crecimiento exponencial de la IA agrava el problema. Las soluciones sostenibles son urgentes.
En materia laboral, el papa rechaza una visión determinista. La automatización no es inevitable en sus consecuencias negativas. Puede diseñarse para proteger el empleo digno. Para recualificar trabajadores en lugar de descartarlos. Para mejorar condiciones en lugar de degradarlas.
La advertencia sobre las armas autónomas es particularmente fuerte. Delegar decisiones letales a máquinas es “no permisible”. Esto establece una línea roja moral clara. Independientemente de las capacidades técnicas disponibles. Hay decisiones que solo los humanos pueden tomar.
La preocupación por la democracia conecta varios temas. La desinformación amplificada por IA amenaza el debate público. La manipulación de contenidos erosiona la confianza. La indiferencia hacia la verdad abre camino al autoritarismo.
Las plataformas digitales tienen responsabilidad en esto. No son meros intermediarios neutrales. Sus algoritmos determinan qué contenidos se amplifican. Qué voces se escuchan. Qué narrativas dominan.
La disculpa por la esclavitud añade profundidad histórica. Reconoce errores pasados de la institución. Establece continuidad con injusticias presentes. La explotación laboral en la economía digital es comparable. La extracción de recursos en condiciones indignas también.
Esta conexión refuerza la autoridad moral del mensaje. La Iglesia reconoce su propia historia problemática. Desde esa humildad puede interpelar a otros poderes. Puede señalar patrones de dominación que se repiten.
El documento de 110 páginas representa meses de trabajo. Consultas con expertos de diversos campos. Reflexión teológica sobre desafíos contemporáneos. Actualización de la doctrina social para una nueva era.
La elección del nombre “Magnifica Humanitas” es significativa. Enfatiza la magnificencia de la humanidad. Su dignidad inherente e inviolable. Frente a ella, la tecnología debe permanecer subordinada. Debe servir y no dominar.
La referencia a la Rerum Novarum establece un paralelismo histórico. Aquella encíclica respondió a la Revolución Industrial. Defendió los derechos de los trabajadores. Criticó la concentración de capital. Propuso una tercera vía entre capitalismo sin límites y socialismo.
“Magnifica Humanitas” intenta algo similar. Responde a la revolución de la IA. Defiende la dignidad humana en la era digital. Critica la concentración de poder tecnológico. Propone principios para un desarrollo más justo.
La recepción del documento será diversa. Algunos lo verán como una guía necesaria. Otros lo considerarán insuficiente o demasiado general. Algunos lo criticarán por intervenir en debates técnicos. Otros agradecerán la perspectiva ética.
Lo cierto es que aporta una voz diferente. No habla desde el mercado ni desde el Estado. Habla desde una tradición milenaria de reflexión moral. Desde una institución global con presencia en todos los continentes.
Su influencia dependerá de múltiples factores. De cómo se difunda y se estudie. De si inspira políticas concretas. De si los desarrolladores tecnológicos lo consideran. De si los ciudad
