El pasado lunes 25 de mayo el Papa León XIV publicó su primera encíclica, Magnifica humanitas, centrada casi por completo en los desafíos que plantea la inteligencia artificial a la dignidad humana. El documento despliega, a lo largo de sus cinco capítulos, una serie de advertencias sobre la manipulación del individuo a través de los algoritmos, la amenaza que representa la automatización sobre el empleo y el trabajo de las personas y, entre otras alertas, el peligro de que el poder tecnológico, en manos de unas pocas empresas, escape a las regulaciones orientadas al bien común.
El Papa incluso usa una analogía bíblica muy fuerte, al mencionar que la humanidad enfrenta una decisión entre construir una nueva Torre de Babel, o una sociedad donde la tecnología sirva a las personas y no al revés. No es la primera vez que el Vaticano interviene así en un momento bisagra de la historia. Hoy intenta hacer algo parecido a lo que hizo durante la Revolución Industrial, cuando a través de la encíclica Rerum Novarum de León XIII, se pronunció públicamente en defensa de los derechos de los trabajadores y las condiciones laborales frente al avance de las máquinas.
A diferencia del siglo XIX, hoy no delegamos nuestra fuerza física a máquinas movidas por vapor o carbón, sino que avanzamos tanto en nuestra relación con la tecnología que llegamos al punto de tercerizar nuestro pensamiento, decisiones y hasta vínculos emocionales en complejos sistemas computacionales. Por eso es que el Papa interpela desde la ética, reclamando transparencia en los algoritmos, límites claros al poder de las plataformas y una defensa de aquello que considera profundamente humano. Su advertencia no apunta contra la tecnología en sí misma, sino contra la tentación de convertir al ser humano en un problema técnico a optimizar o incluso superar.
El Vaticano se viene metiendo de lleno en este debate desde hace varios años. A principios de 2020 firmaron el "Llamamiento de Roma para la Ética de la IA" junto a empresas, universidades y organismos internacionales, proponiendo principios como transparencia, responsabilidad, inclusión y respeto por la privacidad y la dignidad humana en el desarrollo de estos sistemas. Desde entonces, la Santa Sede fue endureciendo y profundizando su mirada a medida que la IA comenzó a abandonar los laboratorios para instalarse en la vida cotidiana, por lo que no sorprende que León XIV haya elegido justamente este tema para inaugurar su pontificado.
Lo más llamativo no fue el documento en sí, sino que entre quienes participaron de su presentación estaba Christopher Olah, con extensa trayectoria en OpenAI y Google Brain, y cofundador de Anthropic, la empresa estadounidense detrás de Claude, uno de los sistemas de inteligencia artificial más avanzados del mundo. Olah fue el único representante de la industria tecnológica invitado al evento, algo que atribuyó a su trabajo en seguridad de la IA y a años de diálogo con diferentes comunidades religiosas de todo el mundo.
Sentado junto al Pontífice, reconoció que las propias empresas de IA, incluyendo la suya, trabajan bajo incentivos comerciales y políticos “que a veces pueden entrar en conflicto con hacer lo correcto", y agregó que incluso los investigadores mejor intencionados están influenciados por esas mismas fuerzas. Por eso afirmó que el desarrollo de la inteligencia artificial no puede quedar exclusivamente en manos de los gigantes tecnológicos, reclamando mayor participación de gobiernos, líderes religiosos y de la sociedad civil.
Pero lo más desconcertante vino después. En un momento de su intervención, Olah admitió frente al Papa, cardenales y teólogos, que los investigadores no terminan de entender lo que están construyendo. “Seré sincero, seguimos encontrando cosas que son misteriosas, incluso inquietantes. Encontramos estructuras que reflejan resultados de la neurociencia humana. Encontramos evidencia de introspección. Encontramos estados internos que funcionalmente se asemejan a la alegría, la satisfacción, el miedo, la tristeza y la incomodidad. No sé qué es eso, pero creo que no podemos ignorarlo.”
En la sala, la frontera más fría y técnica de la ingeniería de software chocaba de frente con las preguntas que la humanidad nunca termina de responder. ¿Qué significa tener una mente? ¿Dónde termina la herramienta y dónde empieza algo más? Quizás el problema mismo está mal planteado. O mejor dicho, quizás está contaminado desde el origen por una elección de palabras que hicimos hace décadas sin medir del todo sus consecuencias, al llamarle inteligencia a lo que hacen estas máquinas.
El término "inteligencia artificial" surge de una conferencia organizada en 1956 en el Dartmouth College, Estados Unidos, por el matemático e informático estadounidense John McCarthy. La elección del nombre tuvo más de estrategia de marketing que de precisión conceptual, ya que McCarthy necesitaba una palabra lo bastante potente y efectiva como para conseguir financiamiento y diferenciarse de la "cibernética", la disciplina que dominaba la época. Setenta años después, esa etiqueta quedó pegada a la disciplina y terminó moldeando también la manera en que la sociedad interpreta estas tecnologías.
Al hablar de “inteligencia”, es inevitable asociarla con comprensión, razonamiento, conciencia o incluso emociones. Decimos que la máquina aprende, que piensa, o peor, que alucina; cuando los modelos actuales no son más que sofisticados sistemas de predicción estadística que no comprenden lo que dicen. Solo calculan, con una precisión y velocidad asombrosas, qué palabra viene después de la anterior.
Decir que un modelo de lenguaje “siente” emociones sería como afirmar que un termómetro siente el frío o el calor. El instrumento mide y representa un fenómeno físico con precisión, pero no existe dentro suyo ninguna experiencia subjetiva. Del mismo modo, los sistemas de inteligencia artificial pueden identificar, clasificar y reproducir patrones emocionales presentes en el lenguaje humano sin que eso implique necesariamente conciencia o una vida interior.
Los propios investigadores de Anthropic aclaran que estos llamados “estados emocionales funcionales” no prueban que el sistema experimente sentimientos. Lo que encontraron son patrones internos que influyen sobre el comportamiento del modelo, modificando por ejemplo sus respuestas bajo determinadas condiciones. En otras palabras, la máquina no siente tristeza o felicidad, pero sí desarrolla mecanismos computacionales que cumplen un rol similar al de las emociones en los humanos. Sin embargo, Olah, uno de sus propios cofundadores, admitió frente al Papa que hay cosas dentro de estos sistemas que todavía no entienden. ¿Hay algo ahí, o simplemente estamos proyectando nuestra propia experiencia sobre un sistema que aprendió a imitarla?
Para el matemático y premio Nobel de física Roger Penrose, justamente ahí es donde nos estamos equivocando. En una entrevista de 2025 afirmó que todo el campo está mal etiquetado. “No es inteligencia artificial. No es inteligencia porque la inteligencia involucra conciencia, y si es una máquina, no es consciente". Según él, esa etiqueta generó un error de categoría que terminó por hipnotizar al público, haciéndonos creer que la enorme capacidad de procesamiento es lo mismo que el acto de comprender. Para Penrose, la conciencia es algo completamente distinto y no es un proceso computacional.
Por eso, propone cambiarle el nombre, rebautizar la inteligencia artificial como “astucia artificial". Para ilustrar esta diferencia, traza un paralelismo con lo que ve en las aulas con sus estudiantes de matemáticas: están los alumnos que realmente entienden lo que hacen, y están los que simplemente son astutos. Aprenden el mecanismo, repiten y calculan muy bien, pero no necesariamente entienden todo el proceso. Y esa diferencia, para Penrose, es exactamente la que separa a estas máquinas de la inteligencia genuina. La astucia se puede fabricar. La conciencia, en su opinión, no.
Tenemos una tendencia a confundir locuacidad con sabiduría, a dejarnos impresionar por quien habla con fluidez y con aparente profundidad, independientemente de si hay algo real detrás de las palabras. Con los modelos de lenguaje está pasando algo similar, nos volvemos a encandilar por esa sorprendente capacidad de hilar frases, y en ese deslumbramiento le atribuimos a la máquina un algo interior que quizás no tenga. O puede que sea, simplemente, el espejo más perfecto que hayamos creado. Uno que nos devuelve nuestra propia imagen con tanta fidelidad que terminamos confundiéndola con otra cosa.
