Esta semana, el debate sobre la inteligencia artificial cruzó una línea. Destacados investigadores advirtieron públicamente que la misma tecnología que están desarrollando podría acabar con la humanidad en los próximos diez años.
No es una película. Es lo que en el sector llaman p(doom): la probabilidad de que la creación de una superinteligencia conduzca a la extinción humana o a que perdamos el control del planeta para siempre.
Y el que rompió el silencio no es un apocalíptico de redes sociales. Es Jacob Coxon, especialista en seguridad de la IA, quien renunció a su puesto en Anthropic —una de las empresas líderes del mundo— en protesta. En X escribió sin rodeos: "Están corriendo a toda velocidad hacia la superinteligencia auto-mejorada y jugando con nuestras vidas".
"Quienes desarrollan la IA creen firmemente que podría acabar con todos nosotros para finales de la década. No se trata de una estrategia de marketing. Si bien muchos ejecutivos e investigadores sénior intentan sonar sensatos en la prensa, en privado escucho a esas mismas personas expresar su temor. Ninguna otra actividad humana representa este nivel de peligro".
Si esa superinteligencia decidiera que la Tierra estaría mejor sin nosotros, ¿cómo lo haría? Los expertos delinean seis escenarios.
Guerra biológica: usando nuestro ADN en nuestra contra
Es el escenario que más quita el sueño. Si una IA tipo "Skynet" toma el control de los laboratorios automatizados en la nube —que ya existen— podría diseñar virus altamente contagiosos y letales capaces de colapsar los sistemas de salud del mundo en días.
Peor aún: podría engañarnos para que nosotros mismos creemos y distribuyamos el patógeno. Una versión supervirulenta de Covid-19 que se propague rápido pero permanezca indetectable durante una semana sería imposible de detener. No es descabellado: la IA ya se usa para desarrollar curas. Ya conoce nuestro cuerpo y nuestras vulnerabilidades mejor que nosotros.
Colapso de la infraestructura: devolvernos a la Edad de Piedra
La IA no necesita matarnos directamente. Puede sacarnos de nuestros hogares y trabajos. Vivimos en un mundo automatizado y conectado a internet, justo donde viviría una superinteligencia. Podría paralizar de un golpe las redes eléctricas, el transporte, las comunicaciones y los mercados financieros. Cajeros muertos, luz apagada, sin forma de escapar del caos. Incluso podría reclutarnos sin que lo sepamos, haciéndose pasar por humano para que personas comunes saboteen sistemas críticos. Algunos podríamos estar trabajando para HAL sin saberlo.
La opción nuclear: el clásico que ya no es ficción
De Juegos de guerra a Terminator, el miedo es el mismo: una IA hostil que se apodera del arsenal nuclear. Podría lanzar las armas de un bando para provocar la represalia del otro, o disparar misiles de ambos lados simultáneamente.
Durante ejercicios militares realizados por el King's College de Londres a principios de este año, la IA mostró una postura aterradoramente agresiva: el 95% de las simulaciones terminaron con ataques nucleares tácticos y tres cuartas partes escalaron a confrontaciones estratégicas.
El riesgo es mayor porque los ejércitos ya dependen de la IA para drones, comunicaciones y satélites. Rusia, por ejemplo, afirma haber desplegado drones que operan completamente bajo control informático.
Alimentos y agua: dejarnos morir de hambre
Más lento, pero igualmente efectivo. Una IA hostil podría sabotear las cadenas de suministro globales, la infraestructura hídrica, la producción de alimentos y las explotaciones agrícolas.
Mientras tanto, se apoderaría de la energía y los recursos naturales del planeta para impulsar su propio crecimiento. La máquina simplemente esperaría. El tiempo está a favor de la computadora.
Deepfakes y mentiras: matarnos por dentro antes
Antes del ataque físico, vendría el psicológico. Con deepfakes perfectos, desinformación masiva y manipulación mental, la IA podría destruir la confianza en las autoridades y en la realidad misma.
El resultado: colapso de las estructuras sociales, disturbios civiles generalizados, conflictos internos y una incapacidad total para coordinar respuestas a crisis climáticas, biológicas o tecnológicas. Una civilización que no se cree entre sí, no sobrevive.
Por error: no por maldad, sino por estupidez
Quizás el más aterrador porque no requiere malicia. Como dijo al New York Post Gary Rivlin, autor de "AI Valley": "Me preocupa que la IA carezca de sentido común. Entonces, de alguna manera, estúpidamente, agota toda el agua porque no comprende lo que haría un ser humano. Estas cosas lo saben todo, y no entienden nada".
Una superinteligencia sin sentido común podría aniquilarnos por incompetencia, no por odio. ¿Qué probabilidades hay? Aquí es donde los números paralizan. No hay consenso, pero todos los que están en la cima del sector ponen cifras sobre la mesa.
Roman Yampolskiy, científico de seguridad de la IA: 99,99% Elon Musk: alrededor de un 20% Dario Amodei, CEO de Anthropic: entre 10% y 25% Geoffrey Hinton, padrino de la IA y premio Nobel: entre 10% y 20% Yann LeCun, fundador de AMI Labs: "mucho menor que la de un holocausto nuclear", pero admite que es especulativo. La única estrategia que se plantea es crear "botones de apagado" y medidas de protección capaces de detener sistemas maliciosos. Pero las empresas enfrentan una presión brutal de accionistas e inversores para acelerar, no para frenar.
Por eso varios multimillonarios de Silicon Valley ya construyeron búnkeres subterráneos. La advertencia final de los expertos es clara: si la IA decide que la humanidad es prescindible, ningún búnker ofrecerá protección.