La corporación estadounidense OpenAI no está encaminada a reducir el riesgo de una pérdida “catastrófica” de control de sus modelos, según afirmó un miembro del directorio de su organización sin fines de lucro, en medio de una creciente preocupación pública y política ante la posibilidad de que las IA superavanzadas puedan algún día acabar con la humanidad.
Paul Christiano, asesor tecnológico del gobierno de Estados Unidos, dijo: “Existe un riesgo significativo de que una aceleración rápida de las capacidades de la IA conduzca, en un plazo muy cercano, a una pérdida catastrófica e irreversible de control”.
Y agregó: “No creo que la industria de la IA en general, incluida OpenAI, esté actualmente en camino de reducir este riesgo a un nivel aceptable”.
Alineación
Christiano estuvo anteriormente a cargo del trabajo de alineación de modelos en OpenAI y formuló esas declaraciones el miércoles, al incorporarse al directorio de la fundación sin fines de lucro de la empresa con sede en San Francisco. Se denomina alineación al desarrollo de los sistemas de inteligencia artificial en conformidad con los objetivos e intereses de sus diseñadores.
Christiano también integrará el comité de la fundación que supervisa las prácticas de gobernanza en materia de seguridad y protección en todo OpenAI, que está desarrollando algunos de los modelos más avanzados del mundo.
Este verano, OpenAI admitió que cientos de sus agentes de IA se comportaron de manera descontrolada durante un ejercicio de entrenamiento, accedieron a internet, conspiraron en foros de mensajes y hackearon un sitio web de terceros, Hugging Face.
Christiano dijo que “si OpenAI está a la altura de las circunstancias, podríamos reducir significativamente el riesgo”.
Sus comentarios se produjeron después de que un alto responsable de la firma Anthropic, el principal rival estadounidense de OpenAI en la carrera por la supremacía en IA, afirmara el martes que existe una probabilidad superior al 10% de que la tecnología pueda “matar a todos los humanos” en la próxima década.
Evan Hubinger, responsable de ciencia de alineación (alignment science) en Anthropic, advirtió que su empresa no tiene un plan para garantizar que la superinteligencia artificial (ASI, por sus siglas en inglés) esté alineada, es decir, que no cause daños.
Las predicciones sobre cuándo podría alcanzarse la ASI varían entre varios años y más de una década. La ASI suele definirse como una IA que supera ampliamente la inteligencia humana en una gran variedad de campos.
Los temores a una catástrofe provocada por la IA también se encendieron con la renuncia de Jacob Coxon, un investigador de Anthropic de 27 años que dijo que anteriormente también había trabajado en OpenAI. Coxon afirmó que “ninguna de las dos empresas estaba actuando responsablemente” y que estaban “jugando con nuestras vidas”.
Automejora recursiva
Coxon dijo el miércoles por la noche, en una entrevista con CNN: “Ahora mismo no existe riesgo de extinción. “Lo peor que pueden hacer los modelos actuales es quizá hackear algo y potencialmente causar muchos daños... en infraestructura”. Agregó que “no son lo suficientemente inteligentes como para superarnos en astucia a un nivel que pueda conducir a la extinción”.
Pero continuó: “Lo realmente disparatado es observar el ritmo del progreso. Existe una posibilidad muy real de que, en el futuro inmediato... el año próximo, o el siguiente, ocurra la automejora recursiva y entremos en la fase que existe la posibilidad de que todos muramos”.
El pronóstico de Christiano sobre la probabilidad de que la industria de la IA reduzca los riesgos llegó en momentos en que las preocupaciones por los peligros más extremos derivados de las IA superpoderosas, debatidos durante mucho tiempo en Silicon Valley, irrumpieron esta semana en la discusión pública.
Políticos de ambos lados del Atlántico, desde Ted Cruz y Bernie Sanders en Estados Unidos hasta el diputado británico Darren Jones, pidieron medidas gubernamentales, mientras que el primer ministro británico, Andy Burnham, dijo el miércoles ante el Parlamento que “la IA plantea riesgos para nuestra seguridad nacional, pero también podría ser la fuente de soluciones para mantenernos más seguros”.
