La inteligencia artificial llegó al Consejo de Seguridad de la ONU con una advertencia de uno de sus principales referentes. Sam Altman, CEO de OpenAI, sostuvo que el avance de los sistemas más capaces podría superar los mecanismos de supervisión existentes y advirtió: “Podríamos perder el control del futuro ante la IA”.
Altman participó este miércoles de una reunión del organismo integrado por 15 países, dedicada a analizar los riesgos y desafíos vinculados con el desarrollo de la inteligencia artificial. Durante su intervención, pidió avanzar con “extremo cuidado” y sostuvo que las decisiones sobre una tecnología con impacto global no pueden quedar únicamente en manos de los laboratorios que desarrollan los modelos.
El empresario no planteó detener el desarrollo de la IA. Por el contrario, destacó sus posibles beneficios para la productividad, la investigación científica y la capacidad de las personas. Su planteo estuvo centrado en la necesidad de establecer controles que acompañen el crecimiento de las capacidades de estos sistemas.
“No queremos caer en la trampa del optimismo ciego. Tampoco podemos sucumbir al catastrofismo”, sostuvo Altman al plantear una posición intermedia frente al debate sobre el futuro de la tecnología. Según explicó, los modelos actuales son capaces de realizar tareas cada vez más complejas, utilizar herramientas externas y operar con mayores niveles de autonomía.
El desafío, planteó, es garantizar que las instituciones y los mecanismos de supervisión puedan avanzar al mismo ritmo.
Qué propone Altman para controlar la IA
Durante su exposición ante Naciones Unidas, el CEO de OpenAI reclamó una mayor participación de los gobiernos en la elaboración de estándares para los sistemas más avanzados.
Entre las medidas planteadas aparecen mecanismos internacionales para evaluar las capacidades de los modelos, analizar sus riesgos antes de ponerlos en funcionamiento, verificar que las medidas de seguridad sean efectivas y establecer sistemas para informar incidentes graves. También propuso compartir información sobre vulnerabilidades críticas y mantener la supervisión humana sobre las decisiones vinculadas con los sistemas de inteligencia artificial.
Uno de los puntos centrales de su intervención fue la necesidad de evitar que el desarrollo y el poder asociado a la IA queden concentrados en una sola empresa o país. “A nivel internacional, esto significa cooperación”, afirmó.
Altman sostuvo que las decisiones más importantes sobre el futuro de esta tecnología deben estar atravesadas por procesos democráticos y por la participación de los gobiernos, en lugar de quedar exclusivamente dentro de los laboratorios tecnológicos.
El debate sobre los límites de la inteligencia artificial
En las últimas semanas, varios investigadores y especialistas vinculados con empresas de IA expresaron preocupación por la velocidad con la que avanza la tecnología.
En Anthropic, distintos investigadores plantearon públicamente escenarios de riesgo vinculados con sistemas capaces de desarrollar capacidades difíciles de controlar. Estas advertencias contribuyeron a intensificar el debate sobre la necesidad de establecer límites y mecanismos de supervisión antes de que los modelos alcancen niveles superiores de autonomía.
Uno de los puntos que aparece con mayor frecuencia en esta discusión es la posibilidad de que los sistemas desarrollen capacidades que sus propios creadores no puedan comprender o controlar completamente.
En ese contexto, la intervención de Altman ante el Consejo de Seguridad de Naciones Unidas puso el foco en una cuestión que dejó de estar limitada a los laboratorios tecnológicos: cómo garantizar que el desarrollo de la inteligencia artificial avance acompañado por mecanismos internacionales de seguridad y supervisión humana.