La inteligencia artificial atraviesa una nueva etapa de evolución y, con ella, aparecen desafíos inéditos para el sistema financiero mundial. El reciente episodio protagonizado por modelos avanzados de OpenAI, que durante pruebas controladas lograron encontrar vulnerabilidades y ejecutar acciones no previstas por sus desarrolladores, volvió a poner el foco sobre los riesgos de la denominada IA agente o IA autónoma.

Aunque el hecho ocurrió en un entorno de investigación, especialistas advierten que representa una señal de alerta para bancos, fintech y billeteras digitales, que cada vez incorporan más inteligencia artificial en procesos críticos.

Del chatbot al agente inteligente

Hasta hace poco, la mayoría de las aplicaciones de IA se limitaban a responder consultas o generar contenido. Sin embargo, los nuevos agentes inteligentes pueden ejecutar acciones, interactuar con sistemas externos, consultar bases de datos, modificar procesos o utilizar herramientas digitales para alcanzar un objetivo.

Ese cambio implica un salto tecnológico importante: si un sistema con permisos elevados toma decisiones equivocadas o encuentra caminos inesperados para cumplir una tarea, el impacto potencial puede ser mucho mayor que el de un simple error en una respuesta.

Un desafío para el sistema financiero

La banca y las fintech utilizan inteligencia artificial para prevención del fraude, análisis crediticio, atención al cliente, monitoreo de operaciones y personalización de servicios.

La creciente incorporación de estos sistemas también amplía la superficie de exposición frente a nuevas amenazas, especialmente cuando la IA puede interactuar directamente con infraestructura tecnológica, APIs o información sensible.

Especialistas sostienen que la seguridad ya no puede centrarse únicamente en detener atacantes humanos. También deberá contemplar escenarios donde programas inteligentes sean capaces de identificar vulnerabilidades, adaptarse y continuar operando automáticamente.

Cuatro prioridades para la nueva ciberseguridad

Entre las principales recomendaciones aparecen cuatro ejes:

* aplicar modelos de seguridad "Zero Trust", donde ningún sistema recibe privilegios permanentes;

* proteger modelos, datos y prompts como nuevos activos críticos;

* desarrollar infraestructura tecnológica con mayor control sobre la información estratégica;

* avanzar hacia esquemas de criptografía preparados para la futura computación cuántica.

Estas medidas buscan reducir la posibilidad de que agentes inteligentes puedan acceder a recursos sensibles o ejecutar acciones fuera de los límites establecidos.

Un debate que recién comienza

Más allá de la regulación, varios especialistas consideran que el desafío principal pasa por fortalecer la infraestructura tecnológica y la capacidad local para operar inteligencia artificial en sectores estratégicos.

En ese contexto, el concepto de soberanía tecnológica gana protagonismo: la posibilidad de que información crítica vinculada con finanzas, energía, salud o defensa pueda procesarse bajo infraestructura controlada localmente, sin depender completamente de plataformas externas.

La irrupción de agentes inteligentes marca un nuevo capítulo en la evolución de la inteligencia artificial. Para el sistema financiero, el desafío ya no consiste únicamente en aprovechar las oportunidades que ofrece esta tecnología, sino también en construir mecanismos de seguridad capaces de responder a un escenario donde las amenazas evolucionan al mismo ritmo que la innovación.