Hitachi Vantara potencia el almacenamiento híbrido en Azure
El 88% de las organizaciones ya utiliza o prueba agentes de IA, pero solo el 40 % de los responsables de su implementación confía en poder aislar y revertir con precisión un fallo. La autonomía de estos sistemas obliga a ampliar los modelos de protección, supervisión y recuperación de información.
La adopción de agentes de inteligencia artificial está avanzando más rápido que la capacidad de muchas organizaciones para controlar sus efectos sobre los datos empresariales. A medida que estos sistemas adquieren autonomía, acceden a aplicaciones corporativas y ejecutan tareas sobre información crítica, un comportamiento inesperado puede dejar de ser un problema limitado al modelo para convertirse en un incidente con consecuencias operativas.
El desafío no consiste únicamente en impedir accesos no autorizados o proteger la información frente a ataques externos. También implica comprender qué agentes intervienen en los procesos, qué datos utilizan, qué acciones ejecutan y cómo responder cuando su comportamiento se aparta de lo previsto.
Un informe de Veeam, Data and AI Trust Gap, dimensiona esta brecha entre adopción y capacidad de respuesta. Según el estudio, el 88 % de las organizaciones utiliza o está probando agentes de IA, pero solo el 40 % de los responsables de estas implementaciones confía en poder aislar y revertir con precisión un fallo relacionado con esta tecnología.
La diferencia entre ambos porcentajes plantea una cuestión relevante para los responsables de tecnología: desplegar agentes es una decisión de automatización, pero mantener el control sobre sus acciones es un problema de arquitectura, seguridad y gobierno de datos.
Cuando un error de IA se convierte en un incidente de datos
Los agentes de IA introducen una variable distinta en los modelos tradicionales de protección de la información. A diferencia de una aplicación que ejecuta instrucciones estrictamente definidas, un agente puede interpretar objetivos, interactuar con diferentes sistemas y realizar acciones encadenadas para completar una tarea.
Esa capacidad amplía sus posibilidades, pero también el alcance potencial de un error. Una instrucción mal interpretada, una interacción no prevista o una decisión incorrecta pueden propagarse entre aplicaciones y afectar información utilizada por distintos procesos empresariales.
El problema adquiere mayor dimensión cuando las organizaciones no tienen visibilidad suficiente sobre los agentes que operan en sus entornos. Sin conocer sus permisos, conexiones y patrones de actividad, resulta más difícil determinar dónde comenzó una desviación y qué información pudo verse comprometida.
La recuperación también representa un desafío. Veeam señala, en su informe Data Trust and Resilience, que solo el 28 % de las empresas afectadas por ransomware logró recuperar por completo los datos comprometidos. Aunque este indicador se refiere a incidentes de ransomware y no a fallos provocados por agentes de IA, permite observar las limitaciones que todavía existen en la capacidad de recuperación de las organizaciones.
La incorporación de sistemas autónomos obliga a considerar esa dificultad desde otra perspectiva: no basta con recuperar información después de un incidente. También hay que identificar qué datos fueron modificados, qué acciones ejecutó el agente y cuál es el punto confiable al que debe regresar la operación.
De la protección de datos al control de las acciones de los agentes
La respuesta de Veeam a este escenario se articula en Agent Commander, una solución orientada a gestionar los riesgos que surgen de la interacción entre los agentes de IA y los datos empresariales.
Su propuesta contempla tres capacidades: detectar, proteger y deshacer.
La primera busca identificar qué agentes existen, qué información utilizan, a qué sistemas acceden y cuándo su actividad se aparta de los parámetros establecidos. La segunda se concentra en aplicar políticas, controles y límites de acceso para reducir la exposición de los datos. La tercera apunta a responder ante un incidente y recuperar información limpia y confiable.
La lógica es relevante porque introduce una dimensión adicional en la resiliencia empresarial. La protección deja de concentrarse exclusivamente en los datos y las aplicaciones para incorporar también el comportamiento de los sistemas autónomos que interactúan con ellos.
Sin embargo, la propuesta de un proveedor debe distinguirse de la capacidad demostrada de una tecnología. Veeam presenta Agent Commander como respuesta a estos desafíos, pero no aporta métricas independientes sobre su eficacia, tiempos de detección o resultados de recuperación. Su contribución deberá evaluarse en entornos reales y frente a escenarios concretos de riesgo.
La gobernanza de IA necesita controles operativos
La supervisión de los agentes también está condicionada por la capacidad de las empresas para convertir sus políticas de gobernanza en mecanismos efectivos. Definir qué puede hacer un agente no garantiza que la organización pueda comprobar continuamente que actúa dentro de esos límites.
Gartner prevé que más del 40 % de los proyectos de IA agéntica se cancelará antes de finalizar 2027 debido al incremento de los costos, la falta de claridad sobre su valor empresarial o la insuficiencia de los controles de riesgo. La previsión refuerza una preocupación que comienza a acompañar la expansión de esta tecnología: la distancia entre experimentar con agentes y conseguir que operen de forma confiable a escala empresarial.
Para los CIO y CISO, el desafío consiste en incorporar la actividad de los agentes a los mecanismos habituales de gobierno y seguridad. Esto requiere identificar cada agente, conocer su identidad y sus permisos, establecer límites sobre la información que puede consultar o modificar y conservar registros que permitan reconstruir sus acciones.
También exige definir qué ocurre cuando un agente se desvía. La organización debe poder limitar su actividad, determinar el alcance del incidente y recuperar información confiable sin depender exclusivamente de la explicación que proporcione el propio sistema afectado.
En ese sentido, la supervisión humana sigue siendo una pieza necesaria, especialmente cuando los agentes participan en procesos críticos o tienen capacidad para ejecutar operaciones con consecuencias financieras, regulatorias u operativas.
La confianza en los datos como condición para escalar la IA
La expansión de la IA agéntica está trasladando parte de la discusión sobre seguridad desde los modelos hacia los entornos en los que estos operan. La calidad de las respuestas importa, pero también la integridad de la información que utilizan, los permisos que reciben y las consecuencias de sus acciones.
Para las empresas, esto supone ampliar el alcance de sus estrategias de resiliencia. Las copias de seguridad y los controles de acceso siguen siendo necesarios, pero deben integrarse con mecanismos de observabilidad, trazabilidad y respuesta capaces de contemplar la actividad de los agentes.
La cuestión de fondo no es cuánto puede automatizar una organización, sino cuánto control conserva cuando delega tareas en sistemas autónomos.
El dato del 88 % de adopción frente al 40 % de confianza en la capacidad de revertir fallos refleja una tensión que los responsables tecnológicos tendrán que resolver antes de extender estos sistemas a procesos cada vez más sensibles. La IA agéntica promete ampliar la capacidad operativa de las empresas, pero esa autonomía solo podrá escalar de forma sostenible si viene acompañada de una capacidad equivalente para supervisar, limitar y corregir sus acciones.
En la nueva etapa de la inteligencia artificial empresarial, la resiliencia no dependerá únicamente de recuperar los datos después de un incidente. También dependerá de reconocer a tiempo cuándo un agente está actuando fuera de lo previsto.
