Hitachi Vantara potencia el almacenamiento híbrido en Azure
La IA agéntica promete liberar a las organizaciones de miles de tareas rutinarias. Pero a medida que los agentes ganan autonomía, el trabajo humano no desaparece: se desplaza hacia la vigilancia, la validación y la toma de decisiones sobre lo que hacen las máquinas.
Un analista de seguridad revisa las decisiones de un agente que clasifica incidentes. Un desarrollador valida código generado por otro. Un responsable financiero comprueba una recomendación antes de autorizar una operación. Un ejecutivo revisa una alerta producida por un sistema que lleva horas actuando sin intervención humana. Son escenas cada vez más habituales en empresas que están incorporando agentes de inteligencia artificial a sus operaciones, y empiezan a revelar un problema que todavía no aparece en muchos cuadros de mando: la fatiga de supervisión algorítmica.
En todos estos casos, la automatización está haciendo aquello para lo que fue diseñada: procesar información, identificar patrones, generar respuestas y ejecutar determinadas tareas. Sin embargo, hay algo que permanece fuera de la automatización. Alguien tiene que observar el resultado, determinar si tiene sentido y decidir qué hacer cuando la máquina se equivoca.
Se trata de nuevas tensiones que comienzan a surgir en esta nueva etapa de la inteligencia artificial empresarial. La automatización puede reducir el trabajo operativo y aumentar, al mismo tiempo, la capacidad humana necesaria para supervisarla.
El concepto de fatiga de supervisión algorítmica, no pretende convertirse en una nueva etiqueta académica. Es una categoría para describir un fenómeno que emerge de varios problemas que esas investigaciones ya están documentando: la proliferación acelerada de agentes, la pérdida de visibilidad sobre los sistemas desplegados, el aumento de los incidentes que requieren intervención humana y la insuficiente madurez de los modelos de gobierno.
La cuestión tiene una importancia particular para el CIO.
La inteligencia artificial puede reducir la cantidad de trabajo que realizan las personas mientras aumenta la cantidad de decisiones automatizadas que esas mismas personas deben comprender, validar o corregir.
Y esa ecuación merece una revisión.
La IA puede eliminar la ejecución de una tarea, pero no necesariamente elimina la responsabilidad sobre su resultado. Cuando los agentes empiezan a tomar decisiones de forma autónoma, el trabajo humano se desplaza hacia la supervisión. Y esa supervisión también tiene un costo.
El CIO está perdiendo visibilidad mientras aumenta su responsabilidad
Los datos del IBM Institute for Business Value ofrecen una fotografía especialmente reveladora de esta transición.
Una investigación publicada en junio de 2026, entre 2.000 ejecutivos tecnológicos C-level, encontró que dos tercios de los CIOs y CTOs son responsables de sistemas de IA que no controlan completamente. El 70% afirmó que distintas áreas de la organización están desplegando tecnología más rápido de lo que TI puede rastrearla, mientras apenas 11% considera que su empresa está completamente preparada para la escala de agentes que se avecina.
La misma investigación reveló que 77% de las organizaciones considera que la adopción de IA está superando sus capacidades actuales de gobierno. Los ejecutivos encuestados reportaron, además, un promedio de 54 incidentes relacionados con agentes durante el último año que requirieron intervención humana.
La magnitud del problema puede aumentar rápidamente. Los participantes esperan un incremento de 38% en el número de agentes desplegados durante 2027.
Estos datos muestran una contradicción que puede resultar decisiva para el futuro del rol del CIO. Por un lado, la empresa está descentralizando la adopción de inteligencia artificial y multiplicando los sistemas capaces de actuar de forma autónoma. Por otro, la responsabilidad sobre seguridad, arquitectura, riesgo, cumplimiento y continuidad tecnológica sigue recayendo, en buena medida, sobre el área de TI.
El resultado es una especie de brecha de control.
El CIO tiene que responder por un ecosistema tecnológico que, en algunos casos, ya crece más rápido de lo que puede ser inventariado, comprendido y gobernado.
Por eso la pregunta empieza a cambiar: Ya no se trata solamente de cuántos agentes tendrá una organización, sino de cuántos podrá gobernar correctamente.
El problema del CIO ya no es solamente controlar la tecnología que la empresa despliega. Es mantener la capacidad de gobierno sobre una tecnología que se está desplegando más rápido de lo que la organización puede inventariar, observar y comprender.
Cuando la automatización cambia el rol del trabajo humano
La automatización tradicional tenía una lógica relativamente sencilla. Se identificaba una tarea repetitiva, se definían unas reglas y se trasladaba su ejecución a un sistema tecnológico.
Los agentes de inteligencia artificial introducen una configuración diferente porque no se limitan a ejecutar instrucciones predeterminadas. Pueden interpretar información, consultar diferentes fuentes, utilizar herramientas, construir planes, tomar decisiones dentro de determinados límites y ejecutar acciones.
La persona aparece entonces en otro punto del proceso:
Puede definir las condiciones bajo las cuales el agente debe actuar, validar determinadas decisiones, intervenir cuando aparece una anomalía o asumir aquellas situaciones que requieren contexto y juicio.
El trabajo humano no desaparece. Cambia de posición dentro del proceso.
Esta transformación tiene una consecuencia que puede resultar más importante de lo que parece. Ejecutar una tarea y supervisar una decisión son actividades cognitivamente diferentes.
La ejecución tiene un comienzo y un final relativamente claros. La supervisión exige mantener un estado de alerta mientras se observa un flujo continuo de acontecimientos. La mayor parte de las decisiones serán normales; el valor del supervisor aparece precisamente cuando algo se desvía.
Ahí reside la dificultad.
Un agente puede procesar miles de operaciones durante el tiempo en que un profesional mantiene la atención sobre una sola pantalla. Y aunque la mayoría de esas operaciones sean correctas, el supervisor sigue necesitando detectar aquella que no lo es, comprender por qué se produjo y decidir si la situación requiere intervención.
La máquina puede mantener la vigilancia indefinidamente.
La atención humana no.
El problema de poner un humano “en el circuito”
Durante los primeros años de adopción de la IA generativa, human in the loop se convirtió en una de las respuestas más habituales ante los riesgos de automatización. La fórmula parecía razonable: permitir que la máquina hiciera el trabajo y mantener a una persona para revisar el resultado.
El problema aparece cuando el volumen aumenta.
Un humano que debe revisar cada decisión producida por un sistema suficientemente autónomo puede terminar convertido en el cuello de botella de un proceso que precisamente se había automatizado para eliminar cuellos de botella.
Una investigación de IBM sobre gobierno de IA advierte sobre los límites de una supervisión humana entendida únicamente como presencia formal. Para que exista verdadero control, la persona necesita contexto suficiente, autoridad para intervenir y capacidad efectiva para cuestionar o detener una acción.
La diferencia es fundamental.
Un empleado que recibe cientos de decisiones generadas automáticamente y pulsa “aprobar” en la mayoría de ellas no necesariamente está gobernando la IA. Puede estar legitimando un proceso cuyo funcionamiento ya no comprende completamente.
Por eso, el debate sobre human in the loop necesita evolucionar hacia una cuestión más sofisticada: ¿en qué decisiones aporta realmente valor la intervención humana y cuáles pueden resolverse mediante controles automáticos?
La respuesta determinará si la IA libera capacidad o simplemente cambia el tipo de trabajo que consume.
La IA agéntica está avanzando más rápido que sus mecanismos de control
La brecha entre capacidad tecnológica y capacidad de gobierno también ha sido un hallazgo crítico para los investigadores de Deloitte. En su estudio State of AI in the Enterprise 2026, basado en más de 3.200 líderes de tecnología y negocio de 24 países, encontró que solo 21% de las organizaciones dispone de un modelo maduro de gobierno para IA agéntica. Cerca de 80% todavía carece de capacidades maduras relacionadas con límites de autonomía, monitorización en tiempo real y registros completos de las acciones de los agentes.
El dato revela una asimetría que merece atención. Las empresas están construyendo sistemas capaces de tomar más decisiones mientras una proporción considerable de ellas todavía está desarrollando los mecanismos necesarios para saber qué están haciendo esos sistemas.
Deloitte encuentra, además, un patrón entre las organizaciones que están obteniendo mejores resultados: comienzan con casos de menor riesgo, desarrollan capacidades específicas de gobierno y crean estructuras en las que participan TI, negocio, legal y cumplimiento.
La conclusión no es que la IA agéntica deba frenarse. Es exactamente la contraria. La velocidad de adopción y la capacidad de gobierno tienen que crecer juntas.
Cuando una organización aumenta la autonomía de sus sistemas sin aumentar proporcionalmente su capacidad de observación y control, la automatización empieza a acumular una deuda que tarde o temprano tendrá que pagar.
Supervisar más no resolverá el problema
Existe una reacción natural cuando aparece una tecnología con mayor autonomía: aumentar los controles. En el caso de los agentes, esa respuesta puede terminar agravando el problema.
Si cada nuevo sistema incorpora nuevos puntos de revisión humana, la estructura de supervisión crece junto con la automatización. El ahorro obtenido en la ejecución comienza entonces a compensarse con el tiempo dedicado a verificar, corregir y aprobar las decisiones de las máquinas.
La alternativa consiste en introducir niveles de autonomía asociados al riesgo.
Gartner ha planteado precisamente esta necesidad. No todos los agentes deberían recibir el mismo nivel de autonomía ni estar sometidos a los mismos mecanismos de control. Un sistema que observa información no representa el mismo riesgo que otro capaz de modificar configuraciones, acceder a datos sensibles o ejecutar acciones con consecuencias financieras.
En una arquitectura de este tipo, las operaciones de bajo riesgo pueden ejecutarse automáticamente dentro de límites previamente definidos. Las situaciones intermedias pueden someterse a muestreo o evaluación automática, mientras que las decisiones de alto impacto, las anomalías o los casos que excedan determinados umbrales requieren intervención humana.
El objetivo no es retirar a las personas del proceso. Es evitar que tengan que estar presentes en cada decisión.
Cinco cambios para reducir la fatiga de supervisión
1. Supervisión por excepción
El primer cambio consiste en dejar de entender la supervisión como una revisión universal.
Un agente que opera en un entorno de bajo riesgo y produce resultados consistentes no necesita necesariamente que una persona valide cada ejecución. Puede funcionar dentro de límites preestablecidos y solicitar intervención cuando detecta incertidumbre, información insuficiente, conflictos entre reglas, comportamiento anómalo o una acción de impacto elevado.
Esta arquitectura modifica la distribución del trabajo:
- La máquina procesa y filtra.
- La persona concentra su atención en las excepciones.
Parece una diferencia operacional. En realidad, es un cambio en la economía de la atención dentro de la empresa.
2. Una identidad propia para cada agente
La proliferación de agentes introduce otra cuestión que hasta ahora pertenecía principalmente al ámbito de la gestión de identidades humanas:
¿Quién está actuando?
Un agente que utiliza las credenciales de un empleado puede terminar heredando una superficie de acceso mucho mayor de la que necesita para cumplir su función.
Microsoft está desarrollando un modelo específico de identidad para agentes dentro de Microsoft Entra, con mecanismos para asignarles identidades propias, permisos diferenciados, responsables humanos y ciclos de vida administrables.
El principio es conocido en ciberseguridad: mínimo privilegio también para la inteligencia artificial.
Un agente que puede consultar información no necesita necesariamente modificarla. Uno que puede recomendar una operación no tiene por qué ejecutarla. Y un permiso concedido para resolver una tarea concreta no debería transformarse automáticamente en acceso permanente.
La identidad del agente pasa así a formar parte de la arquitectura de seguridad.
3. Observar el comportamiento, no solamente la infraestructura
DevOps dejó una lección que adquiere una dimensión diferente cuando el software comienza a tomar decisiones: no se puede operar aquello que no se puede observar.
En un entorno de agentes, la observabilidad ya no puede limitarse a disponibilidad, latencia o consumo de infraestructura. El CIO necesita conocer qué agente está actuando, con qué identidad, qué información está utilizando, qué herramientas está invocando, qué acciones ejecuta, cuándo solicita intervención humana y cuántas veces necesita ser corregido.
También necesita identificar cambios en el comportamiento.
Un agente que durante meses ha funcionado correctamente puede empezar a producir resultados diferentes cuando cambia el modelo, las fuentes de datos, el contexto o las herramientas disponibles.
Microsoft está incorporando capacidades de identidad, observabilidad y gobierno dentro del ciclo de vida de los agentes. De ahí surge una disciplina que empieza a tomar forma: AgentOps.
No se trata simplemente de poner una nueva etiqueta sobre DevOps. Se trata de reconocer que operar software capaz de decidir requiere observar algo más que su rendimiento técnico: requiere observar su comportamiento.
4. Convertir las políticas en controles técnicos
Una política corporativa que establece que un agente no puede realizar determinada operación tiene una limitación evidente si el sistema dispone técnicamente de la capacidad para ejecutarla.
La investigación de IBM sobre Governance by Construction plantea incorporar las políticas directamente al tiempo de ejecución de los agentes, aplicando controles en los puntos críticos de su ciclo de actuación.
El cambio conceptual es importante.
El gobierno deja de ser exclusivamente un conjunto de documentos, procedimientos y principios que deben ser interpretados por las personas. Parte de esas reglas comienza a convertirse en controles técnicos capaces de bloquear una acción antes de que ocurra.
Para el CIO, esto representa una transición desde el gobierno basado en declaraciones hacia un modelo de gobierno incorporado en la arquitectura.
5. Medir la carga de supervisión
Existe una métrica que todavía no ocupa un lugar habitual en los business cases de IA: el esfuerzo humano necesario para mantener bajo control una automatización.
El ROI tradicional puede mostrar cuántas horas se ahorran, cuánto aumenta la productividad o cuánto disminuye el costo de una operación. Pero esas métricas no necesariamente capturan el trabajo adicional que aparece cuando los agentes comienzan a tomar decisiones.
El dashboard del CIO debería empezar a observar variables como el tiempo humano de supervisión por cada cien ejecuciones, el porcentaje de decisiones que requieren intervención, la tasa de corrección humana, el número de escalaciones y el tiempo dedicado a revisar excepciones.
El objetivo no es crear otra batería de indicadores.
Es evitar una ilusión de productividad.
Un agente puede ahorrar cien horas de trabajo y requerir sesenta horas de supervisión. El proyecto puede seguir siendo rentable, pero su capacidad de escalar será muy diferente de la que sugiere el ahorro bruto.
La supervisión también tiene un costo.
Del humano en el circuito al humano dentro del sistema de control
El modelo tradicional puede resumirse de una manera sencilla:
- Humano → IA → resultado → humano revisa todo.
Ese esquema funciona mientras el volumen es reducido.
La expansión de los agentes exige otra arquitectura:
- Agente → reglas → evaluación automática → clasificación de riesgo → intervención humana cuando corresponde.
El cambio no consiste en eliminar al humano. Consiste en modificar su función.
La persona deja de actuar como filtro universal y pasa a convertirse en una capa especializada de decisión.
Ese diseño permite reservar el juicio humano para aquellas situaciones en las que aporta algo que la automatización no puede garantizar por sí sola: contexto, interpretación, responsabilidad, criterio ético o capacidad para valorar consecuencias que no están contenidas en los datos disponibles.
La IA, en ese modelo, no sustituye la capacidad de decisión.
La amplifica.
El CIO necesita una nueva métrica: capacidad de supervisión
La primera pregunta de la automatización fue cuántas tareas podían eliminarse. Después llegó una segunda: cuánto tiempo podía ahorrarse. La era de los agentes introduce una tercera pregunta, bastante más incómoda:
¿Cuántas decisiones automatizadas puede supervisar correctamente una organización?
IBM encontró que las organizaciones que incorporan controles directamente en sus sistemas de IA registran menos incidentes y consiguen desplegar agentes a una escala mayor que aquellas que dependen principalmente de mecanismos manuales de gobierno.
Gartner, por su parte, advierte que aplicar un modelo uniforme de gobierno a todos los agentes puede provocar fallos y anticipa que una proporción significativa de las empresas podría degradar o retirar agentes autónomos durante 2027 después de descubrir problemas de gobierno en producción.
Esto convierte la capacidad de gobierno en una nueva dimensión de la madurez tecnológica.
No bastará con demostrar que la organización puede desplegar agentes.
Tendrá que demostrar que puede gobernarlos a escala sin saturar a las personas responsables de hacerlo.
América Latina tiene una oportunidad diferente
Para los CIOs latinoamericanos, esta discusión tiene además una dimensión económica importante. Las organizaciones de la región necesitan aumentar productividad, compensar la escasez de talento especializado y conseguir mayor eficiencia sin asumir necesariamente estructuras de costos equivalentes a las de los mercados más desarrollados.
Eso convierte a la automatización en una oportunidad especialmente atractiva. Pero también hace más costoso equivocarse.
Una estrategia de agentes no debería comenzar preguntando cuántos agentes puede desplegar la organización. El punto de partida debería estar en aquellos procesos donde existe una combinación de alto volumen, repetición, disponibilidad de datos y reglas suficientemente claras como para que la automatización produzca valor sin introducir un riesgo desproporcionado.
A partir de ahí aparecen preguntas más relevantes: qué decisiones necesitan todavía criterio humano, qué acciones deberían permanecer bajo aprobación, qué nivel de autonomía puede asumir cada agente y qué mecanismos permitirán detenerlo cuando su comportamiento se aparte de lo esperado.
El orden importa.
Primero el proceso. Después el nivel de autonomía. Finalmente, la tecnología.
La ventaja competitiva de la empresa agéntica no estará en automatizar el mayor número de decisiones, sino en conseguir que las personas intervengan exactamente donde su criterio tiene más valor.
La próxima ventaja competitiva puede ser la atención humana
La inteligencia artificial está convirtiendo la capacidad de procesamiento en un recurso cada vez más abundante.
La atención humana seguirá siendo escasa.
Esa diferencia puede convertirse en uno de los factores menos visibles de la productividad empresarial.
Una organización puede automatizar millones de decisiones y perder parte del beneficio si obliga a sus profesionales a revisar indiscriminadamente una proporción significativa de ellas. En cambio, puede obtener un efecto multiplicador cuando utiliza la IA para filtrar la complejidad y reserva la intervención humana para las situaciones que realmente necesitan contexto, criterio y responsabilidad.
Ese debería ser uno de los objetivos centrales de la IA empresarial.
No conseguir que las máquinas trabajen sin humanos.
Conseguir que los humanos dejen de gastar su capacidad de juicio en aquello que una máquina puede resolver de manera segura.
La pregunta que debería entrar en el próximo business case de IA
La próxima vez que un proyecto de inteligencia artificial prometa ahorrar 10.000 horas de trabajo, el cálculo del ROI debería incorporar una pregunta que hasta ahora rara vez aparece en la hoja de evaluación: ¿cuántas horas de supervisión serán necesarias para confiar en esas 10.000 horas automatizadas?
La respuesta puede alterar considerablemente el valor real de la iniciativa. No porque la automatización deje de ser rentable, sino porque el ahorro bruto de tiempo no cuenta toda la historia. Un sistema puede eliminar miles de tareas y, al mismo tiempo, crear una nueva demanda de atención, criterio y capacidad de intervención.
Ese es uno de los cambios más profundos que introduce la IA agéntica. La primera etapa de la inteligencia artificial empresarial estuvo orientada a conseguir que las máquinas hicieran más: procesaran información, generaran contenido, escribieran código o analizaran datos. La siguiente tendrá que resolver una cuestión bastante más compleja: cómo distribuir la responsabilidad cuando las máquinas también empiezan a decidir y actuar.
Para el CIO, esto significa pasar de administrar herramientas a diseñar las fronteras de autonomía de la empresa: determinar qué decisiones pueden ejecutarse automáticamente, cuáles requieren una segunda comprobación y dónde la intervención humana sigue siendo irrenunciable.
En ese escenario, identidad, permisos, observabilidad, políticas ejecutables y clasificación de riesgos dejan de ser capas adicionales de seguridad y pasan a formar parte de la propia arquitectura de la IA empresarial. Pero existe otra variable menos visible y probablemente más difícil de gestionar: la atención humana también es una infraestructura. Puede agotarse, dividirse y perder capacidad de respuesta cuando permanece demasiado tiempo expuesta a señales repetitivas.
La fatiga de supervisión algorítmica puede ser, por tanto, apenas el síntoma de una transformación mayor: las organizaciones están aprendiendo a desplegar inteligencia artificial mucho más rápido de lo que están aprendiendo a reorganizar el trabajo alrededor de ella.
La ventaja competitiva de la empresa agéntica no estará necesariamente en tener más agentes ni en concederles mayor autonomía. Estará en saber dónde dejar actuar a las máquinas, dónde exigirles que pidan permiso y dónde reservar la decisión para una persona. Porque el futuro de la IA empresarial no se decidirá únicamente por lo que los sistemas sean capaces de hacer, sino por la capacidad de las organizaciones para determinar qué decisiones merece la pena delegar y cuáles requieren todavía aquello que ninguna arquitectura tecnológica puede automatizar por completo: contexto, criterio y responsabilidad.
