La IA agéntica pone a prueba el gobierno de las empresas: del discurso al código

La autonomía de los agentes de inteligencia artificial obliga a las organizaciones a traducir sus políticas de uso en reglas técnicas, mecanismos de observabilidad y supervisión humana. Desde su experiencia de crecimiento regional, NYXN plantea que el reto ya no consiste únicamente en desarrollar agentes, sino en integrarlos en las operaciones bajo controles verificables.

La inteligencia artificial agéntica abre una nueva etapa en la automatización empresarial. Los sistemas ya no se limitan a responder preguntas o generar contenido: pueden ejecutar tareas, conectarse con aplicaciones corporativas y encadenar acciones para cumplir objetivos. Sin embargo, cuanto mayor es su capacidad de actuación, más difícil resulta mantener bajo control sus decisiones, sus permisos y sus efectos sobre los procesos de negocio.

El desafío, por tanto, no se resuelve incorporando una política de uso responsable de la inteligencia artificial o aprobando un marco corporativo de gobernanza. Es necesario llevar esas decisiones al terreno de la ingeniería: establecer qué puede hacer cada agente, qué información puede consultar, cuándo debe detenerse y cómo se verifica que sus acciones respetan las reglas de la organización.

Esta es una de las cuestiones que aborda NYXN, compañía que ha situado la inteligencia artificial agéntica en el centro de su propuesta empresarial. Daniel Villa Camacho, CEO de la firma, interpreta el crecimiento de la compañía como una señal de la demanda que existe en América Latina por soluciones capaces de convertir la IA en resultados concretos. David Casillas, su CTIO, pone el foco en la dificultad técnica que acompaña esa oportunidad: construir sistemas cuyo comportamiento pueda verificarse y gobernarse.

De la oportunidad de negocio a la responsabilidad operativa

La visión de Villa Camacho ayuda a entender la dimensión empresarial del fenómeno. En el comunicado de la compañía, el CEO sostiene que la creación de NYXN permitió reunir capacidades y experiencia que ya se estaban desarrollando para responder a una necesidad creciente entre las empresas latinoamericanas.

“Este primer año confirmó la oportunidad de convertir la inteligencia artificial en resultados concretos para las organizaciones”, señala Villa Camacho, quien vincula el crecimiento de la compañía con la demanda del mercado y con el desarrollo de una operación de alcance regional y experiencia en distintas industrias.

La afirmación apunta a una transición relevante para los responsables de tecnología. La IA agéntica empieza a plantearse como una capacidad operativa, no solo como una herramienta experimental. Pero ese salto también cambia la naturaleza de las decisiones que deben tomar los CIO y los líderes de transformación digital: ya no basta con evaluar la utilidad de un modelo o la productividad que ofrece una automatización. Hay que determinar qué nivel de autonomía puede concederse, qué riesgos introduce y quién responde cuando una acción automatizada afecta al negocio.

El crecimiento de la oferta y de la demanda no elimina esas preguntas. Al contrario, las vuelve más urgentes. Un agente conectado a los sistemas corporativos puede acelerar un proceso legítimo, pero también ampliar el alcance de un error, de una instrucción maliciosa o de una credencial comprometida.

“Este primer año confirmó la oportunidad de convertir la inteligencia artificial en resultados concretos para las organizaciones”. DANIEL VILLA CAMACHO, CEO DE NYXN

Cuando un agente puede actuar en nombre de la empresa

Durante una conversación sobre estos desafíos, Casillas planteó un escenario hipotético que ilustra el riesgo. Si un atacante consiguiera credenciales de acceso a la nube y pudiera interactuar con un agente conectado al correo corporativo, podría intentar utilizarlo para redactar un mensaje que imitara las instrucciones de un CEO y solicitara al área financiera una transferencia de diez millones de dólares.

No se trata de un incidente reportado por NYXN, sino de un ejemplo de cómo la combinación de permisos, identidad digital y capacidad de ejecución puede abrir nuevas vías de ataque. El riesgo no depende exclusivamente de que el modelo genere una respuesta incorrecta. También importa qué herramientas tiene disponibles, a qué sistemas puede acceder y qué controles existen antes de que una acción produzca consecuencias.

La diferencia respecto de un chatbot tradicional es significativa. Un sistema que únicamente genera texto puede inducir a error; un agente integrado en los flujos corporativos podría, si dispone de permisos suficientes, convertir ese error en una acción. Por eso, la evaluación de seguridad debe abarcar el conjunto del sistema: modelo, datos, identidad, herramientas, autorizaciones y supervisión.

Casillas identifica dos preocupaciones centrales: el uso no autorizado o fuera de control de la IA y las brechas de seguridad, además de la dependencia operativa que puede aparecer cuando una organización confía en servicios de inteligencia artificial cuya interrupción afectaría a sus procesos.

La gobernanza debe llegar a la arquitectura

Para Casillas, el reto técnico consiste en superar la idea de que generar código, documentación o respuestas representa el trabajo completo de un agente. En procesos críticos, explica, la empresa debe demostrar que cada resultado cumple las reglas del negocio, definir qué puede hacer el sistema sin intervención humana y garantizar que su operación sea verificable.

“Por eso estamos enfocando nuestros esfuerzos en la arquitectura, las pruebas y el gobierno de IA”, afirma el CTIO de NYXN. Son esas capacidades, añade, las que permiten pasar de experimentos prometedores a sistemas confiables que las empresas puedan incorporar a sus operaciones.

La distinción es importante porque la gobernanza suele formularse en términos generales: principios éticos, políticas internas, comités de supervisión o recomendaciones para los empleados. Esos mecanismos pueden establecer el marco de actuación, pero no sustituyen los controles técnicos que deben operar cuando un agente intenta acceder a un dato, ejecutar una acción o comunicarse con otro sistema.

En la práctica, una arquitectura de IA gobernable debe traducir las políticas en permisos concretos, límites de actuación, pruebas y mecanismos de registro. También debe determinar qué decisiones requieren autorización humana y cómo se detectan comportamientos anómalos. La supervisión no puede depender exclusivamente de que una persona revise cada respuesta, especialmente cuando los agentes operan a velocidad de máquina o intervienen en varios procesos a la vez.

Casillas recurrió a una analogía con la separación de los poderes del Estado para explicar la necesidad de establecer reglas, observar el comportamiento de los sistemas y preparar a los equipos para utilizar la IA de manera adecuada. Más allá de la metáfora, el planteamiento reúne tres responsabilidades complementarias: definir los límites, vigilar su cumplimiento y desarrollar las capacidades humanas necesarias para trabajar con estos sistemas.

“Son esas capacidades las que permiten pasar de experimentos prometedores a sistemas confiables que las empresas pueden incorporar a sus operaciones”, DAVID CASILLAS · CTIO DE NYXN

Del ciclo de desarrollo a la operación

NYXN asegura que su marco Forge busca integrar agentes en distintas etapas del ciclo de ingeniería de software, desde el descubrimiento y el diseño hasta las pruebas, la puesta en producción y las operaciones. La propuesta pretende incorporar controles y criterios de calidad a lo largo del proceso, en lugar de tratar la gobernanza como una revisión que se realiza únicamente al final.

La compañía también describe el uso de agentes de vigilancia que revisan registros y servicios asociados a los agentes que trabajan en producción, con capacidad para alertar sobre anomalías y ejecutar acciones correctivas. Es una aproximación que, según NYXN, busca ampliar la observabilidad y detectar desviaciones mientras los sistemas están funcionando.

La utilidad de este enfoque dependerá de cómo se definan las señales de alerta, los permisos de actuación y los mecanismos de escalamiento. Un agente encargado de corregir una anomalía también necesita límites, trazabilidad y condiciones claras para solicitar intervención humana. Automatizar la supervisión no elimina la necesidad de gobernarla: introduce una nueva capa que debe diseñarse y evaluarse.

En este punto, la experiencia empresarial y la ingeniería vuelven a encontrarse. La oportunidad de mercado que describe Villa Camacho solo podrá sostenerse si las organizaciones consiguen integrar la IA en sus procesos sin perder visibilidad sobre las decisiones que toma ni sobre las consecuencias de sus acciones.

Una certificación no sustituye el control de cada despliegue

NYXN señala que cuenta con la certificación ISO/IEC 42001, estándar relacionado con los sistemas de gestión de inteligencia artificial, y que su marco Forge incorpora esa orientación de gobernanza. Se trata de un elemento relevante en la manera en que la compañía presenta su propuesta, aunque es importante distinguir entre disponer de un sistema de gestión certificado y garantizar el comportamiento de cada agente en cualquier escenario.

La certificación no elimina por sí sola los riesgos de una implementación concreta. Cada despliegue sigue dependiendo de la calidad de su diseño, de los datos utilizados, de los permisos asignados, de las pruebas realizadas y de los controles que establece la empresa que lo pone en funcionamiento.

Ante la duda sobre cómo se recompone la interacción humana ante el margen de error de la inteligencia artificial y la falta de control generalizada en las organizaciones, David Casillas aclara que la inteligencia artificial acelera al talento humano en función de sus conocimientos técnicos, comparando la herramienta con un ejército donde los agentes actúan como soldados rasos dirigidos por capitanes expertos. Asimismo, ante la falta de un marco estandarizado en las organizaciones para marca el punto de apalancamiento para impulsa el éxito de los proyectos, Casillas rescata el valor de las normas, como la internacional ISO 42001 para garantizar la calidad, seguridad y gobernanza en las operaciones de inteligencia artificial.

Para los CIO, esta distinción tiene implicaciones prácticas. La evaluación de un proveedor de IA agéntica no debería limitarse a medir la velocidad de desarrollo o el ahorro potencial. También debe examinar cómo se registran las acciones, qué evidencias permiten auditar el comportamiento, cómo se gestionan las excepciones y quién conserva la autoridad para detener un agente cuando su actuación se desvía de los objetivos.

La autonomía necesita límites verificables

La IA agéntica promete ampliar la capacidad de ejecución de las organizaciones, pero la autonomía no equivale a delegar sin condiciones. Cuanto más cerca esté un agente de los datos sensibles, de los sistemas financieros o de los procesos que mantienen en marcha el negocio, más importante será establecer límites explícitos y mecanismos de control que funcionen durante toda su operación.

La visión empresarial de Daniel Villa Camacho pone de relieve la oportunidad de convertir la inteligencia artificial en resultados y ampliar su adopción en América Latina. La perspectiva técnica de David Casillas recuerda que esa oportunidad requiere una base menos visible, pero decisiva: arquitectura, pruebas, observabilidad y gobierno.

Para los líderes de tecnología, la cuestión ya no es únicamente qué tareas puede ejecutar un agente. La pregunta crítica es si la organización puede explicar, verificar y controlar lo que hace. Ahí es donde la gobernanza deja de ser un documento corporativo y se convierte en una propiedad de los sistemas que la empresa decide poner en producción.