Los agentes de inteligencia artificial amplían los desafíos de seguridad en las empresas

 La incorporación de agentes de IA en los entornos empresariales está transformando la manera en que se ejecutan tareas y se utilizan herramientas digitales. Sin embargo, su capacidad para actuar de forma autónoma también introduce nuevos riesgos: una instrucción puede desencadenar múltiples comandos, mientras que las conexiones con otras plataformas amplían el alcance de sus acciones y la exposición de información sensible.

Un estudio de Phantom Labs, laboratorio de investigación de BeyondTrust, analizó la actividad de agentes de IA para programación en entornos empresariales y encontró señales de esta creciente complejidad. En el estudio se examinaron datos de actividad en dispositivos con Windows y macOS para comprender cómo operan estos agentes y qué riesgos pueden surgir de sus interacciones con otros sistemas.

Una instrucción puede desencadenar múltiples acciones

Los resultados evidencian que la actividad de los agentes de IA va más allá de las instrucciones que reciben inicialmente. Entre los principales hallazgos se encuentran:

• 1,28 millones de comandos solicitados a partir de 132.000 instrucciones. En cuatro semanas, los agentes de programación solicitaron cerca de 10 comandos por cada instrucción recibida. Esto demuestra que una sola petición puede desencadenar múltiples acciones, por lo que las organizaciones necesitan comprender qué hacen estos sistemas durante su ejecución y verificar que sus acciones se mantengan dentro de los límites previstos.
• El 85% de los usuarios analizados tenía al menos una conexión con servidores MCP. Estos servidores permiten a los agentes conectarse con herramientas y plataformas externas. El promedio fue de 4,35 servidores por usuario conectado, con un caso que alcanzó los 36 servidores. Cuantas más conexiones existen, mayor es el alcance potencial de un agente y el riesgo de que un acceso comprometido se utilice para actuar en otras plataformas o exponer información.
• Las habilidades que utilizan los agentes de IA también requieren controles de seguridad. Cerca de la mitad de las instalaciones analizadas provenía de repositorios de código, y los usuarios que contaban con estas habilidades tenían alrededor de 24 instaladas en promedio. Aunque al menos una de cada siete se utilizó durante las cuatro semanas del estudio, su presencia representa un aspecto que las empresas deben considerar: estos componentes pueden incluir código e influir en las acciones de los agentes, por lo que aquellos que estén manipulados o no hayan sido autorizados podrían convertirse en una vía de riesgo.

La seguridad debe evolucionar al ritmo de la IA

“Los agentes de IA están asumiendo cada vez más tareas en nombre de los empleados y, en muchos casos, operan con los mismos niveles de acceso que ellos. Esto plantea un desafío para las organizaciones, porque ya no basta con saber quién tiene acceso a un sistema: también es necesario entender qué acciones realiza un agente, con qué permisos y en qué contexto. La seguridad debe permitir que las empresas aprovechen las capacidades de la IA, sin perder visibilidad ni control sobre las actividades que esta ejecuta”, señaló Javier Fernández, Territory Sales Manager para la región NOLA de BeyondTrust.

Frente a este escenario, las organizaciones necesitan una estrategia que combine tres capacidades: visibilidad para identificar qué agentes operan en sus dispositivos; inteligencia para diferenciar las acciones de las personas de las ejecutadas por la IA y comprender su contexto; y protección para establecer límites antes de que se realicen acciones no autorizadas, con mecanismos de aprobación humana o permisos temporales cuando sean necesarios.

En respuesta a estos desafíos, BeyondTrust cuenta con AI Agent Security, desarrollada conjuntamente por Phantom Labs y el equipo responsable de BeyondTrust Endpoint Privilege Management (EPM), una solución disponible para dispositivos con Windows y macOS. La herramienta permite identificar la actividad de los agentes de IA, evaluar sus acciones frente a las políticas de seguridad durante su ejecución y controlar qué tienen permitido hacer, sin restringir las actividades que los empleados necesitan realizar para cumplir sus funciones.

A medida que los agentes de IA ganan autonomía y se integran con más herramientas empresariales, las organizaciones enfrentan el reto de equilibrar innovación y seguridad. Comprender cómo actúan estos sistemas, qué accesos utilizan y hasta dónde pueden llegar será fundamental para aprovechar su potencial sin dejar de proteger los activos digitales y la información del negocio.

Metodología de la investigación

BeyondTrust Phantom Labs® analizó la telemetría de endpoints relacionada con la actividad de agentes de IA para programación a partir de muestras iniciales de clientes, incluidos los comandos de shell solicitados. Los hallazgos sobre MCP reflejan la actividad observada en usuarios de agentes de programación en Windows y macOS e incluyen servidores configurados localmente y servidores añadidos mediante complementos. Las cifras de comandos de shell corresponden a comandos solicitados por los agentes, que no necesariamente se ejecutaron con éxito.