Estamos en plena transición de los chatbots a los agentes de IA. La diferencia parece sutil pero es enorme: un chatbot responde, un agente actúa. Y cuando un sistema de IA gana la capacidad de ejecutar acciones reales en tus sistemas, el cálculo de riesgo cambia por completo.
Si tu empresa está evaluando conectar un agente de IA a su correo, su base de datos, su CRM o sus pagos, este artículo es para vos. Repasamos por qué los agentes son más riesgosos y qué controles aplicar antes de darles acceso.
Qué es un agente de IA y por qué cambia el riesgo
Un agente de IA es un sistema que persigue un objetivo ejecutando acciones de forma autónoma, en varios pasos. En lugar de responder una pregunta, puede: leer tus correos, decidir cuáles requieren acción, redactar respuestas, consultar tu base de datos para obtener información y enviar todo, sin que una persona apruebe cada paso.
Esa autonomía es justamente lo que los hace valiosos. Y también lo que multiplica el riesgo. Un chatbot que es manipulado, en el peor caso, dice algo incorrecto. Un agente que es manipulado puede hacer algo incorrecto, con consecuencias reales.
El cambio de fondo: con los agentes, el riesgo de la IA pasa de ser informativo (qué dice) a ser operativo (qué hace). Un error deja de ser una respuesta equivocada y se convierte en una acción equivocada sobre tus sistemas.
El riesgo de la agencia excesiva
El OWASP LLM Top 10 tiene un riesgo dedicado a esto: LLM06, agencia excesiva. Ocurre cuando se le da al agente más permisos, herramientas o autonomía de la necesaria. Tres formas de agencia excesiva:
- Funcionalidad excesiva: el agente tiene acceso a herramientas que no necesita para su tarea.
- Permisos excesivos: el agente puede hacer más de lo que su función requiere (puede borrar cuando solo necesita leer).
- Autonomía excesiva: el agente ejecuta acciones de alto impacto sin que una persona las apruebe.
El peligro se potencia cuando se combina con prompt injection: si un atacante logra inyectar instrucciones en un correo o documento que el agente procesa, y el agente tiene permisos amplios, esa manipulación se traduce en acciones reales no autorizadas.
Los controles que hay que aplicar antes de conectar un agente
La seguridad de un agente se diseña antes de darle acceso, no después. Estos son los controles fundamentales:
| Control | Qué significa en la práctica |
|---|---|
| Menor privilegio | Darle solo los permisos estrictamente necesarios. Si no necesita borrar, no puede borrar. Si solo necesita leer una tabla, no accede a toda la base. |
| Aprobación humana | Las acciones de alto impacto (pagos, envíos masivos, borrados) requieren que una persona confirme antes de ejecutar. |
| Límites explícitos | Definir qué puede y qué no puede hacer el agente, con barreras técnicas, no solo instrucciones en el prompt. |
| Registro de acciones | Cada acción que ejecuta el agente queda registrada, para auditar y responder rápido ante un incidente. |
| Aislamiento | El agente opera en un entorno acotado, sin acceso lateral a sistemas que no son de su incumbencia. |
| Monitoreo | Vigilar el comportamiento del agente para detectar acciones anómalas en tiempo real. |
Una regla simple para decidir permisos
Ante cada permiso que estés por darle a un agente, hacete esta pregunta: si este agente fuera manipulado por un atacante, ¿qué es lo peor que podría hacer con este permiso? Si la respuesta es inaceptable, el permiso necesita una capa de aprobación humana, o no debería existir.
Este razonamiento, aplicado permiso por permiso, es lo que separa un agente útil y seguro de una bomba de tiempo conectada a tus sistemas.
En la práctica: empezá con agentes de bajo privilegio que solo lean o sugieran, con una persona aprobando las acciones. A medida que ganás confianza en su comportamiento, podés ampliar permisos de forma gradual y controlada.
Los agentes no eliminan la responsabilidad humana
Delegar tareas en un agente de IA no significa delegar la responsabilidad. Si el agente comete un error con impacto real, la responsabilidad legal y reputacional sigue siendo de la empresa. Por eso la supervisión humana no es un freno a la automatización: es parte del diseño de un sistema que se puede usar con tranquilidad.
En Tech del Fuego diseñamos e implementamos agentes de IA con seguridad desde el primer día: permisos mínimos, aprobación humana donde corresponde y monitoreo. Si tu empresa quiere aprovechar la potencia de los agentes sin abrir riesgos innecesarios, agendá un diagnóstico gratuito o conocé nuestros servicios de inteligencia artificial y ciberseguridad.