Riesgo
Insecure Tool Invocation
Sistemas de IA llaman a herramientas o APIs sin validación, autorización, límites de uso o salvaguardas operativas suficientes.
herramientasagentesseguridad de API
- Dominio
- Tooling
- Agent
- Mecanismo
- Authorization
- Injection
- Frontera
- Entre el agente y sus herramientas y APIs conectadas
- Disparador
- El agente llama a una herramienta o API sin validación, autorización o límites
- Consecuencia
- Las herramientas se ejecutan con salvaguardas insuficientes
- Evidencia requerida
- Allowlist de herramientas y decisiones de autorización
- Límites de tasa y volumen
- Registros de invocación y resultado
Exposición
Sistemas de IA llaman a herramientas o APIs sin validación, autorización, límites de uso o salvaguardas operativas suficientes.
Señales
Busca puntos donde lenguaje, datos, identidad, herramientas o autoridad se muevan más rápido que el gobierno de la organización. La señal crítica suele aparecer antes del incidente: permisos amplios, registros ausentes, propietarios ambiguos o decisiones sin revisión.
Fallos probables
El fallo aparece cuando una capacidad se interpreta como autorización. ATLAS marca esa zona como exposición hasta que exista control verificable.
Controles relacionados
- Definir responsables y límites de uso.
- Revisar datos, permisos, herramientas y registros disponibles.
- Conectar la mitigación con controles operativos verificables.
Procedencia
- SOURCE
-
- OWASP Top 10 for LLM Applications 2026 ↗ external_authority
- MITRE ATLAS ↗ external_authority
- MAPPED
- No registrado
- ANALYZED
- No registrado
- UNRESOLVED
- No registrado
Última revisión: 20 sept 2026