Excessive Agency
Un sistema de IA puede ejecutar acciones que exceden su fiabilidad, autorización o modelo de supervisión.
agentes autorización aprobación humana
Risk Catalogue / capa de exposición
Risks
Rutas observadas donde la IA generativa conecta lenguaje con datos, identidad, herramientas, permisos o decisiones antes de que el gobierno tenga suficiente agarre.
Insecure Tool Invocation
Sistemas de IA llaman a herramientas o APIs sin validación, autorización, límites de uso o salvaguardas operativas suficientes.
herramientas agentes seguridad de API
Prompt Injection
Instrucciones no confiables entran en un flujo de IA y compiten con la autoridad prevista del sistema.
LLM frontera de confianza seguridad de aplicaciones
Shadow AI
El uso de IA no aprobado o desconocido elimina visibilidad sobre tratamiento de datos, identidad, compras y respuesta a incidentes.
visibilidad política adopción
Sensitive Data Disclosure
Datos empresariales, personales, regulados o secretos pueden moverse por prompts, salidas, registros, recuperación o herramientas conectadas.
protección de datos privacidad gobierno