Risk
Excessive Agency
Un sistema de IA puede ejecutar acciones que exceden su fiabilidad, autorización o modelo de supervisión.
agentes autorización aprobación humana
Exposición
Un sistema de IA puede ejecutar acciones que exceden su fiabilidad, autorización o modelo de supervisión.
Señales
Busca puntos donde lenguaje, datos, identidad, herramientas o autoridad se muevan más rápido que el gobierno de la organización. La señal crítica suele aparecer antes del incidente: permisos amplios, registros ausentes, propietarios ambiguos o decisiones sin revisión.
Fallos probables
El fallo aparece cuando una capacidad se interpreta como autorización. ATLAS marca esa zona como exposición hasta que exista control verificable.
Controles relacionados
- Definir responsables y límites de uso.
- Revisar datos, permisos, herramientas y registros disponibles.
- Conectar la mitigación con controles operativos verificables.