Riesgo
Envenenamiento de datos y modelos
Los datos de entrenamiento, ajuste fino o embeddings se manipulan deliberadamente para introducir vulnerabilidades, sesgos o puertas traseras que comprometen la seguridad, el rendimiento o el comportamiento ético del modelo resultante.
- Dominio
- Data
- Model
- Mecanismo
- Integrity
- Frontera
- Entre los datos de entrenamiento, ajuste o embeddings y los pesos del modelo
- Disparador
- Se introducen datos de entrenamiento o ajuste manipulados
- Consecuencia
- Se comprometen la integridad y el comportamiento del modelo; puertas traseras o sesgos
- Evidencia requerida
- Procedencia y hashes de datasets
- Registros de auditoría de entrenamiento y ajuste
- Pruebas de puertas traseras de comportamiento
Exposición
Los datos de entrenamiento, ajuste fino o embeddings se manipulan deliberadamente para introducir vulnerabilidades, sesgos o puertas traseras que comprometen la seguridad, el rendimiento o el comportamiento ético del modelo resultante.
Señales
Busca puntos donde lenguaje, datos, identidad, herramientas o autoridad se muevan más rápido que el gobierno de la organización. La señal crítica suele aparecer antes del incidente: permisos amplios, registros ausentes, propietarios ambiguos o decisiones sin revisión.
Fallos probables
El fallo aparece cuando una capacidad se interpreta como autorización. ATLAS marca esa zona como exposición hasta que exista control verificable.
Controles relacionados
- Definir responsables y límites de uso.
- Revisar datos, permisos, herramientas y registros disponibles.
- Conectar la mitigación con controles operativos verificables.
Procedencia
- SOURCE
-
- OWASP Top 10 for LLM Applications 2026 ↗ external_authority
- MAPPED
- No registrado
- ANALYZED
- No registrado
- UNRESOLVED
- No registrado
Última revisión: 20 sept 2026