Tu agente de IA tiene más permisos que tu becario. Y nadie le ha hecho un contrato.
Por qué delegar identidad completa a agentes de IA es una bomba de relojería, y una arquitectura de cinco capas para desactivarla antes del primer incidente.
Etiqueta
Prompt Injection
2 artículos con esta etiqueta.
Prompt Injection explicado para profesionales de ciberseguridad
Prompt Injection es un problema de conflicto de instrucciones en sistemas que mezclan objetivos confiables con contenido no confiable.