Glosario
¿Qué es prompt injection (inyección de prompt)?
La prompt injection es un ataque en el que alguien inserta instrucciones maliciosas en un mensaje, documento o página para que un modelo de IA ignore sus reglas originales.
Puede ser directa, cuando el usuario escribe algo como "ignora las instrucciones anteriores", o indirecta, cuando la instrucción viene oculta en un archivo o sitio que la IA lee.
No existe una defensa única. Separar instrucciones de datos, limitar lo que el agente puede acceder y ejecutar y validar acciones sensibles fuera del modelo reducen el riesgo.
Probar el agente con intentos de ataque conocidos antes de publicarlo es parte de una operación de IA responsable.
Las conversaciones no son atención.Son infraestructura.
Entra en la nueva era de la relación entre empresas y clientes.