Glossário
O que é prompt injection (injeção de prompt)?
Prompt injection é um ataque em que alguém insere instruções maliciosas em uma mensagem, documento ou página para fazer um modelo de IA ignorar suas regras originais.
Pode ser direto, quando o usuário escreve algo como "ignore as instruções anteriores", ou indireto, quando a instrução vem escondida em um arquivo ou site que a IA lê.
Não existe defesa única. Separar instruções de dados, limitar o que o agente pode acessar e executar e validar ações sensíveis fora do modelo reduzem o risco.
Testar o agente com tentativas de ataque conhecidas antes de publicar faz parte de uma operação de IA responsável.
Conversas não são atendimento.São infraestrutura.
Entre na nova era do relacionamento entre empresas e clientes.