Glossário
O que é token (IA)?
Tokens são os pedaços de texto, como palavras, partes de palavras ou sinais, que um modelo de IA lê e gera, e a unidade usada para medir limites de contexto e cobrar o uso.
A contagem varia por modelo e por idioma. Em português, uma palavra costuma virar mais de um token, então o mesmo texto pode custar mais do que em inglês.
Os provedores geralmente cobram separadamente os tokens de entrada, como instruções, histórico e documentos, e os tokens de saída, que são a resposta gerada.
Prompts enxutos e trechos de base de conhecimento bem recortados reduzem tokens sem perder qualidade.
Conversas não são atendimento.São infraestrutura.
Entre na nova era do relacionamento entre empresas e clientes.