Glosario
¿Qué es alucinación de IA?
Una alucinación es cuando un modelo de IA genera una información que parece correcta pero es falsa o no tiene respaldo en los datos que recibió.
Los modelos de lenguaje generan el texto más probable, no necesariamente el verdadero. Sin contexto confiable, pueden inventar un plazo, un precio o una política.
En la atención, la alucinación se controla con una base de conocimiento revisada (RAG), instrucciones para que el agente admita cuando no sabe, límites para acciones sensibles y revisión de las conversaciones.
Medir la tasa de respuestas sin fuente y las transferencias por duda ayuda a seguir el riesgo en el tiempo.
Las conversaciones no son atención.Son infraestructura.
Entra en la nueva era de la relación entre empresas y clientes.