Alucinação
O que é alucinação em modelos de linguagem e como ela é controlada em agentes de atendimento.
Por Redação AI CX BrasilPublicado em
Modelos de linguagem geram o texto mais provável, não o texto verdadeiro. Quando falta informação, eles podem preencher a lacuna com algo plausível.
No atendimento, o controle combina várias camadas: responder só a partir da base de conhecimento e dos sistemas (RAG), regras que proíbem prometer o que não está na política, testes com conversas reais antes de ir para produção e revisão contínua das conversas. Quando a informação não existe, o agente deve dizer que não sabe ou transferir para um humano.