Guardrails
O que são guardrails em agentes de AI e como eles controlam o que o agente pode dizer e fazer no atendimento.
Os guardrails atuam em camadas. Na entrada, filtram mensagens que tentam fazer o agente ignorar as instruções. Na saída, checam se a resposta se apoia na base de conhecimento e se expõe dado pessoal. Nas ações, fixam limites, como o valor máximo de um estorno sem aprovação humana.
Parte das regras fica no prompt, mas as críticas precisam de controle fora do modelo, porque o LLM pode deixar de seguir uma instrução escrita. Essa camada reduz o risco de uma alucinação chegar ao cliente como promessa.
Os guardrails também definem quando parar: diante de risco jurídico ou de um pedido fora da alçada, o agente faz o handoff para um humano.
Mais em Glossário
Agente de AI
O que é um agente de AI no contexto do atendimento ao cliente.
Agente de voz
O que é um agente de voz e como ele atende ligações no lugar do menu telefônico.
AHT (tempo médio de atendimento)
O que é AHT, Average Handle Time, como ele é calculado e como ler esse número numa operação com AI.