O maior estudo sobre IA no atendimento já feito no Brasil.O maior estudo de IA no atendimento do país.Pré-inscrição abertaInscreva-se
Termo

Guardrails

O que são guardrails em agentes de AI e como eles controlam o que o agente pode dizer e fazer no atendimento.

Por Redação AI CX BrasilPublicado em

Os guardrails atuam em camadas. Na entrada, filtram mensagens que tentam fazer o agente ignorar as instruções. Na saída, checam se a resposta se apoia na base de conhecimento e se expõe dado pessoal. Nas ações, fixam limites, como o valor máximo de um estorno sem aprovação humana.

Parte das regras fica no prompt, mas as críticas precisam de controle fora do modelo, porque o LLM pode deixar de seguir uma instrução escrita. Essa camada reduz o risco de uma alucinação chegar ao cliente como promessa.

Os guardrails também definem quando parar: diante de risco jurídico ou de um pedido fora da alçada, o agente faz o handoff para um humano.

  • tecnologia
  • riscos
  • glossário

Mais em Glossário

Agente de AI

O que é um agente de AI no contexto do atendimento ao cliente.

Agente de voz

O que é um agente de voz e como ele atende ligações no lugar do menu telefônico.