Como impedir que o seu agente de IA tenha alucinações

Uma alucinação de IA é uma resposta confiante, com aparência plausível, mas que está simplesmente errada. Num contexto de atendimento ao cliente, evita-a sempre da mesma forma: fundamentar o agente no seu próprio conhecimento verificado em vez da memória de treino do modelo, limitar o que ele está autorizado a responder, adicionar salvaguardas de saída e manter uma pessoa capaz de rever e assumir o controlo. Isto é importante porque a taxa de falha não é pequena. Um estudo de 2025 coordenado pela European Broadcasting Union e liderado pela BBC concluiu que 45% das respostas de assistentes de IA tinham pelo menos um problema significativo e que 20% continham problemas graves de exatidão, incluindo detalhes inventados. Quando isso acontece no seu site, a resposta é da sua responsabilidade.

O que é uma alucinação de IA no atendimento ao cliente?

Uma alucinação é um resultado que um modelo de linguagem apresenta como facto sem qualquer base nos seus dados ou no mundo real. Não é um erro no sentido habitual. Os grandes modelos de linguagem geram as sequências de palavras estatisticamente mais prováveis, por isso, quando não têm uma resposta fundamentada, produzem um palpite fluente em vez de dizer "não sei". Para uma empresa, isto significa que um agente pode inventar um prazo de devolução, indicar um preço que não existe, prometer um horário de marcação que nunca ofereceu ou citar uma política que nunca escreveu, tudo num tom que soa autoritário.

O risco comercial é concreto. No caso Moffatt v. Air Canada, um tribunal da Colúmbia Britânica considerou a companhia aérea responsável pela informação errada que o seu chatbot deu a um passageiro e ordenou o pagamento de uma indemnização. O tribunal rejeitou o argumento de que o chatbot era uma entidade separada, responsável pelas suas próprias palavras. A lição para qualquer empresa que utilize IA: aos olhos do seu cliente ou de um regulador, uma alucinação não é um erro do modelo. É seu.

Com que frequência os agentes de IA têm alucinações?

Com frequência suficiente para que a exatidão tenha de ser concebida à partida, e não presumida. A taxa depende muito da forma como o sistema é construído.

Configuração	Taxa de alucinação / erro medida	Fonte
Chatbot de uso geral, questões jurídicas	58% a 82% das consultas	Stanford RegLab / HAI
Ferramentas de pesquisa jurídica específicas e fundamentadas (RAG)	17% a 34% das consultas	Stanford RegLab / HAI
Principais assistentes de IA, questões noticiosas	45% tinham um problema significativo; 20% problemas graves de exatidão	BBC / EBU, 2025

Dois pontos destacam-se. Primeiro, fundamentar um modelo num repositório real de documentos reduz drasticamente a taxa de erro: os investigadores de Stanford concluíram que as ferramentas específicas "reduzem de facto os erros em comparação com os modelos de IA de uso geral". Segundo, a fundamentação por si só não o leva a zero. Este é o facto mais importante deste artigo, e todo o resto foi construído à volta dele.

Porque é que os agentes de IA inventam coisas?

Três causas de raiz explicam a maioria das alucinações no atendimento ao cliente, e cada uma aponta para uma solução:

• Sem fonte de verdade. O modelo responde a partir da sua memória de treino, que é genérica, desatualizada e não sabe nada sobre o seu negócio. Preenche a lacuna com um palpite.
• Perguntas fora do âmbito. Perante algo fora do seu conhecimento, um agente sem governação improvisa em vez de recuar. A bajulação agrava o problema: os modelos tendem a concordar com uma premissa errada do cliente em vez de a corrigir.
• Sem camada de verificação. Nada verifica a resposta antes de esta chegar ao cliente, por isso uma resposta errada segue tão depressa como uma certa.

Como impedir que o seu agente de IA tenha alucinações: a pilha de controlos

A exatidão resulta da sobreposição de controlos, e não de encontrar um modelo perfeito. Eis a pilha, por ordem de impacto.

1. Fundamente cada resposta no seu próprio conhecimento verificado

Este é o controlo com maior alavancagem. Em vez de deixar o modelo responder de memória, obtenha primeiro os factos relevantes do seu conteúdo (as suas FAQ, detalhes de serviços e produtos, políticas, horários, preços) e faça o agente responder apenas a partir daí. Este é o padrão por detrás da geração aumentada por recuperação, e a evidência é sólida: uma estrutura revista por pares em 2025 relatou uma redução das taxas de alucinação superior a 40% face a um modelo autónomo. Mantenha a base de conhecimento atualizada e atribua um responsável a cada área, porque uma resposta fundamentada é apenas tão precisa quanto o documento que a suporta.

2. Limite o âmbito e defina o caminho de recusa

Decida explicitamente aquilo a que o agente não deve responder e faça de "vou confirmar com a equipa" uma resposta de primeira classe. Um agente que recua com elegância perante uma incógnita é mais valioso do que um que tem sempre uma resposta, porque a resposta errada e confiante é a que sai cara. Diga-lhe, nas suas instruções, para se recusar a especular sobre qualquer coisa fora da sua base de conhecimento.

3. Adicione salvaguardas de saída

Coloque uma verificação automática entre o modelo e o cliente. As salvaguardas podem detetar uma resposta que excede um comprimento seguro, revela instruções do sistema, sai do tema ou reivindica uma capacidade que o agente na verdade não tem. Esta última é uma alucinação comum e evitável: o agente promete fazer algo para o qual não tem qualquer ferramenta. Uma salvaguarda que compara a resposta com as capacidades reais do agente trava esse tipo de erro antes de ser enviado.

4. Mantenha uma pessoa envolvida na supervisão

Nenhuma salvaguarda deteta tudo, por isso conceba uma transferência limpa para uma pessoa nos casos de alto risco ou de baixa confiança. Isto não é um recurso alternativo que se acrescenta mais tarde; é um princípio central de conceção. Abordamos os mecanismos em IA com supervisão humana, explicada: a ideia é que a IA age e as pessoas governam, com a capacidade de rever, anular e assumir uma conversa a qualquer momento. É também o que os clientes esperam. Um relatório da Twilio de 2025 citado na investigação da SurveyMonkey concluiu que 78% dos consumidores dizem que é importante poder passar de um agente de IA para uma pessoa.

5. Atribua as respostas à sua fonte

Quando um agente fundamenta uma resposta, deve conseguir apontar para a origem do facto. A atribuição faz duas coisas: permite que um cliente ou um colega verifique a afirmação e expõe respostas "mal fundamentadas", em que a resposta soa correta mas a fonte citada não a sustenta de facto. Os investigadores de Stanford sinalizaram a má fundamentação como um modo de falha subtil e perigoso, precisamente porque a citação parece legítima.

6. Teste antes do lançamento e depois monitorize

Não lance às cegas. Passe o agente pelas suas perguntas reais, incluindo os casos-limite e as perguntas de premissa falsa concebidas para o enganar, antes de ele falar com um cliente. Após o lançamento, reveja as transcrições e o feedback negativo para detetar desvios. Isto fecha o ciclo entre a lista de verificação de lançamento do nosso guia passo a passo para configurar um agente de IA de atendimento ao cliente e a exatidão que mantém em produção.

7. Não aposte a exatidão num único modelo

Os modelos mudam, são descontinuados e regridem em tarefas específicas. Uma estratégia de exatidão presa a um só modelo é frágil. Encaminhar para o modelo certo para cada tarefa, e poder mudar quando surge uma opção melhor ou mais segura, mantém a qualidade estável ao longo do tempo. Apresentamos o argumento completo em porque não deve construir o seu negócio num único modelo de IA.

8. Aumente as exigências para dados regulados

Se o seu agente lida com informação de saúde, financeira ou outra informação sensível, uma alucinação não é apenas embaraçosa: pode constituir uma infração de conformidade. A fundamentação, o registo de auditoria e a supervisão humana deixam de ser desejáveis e passam a ser obrigatórios. Veja IA em conformidade para negócios regulados para saber o que a HIPAA e o RGPD exigem na prática.

O RAG elimina as alucinações? Uma resposta honesta

Não, e qualquer fornecedor que prometa uma IA "sem alucinações" está a exagerar. O estudo de Stanford existe precisamente porque duas ferramentas jurídicas comercializadas como "sem alucinações" ainda produziam informação incorreta 17% e 34% das vezes. A conclusão foi direta: "O RAG não é uma panaceia." A recuperação pode falhar em encontrar o documento certo, recuperar um documento que parece relevante mas não é, ou o modelo pode ainda assim interpretar mal aquilo que recuperou.

A conclusão prática não é abandonar a fundamentação, que claramente ajuda muito, mas sim deixar de a tratar como uma solução milagrosa. A exatidão é uma pilha: a fundamentação reduz a taxa base, as salvaguardas apanham mais uma parcela e a supervisão humana cobre o resto. Cada camada trata daquilo que a camada abaixo dela deixou passar.

Como a Entagl constrói para a exatidão

A Entagl foi concebida em torno desta abordagem em camadas, e não de um único prompt inteligente. Os seus agentes de IA para DMs de Instagram e WhatsApp respondem a partir de uma base de conhecimento por empresa, com pesquisa semântica sobre as suas próprias FAQ, serviços, produtos e políticas, para que as respostas sejam fundamentadas no seu conteúdo verificado, e não num palpite genérico. Como o agente compreende texto livre em vez de executar fluxos frágeis por palavras-chave, pode recuar perante uma incógnita em vez de forçar uma correspondência. As salvaguardas de saída correm em cada conversa, incluindo uma verificação que sinaliza uma resposta que reivindica uma capacidade que o agente não tem. E a transferência para uma caixa de entrada partilhada da equipa está incorporada, para que uma pessoa possa rever, corrigir ou assumir sempre que o risco o justifique. Reflete uma filosofia simples: a IA age, as pessoas governam.

É também por isto que a diferença entre um chatbot e um verdadeiro agente é importante para a exatidão, uma distinção que exploramos em agente de IA vs chatbot.

A exatidão não é uma definição que se liga. É a fundamentação, as salvaguardas e a supervisão humana a trabalhar em conjunto, em cada mensagem. Marque uma demonstração de 30 minutos para ver como a Entagl mantém um agente de atendimento ao cliente fundamentado no seu próprio conhecimento.

FAQ

As alucinações de IA podem ser completamente eliminadas?

Não por completo com a tecnologia atual. É possível reduzi-las drasticamente fundamentando as respostas numa base de conhecimento verificada, limitando o âmbito, adicionando salvaguardas de saída e mantendo uma pessoa na supervisão. Demonstrou-se que a fundamentação, por si só, reduz as taxas de alucinação em mais de 40%, mas os principais sistemas fundamentados ainda erram numa parcela relevante das consultas difíceis, razão pela qual os controlos em camadas e a supervisão humana são importantes.

O meu negócio é responsável se o seu chatbot de IA der informação errada a um cliente?

Tribunais já disseram que sim. No caso Moffatt v. Air Canada, um tribunal responsabilizou a empresa pela informação incorreta que o seu chatbot forneceu e atribuiu ao cliente uma indemnização, rejeitando a ideia de que o chatbot era uma entidade separada. Trate cada resposta automática como uma declaração oficial do seu negócio e conceba os controlos de exatidão em conformidade.

Qual é a diferença entre RAG e afinação para a exatidão?

A geração aumentada por recuperação fundamenta cada resposta em documentos recuperados no momento da consulta, mantendo-se atualizada à medida que atualiza o seu conteúdo e conseguindo atribuir as respostas a uma fonte. A afinação incorpora o conhecimento no modelo durante o treino, o que é mais lento de atualizar e mais difícil de rastrear. Para uma empresa cujos factos mudam (horários, preços, stock, políticas), a recuperação é normalmente o caminho mais fiável e sustentável para a exatidão.

Como testo um agente de IA para deteção de alucinações antes do lançamento?

Crie um conjunto de perguntas reais de clientes mais outras deliberadamente complicadas: pedidos fora do âmbito, perguntas com uma premissa falsa e casos-limite nas suas políticas. Passe-as pelo agente e verifique tanto se cada resposta está correta como se recua corretamente quando não deveria saber. Continue a rever as transcrições ao vivo e o feedback negativo após o lançamento, porque a exatidão pode desviar-se à medida que as perguntas e o conteúdo mudam.

Fontes: Estudo BBC / EBU sobre integridade das notícias em assistentes de IA (2025); Stanford RegLab / HAI, "AI on Trial: Legal Models Hallucinate in 1 out of 6 (or More) Benchmarking Queries"; Moffatt v. Air Canada, via BBC; MEGA-RAG (revisto por pares, 2025); estatísticas de atendimento ao cliente da SurveyMonkey (2026).