Alucinação de IA

A alucinação acontece porque um modelo de linguagem gera as palavras seguintes mais prováveis, não as mais precisas. O modelo aprendeu a forma de linguagem correta, por isso produz afirmações fluentes e bem estruturadas mesmo quando não tem conhecimento real sobre o assunto. Quando não tem nada genuíno em que se apoiar, não faz uma pausa nem assinala a lacuna: preenche o espaço com uma especificação de produto inventada, uma citação fabricada, um preço que nunca existiu ou uma referência a uma página que não existe. O tom confiante é idêntico quer a resposta seja fundamentada quer seja inventada, e é por isso que a alucinação é difícil de detetar apenas pela leitura.

Considere-se o caso de um lojista a vender louça de cerâmica artesanal. Um cliente pergunta a um assistente de IA se a marca oferece garantia vitalícia de reparação. A loja nunca publicou tal política, mas marcas similares do sector artesanal costumam tê-la, por isso o modelo infere uma e responde com clareza: sim, reparações gratuitas para toda a vida. O cliente chega à loja convicto de uma promessa que o lojista nunca fez. Nada foi recuperado de uma fonte real; a afirmação foi construída a partir do contexto estatístico de marcas comparáveis. O mesmo padrão inventa instruções de cuidado, composição dos materiais ou indicações de dimensão que contradizem a página de produto real.

A defesa mais fiável consiste em ancorar o modelo em fontes reais no momento em que gera a resposta, que é a abordagem por detrás da geração com recuperação aumentada. Quando um sistema recupera documentos reais e responde apenas a partir deles, a alucinação reduz-se consideravelmente, porque o modelo está a resumir evidência em vez de a inventar. É também por isso que o que um modelo diz sobre a loja depende do que consegue encontrar. Se existir informação precisa e corroborada sobre produtos, políticas e preços fácil de encontrar, o modelo tem algo verdadeiro em que se apoiar em vez de adivinhar a partir da média da categoria.

Para motores de resposta como o ChatGPT, o Perplexity e o Google AI Overviews, isto transforma a alucinação numa razão prática para publicar conteúdo de forma clara. Estes sistemas apoiam-se no que conseguem ler sobre a loja: no próprio site, nos dados estruturados e em fontes de terceiros. Informação escassa ou contraditória alarga a lacuna que o modelo vai preencher com invenções; factos consistentes, específicos e bem marcados tornam essa lacuna mais estreita. As avaliações de clientes também contribuem, porque corroboram afirmações reais sobre qualidade, durabilidade e serviço numa linguagem que o modelo pode citar.

A alucinação nunca é eliminada por completo, apenas reduzida, por isso qualquer afirmação de IA sem fonte sobre preços, disponibilidade ou especificações deve ser tratada como não verificada até ser confirmada numa fonte primária. Para os operadores, a conclusão honesta é dupla: não é possível controlar o que um modelo inventa no vazio de informação, mas é possível reduzir esse vazio tornando informação real e citável fácil de encontrar. Convém também perguntar periodicamente aos principais assistentes sobre a própria loja para detetar afirmações incorretas antes de os clientes o fazerem.