Por que a IA 'inventa' respostas com tanta confiança

Alucinação em IA generativa não é um defeito que alguém esqueceu de corrigir. É consequência estrutural de como esses modelos funcionam. Enquanto você tratar como bug pontual, vai continuar surpreso toda vez que o modelo cita um artigo que não existe ou inventa um número com cara de exato. Depois que entende a raiz, para de se surpreender — e passa a usar a ferramenta do jeito certo.

O modelo não "sabe" fatos, ele prevê texto plausível

Um modelo de linguagem é treinado pra fazer uma coisa: prever qual pedaço de texto vem a seguir, dado um contexto. Só isso. Ele não consulta uma base de fatos verificados antes de responder — ele calcula qual sequência de palavras é mais provável dada a pergunta.

Quando ele "sabe" a capital da França, é porque a associação entre "capital da França" e "Paris" apareceu de forma consistente e repetida nos dados de treino. Não existe uma tabela interna onde está escrito França → Paris que ele abre pra checar. Existe um padrão estatístico tão forte que a resposta certa é, de longe, a mais provável. Funciona tão bem que dá a impressão de que o modelo "sabe". Mas o mecanismo é o mesmo pra tudo — inclusive pro que ele erra.

O problema aparece nas bordas. Quando a informação é rara, ambígua, contraditória ou simplesmente não estava nos dados, não existe padrão forte pra puxar. E aí está o detalhe que muita gente não percebe: o modelo não tem um estado de "não sei". Ele não trava, não devolve vazio, não pede desculpas por padrão. Ele faz o que sempre faz — gera a continuação mais plausível. Só que dessa vez "plausível" não é o mesmo que "verdadeiro". O resultado tem a forma certa (um nome de autor, um DOI, uma data, um trecho de código), mas o conteúdo é preenchimento estatístico.

Uma analogia que ajuda: é como um aluno numa prova oral que não estudou aquele tópico, mas é fluente na matéria em geral. Ele não fica calado. Ele constrói uma resposta que soa como as respostas certas que já deu — mesma estrutura, mesma cadência, mesmo vocabulário. Às vezes acerta por proximidade. Às vezes produz algo completamente inventado com total desenvoltura.

Por que o tom confiante não significa nada sobre o fato

Aqui está a parte que torna alucinação perigosa de verdade: o modelo usa exatamente o mesmo tom assertivo pra um fato consolidado e pra uma invenção.

Isso não é acaso. O tom — a forma segura, articulada, bem estruturada de escrever — é aprendido separadamente do conteúdo factual. O modelo aprendeu "como soa uma resposta boa" a partir de milhões de textos bem escritos. Essa competência de estilo é praticamente independente de ele ter ou não a informação correta. Então você recebe frases impecáveis, com a confiança de um especialista, e nenhum sinal externo de que aquela frase específica é chute.

Compare com uma pessoa. Quando alguém não tem certeza, normalmente o corpo entrega: hesita, diz "acho que", muda o tom, olha pro lado. O modelo, por padrão, não faz nada disso — a menos que tenha sido especificamente ajustado pra calibrar incerteza, e mesmo assim de forma imperfeita. Ausência de hesitação não é evidência de acerto. É só o estilo padrão da saída.

Onde a alucinação mais aparece

Na prática, ela se concentra em tipos específicos de pergunta. Vale reconhecer os padrões:

Fatos específicos e verificáveis: datas, números, estatísticas, versões, valores. Quanto mais preciso o dado, maior o risco — precisão é justamente o que o modelo tende a fabricar com naturalidade.
Citações e referências: nomes de artigos, autores, links, páginas de documentação. É clássico o modelo montar uma referência com a cara perfeita de real, e que não existe.
APIs e código: funções, parâmetros e métodos que "deveriam existir" pela lógica da biblioteca, mas não existem. O modelo completa o padrão que viu em milhares de exemplos parecidos.
Assuntos de nicho ou muito recentes: o que teve pouca presença nos dados de treino, ou é posterior a eles, tem padrão fraco — terreno fértil pra invenção.
Perguntas que assumem algo falso: se você pergunta "por que X aconteceu?" e X não aconteceu, o modelo tende a te dar um motivo em vez de contestar a premissa.

Como reduzir alucinação na prática

Não dá pra "desligar" alucinação, porque ela é parte do mesmo mecanismo que faz o modelo ser útil. Mas dá pra reduzir bastante mudando como você pergunta e o que você entrega pra ele.

Grounding (dar a fonte): em vez de contar com o que o modelo "lembra" do treino, entregue o material real na própria conversa — o documento, o resultado da busca, o retorno da ferramenta. Peça pra ele responder com base naquilo. Você troca "chuta pela memória" por "leia isto e resuma". É de longe a alavanca mais forte, e é o princípio por trás de RAG.
Verificação por ferramenta: quando o modelo pode buscar, rodar código ou consultar uma API, peça que ele faça isso em vez de responder de cabeça. checar via busca vale mais que responder de memória pra qualquer coisa factual.
Escopo estreito: perguntas específicas e delimitadas alucinam menos que perguntas amplas sobre fatos obscuros. "Resuma este parágrafo" é muito mais seguro que "me conte tudo sobre este tema de nicho".
Deixar a saída de fora ser possível: instrua explicitamente — "se não tiver certeza, diga que não sabe" e "não invente referências". Não elimina o problema, mas reduz, porque dá ao modelo um caminho aceitável que não seja preencher a lacuna.
Peça a fonte junto: pedir que ele aponte de onde tirou cada afirmação te dá um gancho pra verificar — e às vezes expõe a invenção, quando a "fonte" não resiste a uma checada.

O erro mais comum de quem usa

O erro clássico não é técnico, é de postura: tratar a fluência como se fosse garantia. O texto veio bem escrito, seguro, organizado — logo deve estar certo. Já vimos que essas duas coisas não têm relação. Fluência é o que o modelo sempre entrega; correção factual é outra história.

O oposto também é erro: concluir que o modelo é inútil porque às vezes inventa. Ele é excelente em tarefas onde a verdade está na frente dele — reescrever, resumir um texto que você forneceu, estruturar, traduzir, transformar formato, gerar rascunho pra você revisar. A alucinação morde quando você usa o modelo como fonte de fatos em vez de processador de texto.

O fecho prático

A regra de bolso é simples: trate toda saída sobre fatos específicos — datas, números, citações, nomes, chamadas de API — como "precisa ser verificado", não como "provavelmente certo". Para o resto, onde a matéria-prima está na própria conversa, você pode confiar bem mais.

Isso não é desconfiar da tecnologia sem motivo. É o contrário: é usar a ferramenta sabendo exatamente pra que ela foi treinada. Um modelo de linguagem é uma máquina de gerar texto plausível, e é ótima nisso. Plausível costuma coincidir com verdadeiro — mas quando não coincide, a única defesa é você saber que a diferença existe.