Alucinações de IA: por que modelos inventam e como identificar
Em resumo: uma alucinação é uma resposta de IA confiante, plausível, mas inventada. Não é um erro — é como a tecnologia funciona: o modelo prevê uma continuação de texto provável, e quando não sabe a resposta, a "continuação provável" ainda parece uma resposta real. Defesa: verifique o que importa, dê fontes ao modelo, ative a busca na web.
Por que os modelos inventam coisas
Um modelo de linguagem não "busca respostas em um banco de dados" — ele gera texto token por token, escolhendo a continuação mais provável. Ele não tem uma sinalização de "não sei" embutida: quando os fatos acabam, texto estatisticamente provável ainda é produzido — com datas, nomes e um tom confiante.
Onde o risco é maior
- Links e fontes — modelos inventam facilmente URLs e títulos de artigos plausíveis
- Números exatos, datas, citações
- Pessoas e eventos pouco conhecidos — poucos dados, muita fantasia
- Detalhes legais e médicos — onde os erros custam mais
4 técnicas de defesa
- Verifique o que importa. Qualquer número, citação ou link do qual algo dependa — abra a fonte original.
- Permita a incerteza. Adicione "se não tiver certeza — diga" ao seu prompt. Isso reduz comprovadamente a fabricação.
- Forneça material. Um modelo com um documento responde a partir do documento, não da memória.
- Ative a busca na web — respostas baseadas em páginas encontradas podem ser verificadas por seus links.
A única coisa a lembrar
Detalhes plausíveis não são prova. Um tom confiante não é prova. A única prova é a fonte original que você mesmo abriu.
Tópicos relacionados
Metade da defesa contra alucinações é um pedido bem construído: como dar material ao modelo e deixá-lo admitir incerteza é abordado em o que é um prompt e como escrever um. Se você está apenas começando, inicie com o guia para iniciantes do ChatGPT. E quais dados são seguros para confiar a um modelo está em nosso artigo sobre privacidade ao trabalhar com IA.
FAQ
As alucinações vão desaparecer algum dia?
Os modelos ficam mais precisos, e a busca com fundamentação reduz o risco — mas a natureza generativa dos LLMs torna a fabricação inerentemente possível. A verificação continua sendo uma habilidade essencial.
O que é uma alucinação de IA em palavras simples?
É uma resposta confiante, plausível, mas inventada: o modelo afirma um fato, link ou citação inexistente com a mesma calma de um real. Você não consegue distinguir a invenção da verdade apenas pela aparência — somente verificando.
Como saber se a IA está inventando coisas?
Não há um sinal externo confiável — esse é o perigo. Sinais indiretos: números muito precisos sem fonte, links que não abrem, detalhes sobre pessoas pouco conhecidas. Verifique qualquer detalhe crítico contra a fonte original.
Por que o modelo não diz 'não sei'?
Porque ele não busca uma resposta em um banco de dados — ele completa a continuação mais provável do texto. Ele não tem uma sinalização de 'desconhecido' embutida. Mas você pode pedir: adicione 'se não tiver certeza, diga' ao seu prompt, e a fabricação diminui.
A busca na web elimina completamente a fabricação?
Não completamente, mas reduz visivelmente o risco: a resposta é baseada em páginas encontradas que você pode verificar pelos links. O segredo é abrir a fonte você mesmo, em vez de confiar na recontagem do modelo.
Onde as alucinações são especialmente perigosas?
Onde o custo do erro é alto: detalhes legais e médicos, cálculos financeiros, citações e links exatos, fatos sobre pessoas específicas. Nessas áreas, a IA é um rascunho e um assistente, não a palavra final.
Como as alucinações se ligam à qualidade do prompt?
Diretamente. Dê ao modelo um documento fonte e peça para ele responder apenas a partir dele, e a margem para invenção diminui. Como construir tais pedidos está em nosso artigo sobre prompts.