Limites e alucinações: o que não confiar na IA

Você já viu como uma IA responde de forma fluida. Hora do outro lado da moeda: às vezes ela inventa coisas com a mesma fluidez. Saber disso não é motivo para parar de usá-la — é a condição para usá-la como um adulto.

O que é uma alucinação

Uma alucinação é uma resposta confiante, bem elaborada, mas falsa: uma citação inventada, um link para lugar nenhum, uma data errada, um fato fabricado. A parte desagradável é que soa exatamente tão convincente quanto a verdade — sem hesitação, sem ressalvas. Esta é uma característica compartilhada por todos os três modelos, não uma doença de um modelo específico.

Por que ela mente com tanta confiança

Uma IA não "sabe" fatos como um livro de referência — ela prevê uma continuação plausível de texto. Na maioria das vezes, o plausível corresponde ao verdadeiro, mas onde os dados são escassos, o modelo ainda completa uma frase fluida — só que agora está errada. Ela não tem um "não tenho certeza" interno até que você peça um. Daí a regra: um tom confiante não é prova de estar certo.

O corte de conhecimento: por que ela "não sabe sobre ontem"

Todo modelo tem um corte de conhecimento — o ponto até o qual ele viu o texto do mundo. Qualquer coisa que aconteceu depois disso ele não sabe por conta própria e pode inventar. É exatamente por isso que um modelo generalista sem acesso à busca não deve responder "qual o preço hoje" ou "quem ganhou ontem à noite" — esse é um trabalho para Gemini ou Perplexity com busca atualizada (lembre-se da tabela "tarefa → IA").

Onde todos os três falham da mesma forma

• Números e datas exatos — estatísticas, taxas, anos: eles gostam de "aproximadamente certo".
• Links e citações — eles podem inventar uma fonte plausível que não existe.
• Direito e medicina — soa autoritário, mas a responsabilidade é sua; estes são tópicos para um especialista humano.
• Eventos recentes — tudo após o corte de conhecimento, sem busca.
• Grandes cálculos mentais — cálculos longos são melhor solicitados passo a passo, ou feitos em uma calculadora.

O caso do advogado que confiou

Junho de 2023, Nova York. O advogado Steven Schwartz está preparando um processo e pede ao ChatGPT para encontrar precedentes. O modelo produz seis casos com números e citações — elegantes e convincentes. Schwartz os inclui em um documento judicial. O problema: nenhum dos seis casos existe — o ChatGPT os inventou. O juiz impõe uma multa e a história vira notícia em jornais do mundo todo. Uma lição que custou milhares de dólares e uma reputação: IA é um rascunho, não uma fonte da verdade. Verificar é trabalho de um humano.

Onde as alucinações quase não importam

É importante não ir para o outro extremo — "se mente, nada pode ser confiável". Há uma enorme zona onde a invenção causa pouco dano: rascunhos, ideias, formulações, explicações de conceitos gerais, brainstorming. Se você pedir dez títulos ou um parágrafo reescrito, não há "fatos" para verificar — você julgará o resultado com seus próprios olhos de qualquer forma. Ative a cautela onde a resposta viaja além de você como um fato: um número em um relatório, um link em um artigo, um argumento em um debate, conselhos sobre sua saúde ou a lei. A regra é simples: quanto mais sérias as consequências de um erro, mais rigorosa a verificação.

Três hábitos que te salvam

1. Peça as fontes e abra-as. "Me dê um link para cada afirmação" — então clique. Sem link, ou um link quebrado, significa que é uma hipótese, não um fato. É exatamente para isso que o Perplexity foi construído.
2. Compare o que importa com um segundo modelo. Faça a mesma pergunta a duas IAs: se elas concordam, é mais provável que seja verdade; se divergem, vá investigar você mesmo.
3. Dê permissão ao modelo para dizer "não sei". Adicione ao seu pedido: "se não tiver certeza, diga, não invente." Isso reduz a fabricação de forma notável.

Mitos comuns

• "A versão paga não alucina." Modelos top erram com menos frequência, mas não param: você ainda precisa verificar.
• "Respondeu com confiança, então deve ser assim." Confiança no tom e estar certo são coisas diferentes; o modelo não duvida em voz alta a menos que você peça.
• "Alucinações são um bug que eles vão consertar logo." São uma propriedade da abordagem de "prever a continuação", não uma falha; elas se tornarão mais raras, mas não aposentarão seu hábito de verificar.

Faça isso agora

Um pequeno teste de confiança, três minutos. Pergunte à sua IA algo verificável do seu próprio campo onde você sabe a resposta certa, e peça uma fonte. Julgue: está tudo preciso, o link leva a uma página real? Uma experiência como essa calibra sua confiança melhor do que dez avisos — este incluído.