Estágio 2 de 5 — Aprendendo · Você já ouviu falar de IA e quer entender o que ela muda no seu dia? Esse artigo é pra essa fase.
Já pedi data de evento pra uma IA e recebi dia, mês e ano com uma segurança de quem estava lendo o calendário na minha frente. Fui conferir: o evento não existia. Nem parecido. E não foi uma vez só — acontece com frequência suficiente pra eu ter criado o hábito de conferir.
O que me incomoda não é o erro. É o tom. Se ela dissesse “acho que foi em agosto, mas confirma”, eu confirmaria. Ela fala como quem tem certeza — e eu quase repasso.
Isso tem nome. E entender o nome muda como você usa a ferramenta pro resto da vida.
O nome é alucinação (e é um nome ruim)
Quando a IA inventa uma informação e apresenta como fato, o pessoal da área chama isso de alucinação.
O nome é péssimo, na minha opinião, porque sugere que a máquina teve um surto — como se normalmente ela funcionasse certo e naquele momento tivesse pirado. Não é isso. A alucinação não é um defeito que aparece de vez em quando. É o mesmo mecanismo que faz ela acertar, funcionando exatamente como foi construído.
Explico.
Ela não consulta. Ela completa.
Aqui está a parte que quase ninguém conta pra quem está começando, e que muda tudo.
Quando você pergunta alguma coisa pra uma IA dessas — ChatGPT, Gemini, Claude, tanto faz — ela não vai num banco de dados procurar a resposta. Ela não tem uma gaveta com fatos organizados. O que ela faz é outra coisa: ela calcula qual é a próxima palavra mais provável, depois a próxima, depois a próxima, até formar uma resposta que pareça certa.
Pensa naquele corretor do teclado do celular, o que sugere a próxima palavra enquanto você digita. É o mesmo princípio, num nível absurdamente mais sofisticado. Seu teclado sugere “bom” depois de “dia”. Ela sugere parágrafos inteiros depois de uma pergunta. A diferença de tamanho é essa, e a diferença de método é nenhuma.
E é por isso que ela é boa. Escrever um e-mail, resumir um texto, explicar um assunto complicado — tudo isso é montar sequência provável de palavras, e ela faz bem.
Só que “provável” não é a mesma coisa que “verdadeiro”.
Quando você pergunta a data de um evento que ela não conhece direito, ela não tem um jeito de dizer “essa gaveta está vazia”. Ela vai montar a sequência mais provável mesmo assim. E uma data com dia, mês e ano é uma sequência muito mais provável do que “não sei”. Por isso ela inventa. E por isso inventa com a mesma voz confiante de quando acerta: a voz não vem do conhecimento, vem do padrão.
Por que o modelo novo continua fazendo isso
Toda vez que sai um modelo novo, a manchete promete que agora vai. Já perdi a conta de quantas vezes agora foi.
Essa semana mesmo a OpenAI liberou o motor novo do ChatGPT pra quem paga, e os primeiros que testaram já relataram que ele continua inventando resposta e continua ignorando instrução. Modelo mais caro, mais rápido, mais premiado — mesmo comportamento.
Não é preguiça de quem faz. É que o problema não está no tamanho do modelo, está no jeito que ele funciona. Enquanto a resposta for montada por probabilidade e não por consulta, vai existir um espaço onde o mais provável não é o verdadeiro. Dá pra diminuir esse espaço. Já diminuíram bastante. Zerar, não dá.
Então quando você ler que a nova versão “praticamente não erra mais”, traduz assim: erra menos, do mesmo jeito, nos mesmos lugares.
Os três lugares onde ela mais inventa
Depois de tomar uns tombos, eu reparei que os erros se concentram. Não é aleatório.
Número específico. Data, valor, porcentagem, artigo de lei, quantidade. Quanto mais específico o número, maior a chance de ele ter sido montado. É o campo onde “não sei” seria a resposta honesta e é justamente onde ela nunca diz isso.
Nome próprio que você não conhece. Autor de livro, nome de estudo, título de reportagem, referência bibliográfica. Ela produz referência falsa com uma naturalidade impressionante — nome de autor plausível, revista que existe, ano coerente. Só o estudo é que não nasceu.
Assunto muito específico ou muito recente. Regra da sua cidade, procedimento do seu convênio, notícia de ontem. Onde ela tem pouco material, ela preenche com o padrão geral. E o padrão geral é justamente o que não serve pro seu caso.
Repare no que os três têm em comum: são exatamente as coisas que a gente pede pra ela porque não sabemos. É o pior cruzamento possível.
O que fazer, na prática, sem virar paranoico
Não é pra desconfiar de tudo. Se ela reescreveu seu e-mail e o texto está bom, está bom — você lê e sabe.
O que eu passei a fazer é simples:
Pergunto de onde veio. “Onde você viu isso?” Se a resposta ficar vaga, “estudos indicam”, “segundo especialistas”, trato como conversa de bar. Se vier link, abro o link. Já achei link que não abria. Já achei link que abria num site que também não existia, o que é um capricho.
Reformulo em vez de aceitar a correção. Quando eu aponto o erro, ela concorda comigo na hora e me dá outra versão — que pode estar igualmente inventada. Concordar é o comportamento mais provável depois de uma correção. Prefiro perguntar de novo, do zero, com outras palavras, e ver se as duas respostas batem.
Confiro fora. Número, data e nome próprio eu confiro em outro lugar, sempre. Leva trinta segundos e é a diferença entre usar a ferramenta e ser usado por ela.
Desconfio da confiança. Esse foi o que mais mudou pra mim. O tom seguro não é sinal de nada. Ela escreve “com certeza” pelo mesmo motivo que escreve qualquer outra coisa: era o mais provável ali. Sobre isso eu já escrevi um texto inteiro, quando descobri que eu confiava demais e nem tinha percebido.
O que fica
Alucinação não é a IA quebrando. É a IA fazendo o que ela faz, num lugar onde isso não devia bastar.
Saber disso não te faz usar menos. Me fez usar mais, e melhor — porque parei de esperar dela uma coisa que ela não tem, e passei a pedir o que ela faz bem. Ela é ótima pra organizar, reescrever, explicar e destravar. Ela é péssima como fonte.
Ou, dito de um jeito que meu pai entendeu: é um estagiário muito rápido, muito esforçado e muito seguro de si, que às vezes não sabe e não te conta.
📌 Próximo passo: se o assunto é reconhecer o que veio de máquina, dá pra ir além do texto escrito — testei os detectores e contei por que eles erram tanto.
