Por que a IA inventa com tanta segurança

"A IA mentiu para mim."

Já ouvi essa frase em quase toda palestra, e ela sempre vem com uma decepção junto: a pessoa confiou, repassou, e depois descobriu que o dado não existia.

Só que mentir pressupõe saber a verdade e escolher outra coisa. Não foi isso que aconteceu. Ela não sabe que não sabe — e essa diferença muda completamente o jeito de se proteger.

O que ela está fazendo de verdade

Por baixo, o que essas ferramentas fazem é continuar o texto. Você escreve uma pergunta, e elas montam a continuação mais provável — palavra por palavra, do jeito que uma resposta sobre aquilo costuma ser.

Repare no que essa frase não tem: nenhuma etapa em que alguém confere se aquilo é verdade. O critério é parecer certo, não ser certo.

Na imensa maioria das vezes, parecer certo e ser certo dão no mesmo. É por isso que funciona tão bem. O problema é a minoria das vezes, porque ela chega vestida igual.

O tom não muda — e esse é o perigo

Quando uma pessoa não tem certeza, ela hesita. Enrola um pouco, diz "acho que", desvia o olhar. A gente aprendeu a ler esses sinais a vida inteira, sem pensar.

A máquina não tem nenhum. Ela responde com a mesma segurança tranquila quando está certa e quando está inventando. Não existe hesitação para você perceber.

Então o sinal de alerta que você usaria com gente simplesmente não serve aqui. É preciso um outro, e ele não é automático: tem que ser hábito.

Onde isso costuma aparecer na nossa rotina

Não é aleatório. Tem um padrão, e conhecer o padrão já resolve metade.

O risco cresce exatamente onde a resposta é específica e verificável: um número, uma data, o nome de uma norma, a citação de um trecho, um prazo, uma referência bibliográfica. Quanto mais precisa a informação parece, mais vale desconfiar.

E cresce de novo quando o assunto é recente. O que aconteceu semana passada pode simplesmente não estar ali dentro — e em vez de dizer isso, ela preenche.

Já pedir para explicar um conceito, reescrever um texto seu, organizar uma ideia ou resumir um documento que você mesma entregou é território bem mais seguro. Não é que a ferramenta seja confiável ou não: depende do tipo de pedido.

Três conferências antes de repassar

Nenhuma delas leva mais de um minuto.

Peça a fonte — e abra a fonte. Não basta ela citar de onde veio. Se o link não abre, se a página não tem aquilo, se o documento não existe, você acabou de encontrar o problema. Uma fonte que não se abre não é uma fonte.

Confira número, data e nome próprio na origem. Sempre. Esses três são os que mais escapam e os que mais custam caro quando chegam no cliente. É a conferência que não tem exceção.

Pergunte de novo numa conversa nova. Abra outra janela, faça a mesma pergunta sem o histórico. Resposta que muda de uma vez para a outra é resposta inventada — quando a informação existe de verdade, ela sai igual.

O jeito de perguntar que reduz o risco

Duas coisas mudam muito, e são de graça.

Dê o documento. Em vez de perguntar o que a norma diz, entregue a norma e pergunte sobre ela. Aí a ferramenta trabalha dentro do que você deu, em vez de buscar na memória. Foi por isso que eu falei tão bem do NotebookLM naquele texto sobre os quatro assistentes: é o que ele faz por padrão.

Autorize o "não sei". Escreva, no próprio pedido: "se a resposta não estiver no material que eu enviei, responda que não está — não complete." Parece pequeno. Muda o comportamento, porque você acabou de dar a ela uma saída que ela sozinha não toma.

A regra que eu não abro mão

É uma só, e cabe numa linha:

Nunca encaminhe o que você não pode conferir.

Não é desconfiança da ferramenta — eu uso todo dia. É que a assinatura no e-mail é sua. O cliente não recebeu resposta da inteligência artificial; recebeu resposta do escritório dele.

Essa parte continua sendo inteiramente nossa. E, sendo honesta, é exatamente por isso que o nosso trabalho não acabou.