Editorial Verke

A IA pode alucinar maus conselhos? Pode — eis como detetar e lidar com isso

Editorial Verke · April 28, 2026

A IA pode alucinar maus conselhos? Pode. Os modelos de linguagem de grande dimensão fabricam, ocasionalmente, coisas com ar plausível — um estudo que não existe, uma citação errada, um conselho que não se aplica à tua situação, um enquadramento confiante que é, na verdade, inventado. Os contextos de coaching têm um risco mais baixo do que os contextos médico ou legal, mas conselhos errados continuam a importar. A versão honesta deste artigo é a de que as proteções reduzem as alucinações, mas não as eliminam, e a calibração do próprio utilizador faz parte do que mantém uma boa ferramenta de coaching com IA verdadeiramente útil.

O artigo percorre onde aparecem as alucinações, como a Verke está desenhada para apanhar as categorias de risco mais alto, e como calibrar a tua confiança como utilizador — que é, mais ou menos, "trata as sugestões da IA como conselho de um amigo inteligente que não é omnisciente". A postura da Verke é preferir "não tenho a certeza" a confiante-mas-errado, e manter o coaching virado para a exploração, não o diagnóstico. Nada disto torna a alucinação impossível. Torna, sim, os modos de falha reconhecíveis e as jogadas de recuperação simples.

Um modelo de linguagem prevê o texto seguinte mais provável a partir dos padrões dos seus dados de treino. Na maior parte das vezes, o texto seguinte mais provável é também o texto seguinte correto — é por isso que estas ferramentas funcionam tão bem. Outras vezes, o texto seguinte mais provável está errado. O modelo produz uma resposta com ar confiante que não tem qualquer base nos factos. A fluência é o que confunde as pessoas: a resposta errada lê-se tão suavemente como a certa, porque o trabalho do modelo é texto fluente, não texto verificado.

Não é mentir — o modelo não tem agenda, nem objetivo, nem tentativa de enganar. É o modelo não ter um componente separado de "verdade" que confira o resultado contra a realidade antes de o produzir. Técnicas mais recentes (recuperação, uso de ferramentas, verificações de auto-consistência, treino de recusa) reduzem as alucinações de forma significativa, e a taxa continua a baixar a cada nova geração de modelos. Mesmo assim, não as eliminam. Tratar a saída da IA como "geralmente certa, mas verifica as partes de risco mais alto" é a calibração certa hoje, e provavelmente nos próximos anos.

Citações inventadas

A forma clássica de alucinação: "um estudo de Harvard de 2019 descobriu que…" seguido de uma conclusão com ar confiante que, quando vais procurar, não existe. O artigo é inventado; os autores são inventados; o nome da revista pode ser real, mas o artigo não. A correção é verificar qualquer citação que te importe via PubMed ou Google Scholar antes de te apoiares nela. Se vier um URL, clica e confere se o resumo diz, de facto, o que foi alegado — por vezes o URL é real, mas o sumário associado está errado.

Conselho médico ou legal específico

Doses, interações entre fármacos, regulações jurisdicionais, procedimentos legais específicos — qualquer coisa em que a resposta tem de ser exatamente certa, ou causa danos. Mesmo quando a resposta do modelo está, por acaso, correta, é a ferramenta errada para estas perguntas, porque não há forma de tu saberes se ela acertou desta vez. Verifica sempre com um profissional licenciado (médico, farmacêutico, advogado, contabilista) tudo o que seja acionável nesses domínios. Os coaches da Verke estão desenhados para recusar liminarmente estas perguntas, em vez de improvisar — vê a secção seguinte.

Respostas confiantes em domínios estreitos

Condições de nicho com poucos dados de treino, regulações regionais com que a maior parte do mundo não se preocupa, terapeutas específicos pelo nome, comunidades profissionais pequenas. O modelo tem padrão suficiente nos dados de treino para produzir algo fluente, mas não o suficiente para saber se está certo. A combinação de fluência e estreiteza é o sinal principal — quando o tema é obscuro mas a resposta é confiante, é aí que a calibração tem de entrar.

Enquadramentos plausíveis mas errados

"Métodos em cinco passos" e "quatro pilares de…" inventados, que não existem na literatura. O modelo viu estrutura suficiente em estilo de auto-ajuda para produzir versões com ar convincente, mesmo quando o enquadramento específico que descreve foi inventado. Se um enquadramento é importante para a decisão que estás a tomar, procura o autor ou o nome do método para confirmar que existe, antes de o tratares como prática estabelecida. Enquadramentos reais têm páginas reais na Wikipedia, livros e citações; os inventados não.

Proteções por domínio

Os coaches estão desenhados para recusar as categorias de risco mais alto, em vez de improvisar. Dosagens médicas, interações entre fármacos, opiniões legais, alegações de diagnóstico, qualquer coisa que entre em terreno de profissional licenciado — a resposta é redirecionar, não tentar. "Isso parece-me uma pergunta para um farmacêutico" é uma característica, não uma limitação. O produto prefere não responder a responder errado.

Disciplina nas citações

Quando um coach refere um estudo ou um método, a citação inclui um URL real que o utilizador pode verificar (o artigo StopOverthinking neste site cita A-Tjak et al. 2015 com link para o PubMed precisamente por isto — quem lê deve poder clicar e conferir). Se o coach não conseguir citar algo de forma verificável, o enquadramento muda para "há evidência de que" ou "este é um padrão comum no campo", não detalhes inventados. A fasquia é "alguém conseguiria verificar isto em 30 segundos".

Predefinições conservadoras

Quando a conversa sugere gravidade, a jogada padrão é trazer cuidado clínico à superfície, em vez de improvisar ajuda. Temas próximos de crise são encaminhados para recursos de crise. Temas próximos de diagnóstico são encaminhados para um clínico. O produto está desenhado para errar do lado de "por favor, leva isto a um humano" quando o risco é alto — que é onde uma alucinação faria mais estragos, se passasse à mesma.

A calibração é trabalho partilhado. O produto faz a sua parte com proteções e disciplina nas citações; a tua parte são alguns hábitos simples que tornam as alucinações muito menos custosas quando, mesmo assim, acontecem:

• Trata as sugestões da IA como conselho de um amigo inteligente que não é omnisciente. Um bom ponto de partida, não a palavra final.
• Verifica as citações antes de as partilhares ou agires sobre elas. PubMed e Google Scholar são verificações de 30 segundos.
• Pergunta "qual é a tua confiança nisto?" — os modelos conseguem, por vezes, sinalizar incerteza quando interpelados, e a resposta é informativa.
• Para qualquer coisa médica, legal ou financeira — verifica com um humano licenciado. A IA é a ferramenta errada para esses domínios como fonte primária.
• Quando algo não encaixa na tua situação, contraria. A resposta vai recalibrar-se em torno do que acrescentaste — conselhos genéricos são, muitas vezes, sinal de que o coach ainda não percebeu plenamente os teus detalhes.

A autoajuda e o coaching com IA podem fazer muito, mas têm limites. Se estás a viver uma depressão grave que não passa, ataques de pânico que interrompem o dia a dia, pensamentos de autoagressão, processamento ativo de trauma ou dependência de substâncias — esses são sinais para procurares um clínico licenciado, não sinais para forçares mais uma ferramenta de coaching. Podes encontrar opções a baixo custo em opencounseling.com ou linhas de apoio internacionais em findahelpline.com. Não há prémio para esperar mais do que o necessário.

A calibração — "este pensamento (ou este conselho) é, de facto, exato?" — é o cerne da TCC. A abordagem da Judith trata as crenças como hipóteses para testar, em vez de factos para engolir, que é exatamente a postura que te permite usar qualquer fonte de informação (incluindo um coach IA) sem confiar de mais. Ela também é boa na meta-versão: nota quando te estás a apoiar de mais numa única fonte — livro, podcast, amigo, app — e puxa-te de volta para o teu próprio juízo como filtro final. Para mais sobre o método, vê Terapia Cognitivo-Comportamental.

Experimenta um exercício de TCC com a Judith — sem necessidade de conta