Verke Editorial

L'IA peut-elle inventer de mauvais conseils ? Oui — voici comment les repérer et y faire face

Verke Editorial · April 28, 2026

L'IA peut-elle inventer de mauvais conseils ? Oui. Les grands modèles de langage fabriquent parfois des choses qui semblent plausibles — une étude qui n'existe pas, une citation erronée, un conseil qui ne s'applique pas à ta situation, un cadre théorique à l'air assuré qui est purement inventé. Le contexte du coaching présente des enjeux un peu moins lourds que le contexte médical ou juridique, mais un mauvais conseil compte quand même. La version honnête de cet article, c'est que les garde-fous réduisent les hallucinations sans les éliminer, et que le calibrage de l'utilisateur fait partie de ce qui permet à un bon outil de coaching IA de rester utile.

L'article passe en revue où les hallucinations se manifestent, comment Verke est conçu pour attraper les catégories à haut risque, et comment calibrer ta confiance en tant qu'utilisateur — c'est en gros « traite les suggestions de l'IA comme les conseils d'un ami avisé qui n'est pas omniscient ». La posture de Verke est de préférer « je ne suis pas sûr » à « assuré-mais-faux », et de garder le coaching tourné vers l'exploration plutôt que vers le diagnostic. Rien de tout ça ne rend l'hallucination impossible. Mais ça rend les modes de défaillance reconnaissables et les gestes de récupération faciles.

Un modèle de langage prédit le texte suivant le plus probable à partir des motifs présents dans ses données d'entraînement. La plupart du temps, le texte le plus probable est aussi le texte correct — c'est pour ça que ces outils fonctionnent aussi bien. Parfois, pourtant, le texte le plus probable est faux. Le modèle produit une réponse à l'air assuré qui n'a aucun fondement réel. La fluidité est ce qui désoriente : la mauvaise réponse se lit aussi facilement qu'une bonne, parce que la mission du modèle, c'est le texte fluide, pas le texte vérifié.

Ce n'est pas du mensonge — le modèle n'a pas d'agenda, pas d'objectif, pas de tentative de tromper. C'est qu'il n'a pas de composante « vérité » distincte qui vérifierait la sortie face à la réalité avant de la produire. Des techniques récentes (récupération, utilisation d'outils, vérifications de cohérence interne, entraînement au refus) réduisent l'hallucination de manière significative, et le taux continue de baisser à chaque génération de modèle. Mais elles ne l'éliminent pas. Traiter la sortie de l'IA comme « majoritairement juste, mais à vérifier sur les enjeux importants » est le bon calibrage aujourd'hui et probablement pour les prochaines années.

Citations inventées

La forme classique de l'hallucination : « une étude de Harvard de 2019 a montré que… » suivi d'un résultat à l'air assuré qui, quand tu vas le vérifier, n'existe pas. L'article est inventé ; les auteurs sont inventés ; le nom de la revue est peut-être réel mais l'article ne l'est pas. La parade : vérifier toute citation qui compte pour toi via PubMed ou Google Scholar avant de t'y fier. Si une URL est fournie, clique et vérifie que le résumé dit bien ce qui était affirmé — parfois l'URL est réelle mais le résumé qui y est attaché est faux.

Conseils médicaux ou juridiques précis

Posologies, interactions médicamenteuses, réglementations selon la juridiction, procédures juridiques précises — tout ce qui doit être exactement juste sous peine de causer du tort. Même quand la réponse du modèle se trouve être correcte, c'est le mauvais outil pour ces questions, parce que tu n'as aucun moyen de savoir si elle l'était cette fois-ci. Vérifie toujours auprès d'un professionnel agréé (médecin, pharmacien, avocat, expert-comptable) pour tout ce qui est actionnable dans ces domaines. Les coachs de Verke sont conçus pour refuser ces questions plutôt que d'improviser — voir la section suivante.

Réponses assurées dans des domaines pointus

Pathologies rares avec peu de données d'entraînement, réglementations régionales dont la plupart du monde se moque, thérapeutes nommément cités, petites communautés professionnelles. Le modèle a juste assez de motifs dans les données d'entraînement pour produire quelque chose de fluide, mais pas assez pour savoir si c'est juste. La combinaison fluidité + spécificité étroite est le signal principal — quand le sujet est obscur mais la réponse assurée, c'est là que le calibrage doit s'enclencher.

Cadres plausibles mais faux

Des « méthodes en cinq étapes » et des « quatre piliers de… » inventés qui n'existent pas dans la littérature. Le modèle a vu suffisamment de structures de type développement personnel pour produire des versions convaincantes en apparence, même quand le cadre théorique précis qu'il décrit est inventé. Si un cadre compte pour la décision que tu prends, recherche l'auteur ou le nom de la méthode pour vérifier qu'il existe avant de le traiter comme une référence. Les vrais cadres ont de vraies pages Wikipedia, des livres, des citations ; les inventés non.

Garde-fous par domaine

Les coachs sont conçus pour refuser les catégories à haut risque plutôt que d'improviser. Posologie médicale, interactions médicamenteuses, avis juridiques, affirmations diagnostiques, tout ce qui empiète sur le territoire des professions réglementées — la réponse consiste à rediriger plutôt qu'à tenter. « Ça ressemble à une question pour un pharmacien » est une fonctionnalité, pas une limite. Le produit préfère ne pas répondre plutôt que de mal répondre.

Discipline de citation

Quand un coach mentionne une étude ou une méthode, la citation inclut une vraie URL que l'utilisateur peut vérifier (l'article StopOverthinking sur ce site cite A-Tjak et al. 2015 avec un lien PubMed précisément pour cette raison — le lecteur doit pouvoir cliquer et vérifier). Si le coach ne peut pas citer quelque chose de manière vérifiable, le cadrage glisse vers « il existe des données indiquant que » ou « c'est un schéma courant dans le domaine », pas des précisions inventées. La barre, c'est : « un lecteur peut vérifier ça en 30 secondes ».

Réglages prudents par défaut

Quand une gravité est suggérée dans la conversation, le réflexe par défaut est de faire émerger un soin clinique plutôt que d'improviser une aide. Les sujets proches de la crise sont orientés vers les ressources d'urgence. Les sujets proches du diagnostic sont orientés vers un clinicien. Le produit est conçu pour pencher du côté du « s'il te plaît, apporte ça à un humain » quand les enjeux sont élevés — soit là où l'hallucination ferait le plus de dégâts si elle passait à travers.

Le calibrage est un travail partagé. Le produit tient sa part avec des garde-fous et une discipline de citation ; ta part, c'est quelques habitudes simples qui rendent les hallucinations bien moins coûteuses lorsqu'elles surviennent :

• Traite les suggestions de l'IA comme les conseils d'un ami avisé qui n'est pas omniscient. Bon point de départ, pas le mot final.
• Vérifie les citations avant de les partager ou d'agir dessus. PubMed et Google Scholar sont des vérifications de 30 secondes.
• Demande-lui « à quel point en es-tu sûr ? » — les modèles parviennent parfois à signaler une incertitude lorsqu'on les y invite, et la réponse est instructive.
• Pour tout ce qui relève du médical, du juridique ou du financier — vérifie auprès d'un humain agréé. L'IA est le mauvais outil pour ces domaines en source principale.
• Quand quelque chose ne colle pas à ta situation, conteste. La réponse va se recalibrer autour de ce que tu auras ajouté — un conseil générique est souvent le signe que le coach n'a pas encore pleinement compris les spécificités.

L'auto-aide et le coaching par IA peuvent beaucoup, mais ils ont leurs limites. Si tu traverses une dépression sévère qui ne cède pas, des crises de panique qui perturbent ta vie quotidienne, des pensées d'automutilation, un travail actif sur un trauma ou une dépendance à une substance — ce sont des signaux pour consulter un professionnel de santé agréé, pas pour insister davantage avec un outil de coaching. Tu trouveras des options à coût réduit auprès de opencounseling.com ou aux lignes d'aide internationales via findahelpline.com. Il n'y a aucune prime à attendre plus longtemps que nécessaire.

Le calibrage — « cette pensée (ou ce conseil) est-il vraiment juste ? » — est au cœur de la TCC. L'approche de Judith traite les croyances comme des hypothèses à tester plutôt que comme des faits à avaler, exactement la posture qui te permet d'utiliser n'importe quelle source d'information (y compris un coach IA) sans lui faire trop confiance. Elle est aussi bonne dans la méta-version : repérer quand tu t'appuies trop fort sur une seule source — livre, podcast, ami, appli — et te ramener vers ton propre jugement comme filtre final. Pour en savoir plus sur la méthode, voir Thérapie cognitivo-comportementale.

Essaie un exercice TCC avec Judith — sans compte requis