Editorial Verke

Poate AI-ul să halucineze sfaturi proaste? Da — uite cum să le observi și să le gestionezi

Editorial Verke · April 28, 2026

Poate AI-ul să halucineze sfaturi proaste? Da. Modelele lingvistice mari fabrică ocazional lucruri care sună plauzibil — un studiu care nu există, o citare greșită, un sfat care nu se aplică situației tale, un cadru cu aer sigur care e pur și simplu inventat. Contextele de coaching au mize ceva mai mici decât cele medicale sau juridice, dar sfaturile proaste tot contează. Versiunea onestă a articolului ăsta e că garanțiile reduc halucinația, dar n-o elimină, iar propria calibrare a utilizatorului e parte din modul în care un instrument de coaching AI bine făcut rămâne util.

Articolul parcurge unde apare halucinația, cum e proiectat Verke să prindă categoriile cu risc mare și cum să-ți calibrezi încrederea ca utilizator — adică, în mare, „tratează sugestiile AI ca pe sfaturi de la un prieten deștept care nu e atotștiutor". Postura Verke e să prefere „nu sunt sigur" în locul lui sigur-pe-sine-dar-greșit și să țină coaching-ul orientat spre explorare, nu spre diagnostic. Nimic din astea nu face halucinația imposibilă. Face însă modurile de eșec recognoscibile și mișcările de recuperare ușoare.

Un model lingvistic prezice textul probabil care urmează, pornind de la tipare din datele de antrenament. De cele mai multe ori, textul cel mai probabil e și textul corect — de aceea aceste instrumente funcționează atât de bine. Uneori, însă, textul cel mai probabil e greșit. Modelul produce un răspuns care sună sigur pe sine, dar care nu are nicio bază în realitate. Fluența e ce derutează: răspunsul greșit se citește la fel de cursiv ca unul corect, pentru că treaba modelului e text fluent, nu text verificat.

Asta nu e minciună — modelul n-are agendă, n-are scop, nu încearcă să înșele. E vorba de un model care n-are o componentă separată de „adevăr" prin care să verifice rezultatul față de realitate înainte să-l producă. Tehnicile mai noi (retrieval, folosirea de unelte, verificări de auto-consistență, antrenare să refuze) reduc semnificativ halucinația, iar rata continuă să scadă cu fiecare generație de model. N-o elimină însă. Calibrarea bună astăzi — și probabil pentru următorii câțiva ani — e să tratezi răspunsurile AI drept ceva „în mare corect, dar verifică părțile cu miză mare".

Citări inventate

Forma clasică a halucinației: „un studiu Harvard din 2019 a descoperit că…" urmat de o concluzie sigură pe sine care, când te apuci s-o cauți, nu există. Lucrarea e inventată; autorii sunt inventați; numele revistei poate fi real, dar lucrarea nu. Soluția e să verifici orice citare care contează pentru tine, prin PubMed sau Google Scholar, înainte să te bazezi pe ea. Dacă apare un URL, dă click și verifică dacă rezumatul spune efectiv ce s-a afirmat — uneori URL-ul e real, dar rezumatul atașat e greșit.

Sfaturi medicale sau juridice specifice

Doze, interacțiuni medicamentoase, reglementări jurisdicționale, proceduri legale specifice — orice domeniu în care răspunsul trebuie să fie perfect corect, altfel face rău. Chiar și când răspunsul modelului se nimerește să fie corect, e instrumentul greșit pentru astfel de întrebări, pentru că n-ai cum să știi dacă de data asta a nimerit. Verifică întotdeauna cu un profesionist licențiat (medic, farmacist, avocat, contabil) orice ai de aplicat în aceste domenii. Coach-ii Verke sunt proiectați să refuze din start astfel de întrebări, nu să improvizeze — vezi secțiunea următoare.

Răspunsuri sigure pe sine în domenii înguste

Afecțiuni de nișă cu date de antrenament rare, reglementări regionale de care majoritatea lumii nu se sinchisește, terapeuți specifici pe nume, comunități profesionale mici. Modelul are doar atâta tipar în datele de antrenament cât să producă ceva fluent, dar nu suficient cât să știe dacă e corect. Combinația dintre fluență și îngustime e semnalul principal — când subiectul e obscur, dar răspunsul e sigur pe sine, atunci ar trebui să se activeze calibrarea.

Cadre plauzibile, dar greșite

„Metode în cinci pași" și „cei patru piloni ai…" inventate, care nu există în literatură. Modelul a văzut suficientă structură de tip self-help cât să producă versiuni convingătoare ale ei, chiar și când cadrul descris e inventat. Dacă un cadru contează pentru decizia ta, caută autorul sau numele metodei ca să confirmi că există înainte să-l tratezi ca practică standard. Cadrele reale au pagini de Wikipedia reale, cărți, citări; cele inventate nu.

Garanții pe domeniu

Coach-ii sunt proiectați să refuze categoriile cu risc mare, nu să improvizeze. Dozaje medicale, interacțiuni medicamentoase, opinii juridice, afirmații diagnostice, orice intră pe teritoriul profesionistului licențiat — răspunsul e să redirecționeze, nu să încerce. „Asta sună a întrebare pentru un farmacist" e o caracteristică, nu o limitare. Produsul preferă să nu răspundă decât să răspundă greșit.

Disciplină în citări

Când un coach face referire la un studiu sau la o metodă, citarea include un URL real pe care utilizatorul îl poate verifica (articolul StopOverthinking de pe acest site citează A-Tjak et al. 2015 cu un link PubMed exact din acest motiv — cititorii ar trebui să poată da click și verifica). Dacă coach-ul nu poate cita ceva verificabil, formularea trece la „există dovezi că" sau „acesta e un tipar comun în domeniu", nu la detalii inventate. Pragul e „un cititor ar putea verifica asta în 30 de secunde".

Setări implicite conservatoare

Când conversația lasă să se înțeleagă că situația e gravă, mișcarea implicită e să aducă în prim-plan îngrijirea clinică, nu să improvizeze ajutor. Subiectele apropiate de criză sunt direcționate către resurse de criză. Cele apropiate de diagnostic sunt direcționate către un clinician. Produsul e proiectat să greșească mai degrabă în direcția lui „te rog, du asta unui om" atunci când mizele sunt mari — adică exact acolo unde halucinația ar face cele mai mari pagube dacă tot ar reuși să treacă de filtre.

Calibrarea e muncă în comun. Produsul își face partea cu garanții și disciplină în citări; partea ta sunt câteva obiceiuri simple care fac halucinația mult mai puțin costisitoare când se întâmplă:

• Tratează sugestiile AI ca pe sfaturi de la un prieten deștept care nu e atotștiutor. Punct util de pornire, nu cuvântul final.
• Verifică citările înainte să le distribui sau să acționezi pe baza lor. PubMed și Google Scholar sunt verificări de 30 de secunde.
• Întreabă „cât de sigur ești de asta?" — modelele pot uneori semnala incertitudinea când sunt rugate, iar răspunsul e informativ.
• Pentru orice medical, juridic sau financiar — verifică cu un om licențiat. AI-ul e instrumentul greșit pentru aceste domenii ca sursă primară.
• Când ceva nu se potrivește situației tale, contrazice. Răspunsul se va recalibra în jurul a ce-ai adăugat — sfaturile generice sunt adesea un semn că coach-ul n-a înțeles încă pe deplin specificul.

Self-help-ul și coaching-ul AI pot face multe, dar au limite. Dacă te confrunți cu depresie severă care nu s-a ameliorat, atacuri de panică ce întrerup viața de zi cu zi, gânduri de auto-vătămare, procesare activă de traumă sau dependență de substanțe — astea sunt semnale să lucrezi cu un clinician licențiat, nu să apeși mai tare pe un instrument de coaching. Poți găsi opțiuni cu cost redus la opencounseling.com sau linii de ajutor internaționale prin findahelpline.com. Nu există niciun premiu pentru cel care așteaptă mai mult decât are nevoie.

Calibrarea — „e gândul ăsta (sau sfatul ăsta) cu adevărat exact?" — e fundamentală pentru CBT. Abordarea Judithei tratează convingerile ca pe niște ipoteze de testat, nu ca pe niște fapte de înghițit, ceea ce e exact postura care îți permite să folosești orice sursă de input (inclusiv un coach AI) fără să te încrezi excesiv în ea. E bună și la varianta meta: observă când te bazezi prea mult pe o singură sursă — carte, podcast, prieten, aplicație — și te trage înapoi la propria judecată ca filtru final. Mai mult despre metodă, vezi Terapia Cognitiv-Comportamentală.

Încearcă un exercițiu CBT cu Judith — fără cont