Redakcia Verke

Môže AI halucinovať zlú radu? Áno — takto ju rozpoznáš a zvládneš

Redakcia Verke · April 28, 2026

Môže AI vymyslieť zlú radu? Áno. Veľké jazykové modely občas vyfabrikujú niečo, čo znie hodnoverne — štúdiu, ktorá neexistuje, nesprávnu citáciu, radu, ktorá sa na tvoju situáciu nehodí, sebavedomo znejúci rámec, ktorý je v skutočnosti vymyslený. V koučingu je riziko o niečo nižšie ako v medicínskom alebo právnom kontexte, ale zlá rada zaváži aj tu. Úprimná verzia tohto článku znie tak, že ochranné mechanizmy halucinácie obmedzujú, no neeliminujú — a vlastná kalibrácia používateľa je súčasťou toho, vďaka čomu zostáva dobrý AI koučingový nástroj užitočný.

Článok prechádza tým, kde sa halucinácia objavuje, ako je Verke navrhnuté tak, aby zachytávalo vysokorizikové kategórie, a ako si ako používateľ kalibrovať dôveru — zhruba v duchu „ber AI návrhy ako radu od bystrého kamaráta, ktorý nie je vševediaci". Postoj Verke je radšej povedať „nie som si istý" než znieť sebavedomo a mýliť sa, a držať koučing skôr v rovine skúmania než diagnostiky. Nič z toho nerobí halucináciu nemožnou. Robí však spôsoby zlyhania rozpoznateľnými a kroky na nápravu jednoduchými.

Jazykový model predikuje pravdepodobný ďalší text na základe vzorcov z trénovacích dát. Väčšinou je najpravdepodobnejší ďalší text aj ten správny — vďaka tomu tieto nástroje fungujú tak dobre, ako fungujú. Niekedy je však najpravdepodobnejší text nesprávny. Model vyprodukuje sebavedomo znejúcu odpoveď, ktorá nemá oporu vo faktoch. Mätúce je práve to, že odpoveď znie plynulo: nesprávna odpoveď sa číta rovnako hladko ako správna, pretože úlohou modelu je plynulý text, nie overený text.

Nie je to klamstvo — model nemá žiadny zámer, žiadny cieľ, žiadnu snahu zavádzať. Ide o to, že model nemá oddelenú „pravdivostnú" zložku, ktorá by výstup ešte pred jeho vytvorením porovnala s realitou. Novšie techniky (vyhľadávanie v zdrojoch, používanie nástrojov, kontroly konzistentnosti, tréning odmietania) halucinácie výrazne obmedzujú a ich miera s každou novou generáciou modelov klesá. Úplne ich však neodstránia. Brať výstupy AI ako „väčšinou správne, ale dôležité veci si over" je dnes správnym prístupom — a pravdepodobne aj na niekoľko ďalších rokov.

Vymyslené citácie

Klasický tvar halucinácie: „štúdia z Harvardu z roku 2019 zistila, že…" a nasleduje sebavedomo znejúci záver, ktorý — keď si ho ideš overiť — neexistuje. Práca je vymyslená; autori sú vymyslení; názov časopisu môže byť skutočný, ale práca nie. Riešenie je overiť si akúkoľvek citáciu, ktorá pre teba niečo znamená, cez PubMed alebo Google Scholar, skôr ako sa o ňu oprieš. Ak je priložená URL, klikni na ňu a skontroluj, či abstrakt naozaj hovorí to, čo bolo tvrdené — niekedy je URL skutočná, ale priložené zhrnutie je nesprávne.

Konkrétne medicínske alebo právne rady

Dávkovanie liekov, liekové interakcie, regulácie podľa jurisdikcie, konkrétne právne postupy — všetko, kde odpoveď musí byť presne správna, inak spôsobí škodu. Aj keď je odpoveď modelu náhodou správna, je to zlý nástroj na takéto otázky, lebo nemáš ako vedieť, či mal pravdu práve teraz. Pri čomkoľvek z týchto oblastí, na čom plánuješ konať, si to vždy over u licencovaného profesionála (lekár, lekárnik, právnik, účtovník). Kouči vo Verke sú navrhnutí tak, aby takéto otázky priamo odmietli, namiesto improvizácie — viac v ďalšej časti.

Sebavedomé odpovede v úzkych témach

Okrajové diagnózy s riedkymi trénovacími dátami, regionálne predpisy, ktoré väčšinu sveta nezaujímajú, konkrétni terapeuti podľa mena, malé profesijné komunity. Model má v trénovacích dátach práve toľko vzorcov, aby vyprodukoval niečo plynulé, ale nie dosť na to, aby vedel, či je to správne. Hlavným signálom je práve kombinácia plynulosti a úzkeho záberu — keď je téma okrajová, ale odpoveď znie sebavedomo, vtedy by mala nastúpiť kalibrácia.

Hodnoverné, ale nesprávne rámce

Vymyslené „päťkrokové metódy" a „štyri piliere…", ktoré v odbornej literatúre neexistujú. Model videl dosť štruktúry v štýle svojpomocnej literatúry na to, aby vyprodukoval presvedčivo vyzerajúce verzie — aj keď konkrétny rámec, ktorý opisuje, je vymyslený. Ak je nejaký rámec dôležitý pre rozhodnutie, ktoré robíš, vyhľadaj si autora alebo názov metódy a over si, že je skutočný, skôr ako ho budeš brať ako bežnú prax. Skutočné rámce majú reálne stránky na Wikipédii, knihy a citácie; vymyslené nie.

Tematické ochranné mechanizmy

Kouči sú navrhnutí tak, aby vo vysokorizikových kategóriách radšej odmietli odpovedať než improvizovali. Dávkovanie liekov, liekové interakcie, právne posudky, diagnostické tvrdenia, čokoľvek, čo zasahuje do územia licencovaných profesionálov — odpoveďou je presmerovanie, nie pokus o odpoveď. „To znie ako otázka pre lekárnika" je vlastnosť, nie obmedzenie. Produkt radšej neodpovie, než aby odpovedal zle.

Disciplína v citáciách

Keď kouč odkáže na štúdiu alebo metódu, citácia obsahuje reálnu URL, ktorú si používateľ vie overiť (článok StopOverthinking na tejto stránke z tohto dôvodu cituje A-Tjak et al. 2015 s odkazom na PubMed — čitatelia by mali mať možnosť kliknúť a skontrolovať). Ak kouč nevie niečo overiteľne odcitovať, formulácia sa posúva k „existujú dôkazy, že" alebo „toto je v odbore bežný vzorec", nie k vymysleným konkrétnostiam. Latka je „čitateľ to vie overiť za 30 sekúnd".

Konzervatívne nastavenia

Keď z rozhovoru cítiť závažnosť, kouč predvolene nasmeruje k odbornej starostlivosti namiesto toho, aby improvizoval pomoc. Témy hraničiace s krízou smerujú ku krízovým zdrojom. Témy hraničiace s diagnózou smerujú k odborníkovi. Produkt je nastavený tak, aby pri vysokom riziku radšej povedal „prosím, rieš to s odborníkom" — pretože práve tam by halucinácia, ak by sa predsa prešmykla, narobila najväčšiu škodu.

Kalibrácia je spoločná práca. Produkt si plní svoju úlohu cez ochranné mechanizmy a disciplínu v citáciách; na tebe je pár jednoduchých návykov, vďaka ktorým halucinácia, keď sa už stane, zaváži oveľa menej:

• Ber AI návrhy ako radu od bystrého kamaráta, ktorý nie je vševediaci. Užitočný východiskový bod, nie posledné slovo.
• Citácie si over predtým, ako ich budeš zdieľať alebo podľa nich konať. PubMed a Google Scholar sú 30-sekundové kontroly.
• Spýtaj sa „nakoľko si si tým istý?" — modely vedia občas signalizovať neistotu, keď ich na to vyzveš, a tá odpoveď je sama o sebe užitočná.
• Pri čomkoľvek medicínskom, právnom alebo finančnom — over si to u kvalifikovaného odborníka. AI by v týchto oblastiach nemala byť tvojím primárnym zdrojom.
• Keď ti niečo nesedí na tvoju situáciu, ozvi sa. Odpoveď sa prekalibruje podľa toho, čo si doplnil/a — všeobecná rada je často signál, že kouč ešte úplne neuchopil tvoje špecifiká.

Svojpomoc a AI koučing dokážu veľa, ale majú svoje hranice. Ak prežívaš ťažkú depresiu, ktorá neustupuje, panické záchvaty, ktoré ti narúšajú bežný deň, myšlienky na sebapoškodzovanie, aktívne spracovávanie traumy alebo závislosť od návykových látok — to sú signály, že je čas vyhľadať licencovaného odborníka, nie viac tlačiť na koučovací nástroj. Cenovo dostupné možnosti nájdeš na opencounseling.com alebo medzinárodné linky pomoci cez findahelpline.com. Nemá zmysel čakať dlhšie, než potrebuješ.

Kalibrácia — „je táto myšlienka (alebo táto rada) skutočne presná?" — je jadrom KBT. Judith pristupuje k presvedčeniam ako k hypotézam, ktoré treba overiť, nie ako k faktom, ktoré treba prehltnúť — a práve tento postoj ti umožňuje využívať akýkoľvek zdroj (vrátane AI kouča) bez toho, aby si mu prehnane dôveroval/a. Zvláda aj meta-rovinu: všimne si, keď sa priveľmi spoliehaš na jeden jediný zdroj — knihu, podcast, kamaráta, aplikáciu — a vráti ťa k tvojmu vlastnému úsudku ako k poslednému filtru. Viac o metóde si prečítaš v článku Kognitívno-behaviorálna terapia.

Vyskúšaj CBT cvičenie s Judith — bez vytvárania účtu