Verke szerkesztőség

Hallucinálhat-e rossz tanácsot az AI? Igen — így ismered fel és kezeled

Verke szerkesztőség · April 28, 2026

Hallucinálhat-e rossz tanácsot az AI? Igen. A nagy nyelvi modellek időnként hihetően hangzó dolgokat találnak ki — egy nem létező tanulmányt, egy hibás hivatkozást, a helyzetedre nem illő tanácsot, egy magabiztosan előadott, de valójában kitalált keretrendszert. A coaching tét szempontjából kisebb súlyú, mint az orvosi vagy jogi terep, de a rossz tanács itt is számít. Az őszinte válasz az, hogy a biztonsági korlátok csökkentik a hallucinációt, de nem szüntetik meg — és a felhasználó saját kalibrációja része annak, ahogy egy jól működő AI-coaching eszköz hasznos marad.

A cikk végigveszi, hol bukkan fel a hallucináció, hogyan tervezték a Verkét úgy, hogy a magas kockázatú kategóriákat kiszűrje, és felhasználóként hogyan kalibrálhatod a bizalmadat — nagyjából úgy, hogy „kezeld az MI javaslatait egy okos, de nem mindentudó barát tanácsaként". A Verke alapállása az, hogy inkább a „nem vagyok benne biztos" választ adja, mint hogy magabiztosan, de tévesen feleljen, és a coachingot a feltárásnál tartja, nem a diagnózisnál. Ez nem teszi lehetetlenné a hallucinációt. De a hibákat felismerhetővé teszi, a helyreállító lépéseket pedig egyszerűvé.

A nyelvi modell a tanítóadataiban látott minták alapján jósolja meg a valószínű következő szöveget. Az esetek többségében a legvalószínűbb folytatás egyben a helyes folytatás is — ezért működnek ezek az eszközök olyan jól, ahogy működnek. Néha azonban a legvalószínűbb folytatás egyszerűen téves. A modell magabiztosan hangzó választ ad, amelynek semmilyen ténybeli alapja nincs. A gördülékenység az, ami megtéveszti az embereket: a rossz válasz ugyanolyan simán olvasható, mint a helyes, hiszen a modell dolga a folyékony szöveg, nem az ellenőrzött tartalom.

Ez nem hazugság — a modellnek nincs szándéka, célja, megtévesztési törekvése. Egyszerűen nincs külön „igazság”-komponense, amely a kimenetet a valósághoz mérné, mielőtt előállítaná. Az újabb technikák (visszakeresés, eszközhasználat, önkonzisztencia-ellenőrzés, elhárítási tréning) érdemben csökkentik a hallucinációt, és az arány modellgenerációról modellgenerációra tovább esik. Megszüntetni viszont nem szüntetik meg. Az AI kimenetét úgy kezelni, mint „nagyjából helyeset, de a tétes részeket ellenőrizni kell” — ez ma a helyes kalibráció, és valószínűleg a következő néhány évben is az marad.

Kitalált hivatkozások

A klasszikus hallucinációs forma: „egy 2019-es Harvard-tanulmány azt találta, hogy…” — majd jön egy magabiztosan hangzó eredmény, amelynek, ha utánanézel, nyoma sincs. A tanulmány kitalált; a szerzők kitaláltak; a folyóirat neve talán valódi, de a cikk nem. A megoldás: a számodra fontos hivatkozásokat mindig ellenőrizd a PubMeden vagy a Google Scholaron, mielőtt rájuk hagyatkoznál. Ha URL is van mellette, kattints át, és nézd meg, hogy az absztrakt valóban azt mondja-e, amit állítottak — előfordul, hogy az URL valódi, de a hozzá fűzött összefoglaló hibás.

Konkrét orvosi vagy jogi tanács

Adagolás, gyógyszer-kölcsönhatások, az adott ország szabályozása, konkrét jogi eljárások — bármi, ahol a válasznak pontosnak kell lennie, különben kárt okoz. Még ha a modell történetesen jól is válaszol, ezekre a kérdésekre nem ez a megfelelő eszköz, mert sosem tudhatod, hogy ezúttal valóban igaza volt-e. Ezeken a területeken minden tényleges lépés előtt egyeztess képesített szakemberrel — orvossal, gyógyszerésszel, ügyvéddel, könyvelővel. A Verke coachjait kifejezetten úgy alakítottuk ki, hogy az ilyen kérdéseket egyenesen elhárítsák, ne improvizáljanak — erről a következő szakaszban olvashatsz bővebben.

Magabiztos válaszok szűk területeken

Ritka kórképek, amelyekről kevés tanítóadat áll rendelkezésre; regionális szabályozások, amelyek a világ nagy részét nem érintik; név szerint említett terapeuták; kis szakmai közösségek. A modell éppen csak annyi mintát kapott, hogy gördülékeny szöveget tudjon előállítani, de nem eleget ahhoz, hogy tudja, helyes-e. A gördülékenység és a téma szűkössége együtt a legfőbb figyelmeztető jel — ha a téma marginális, de a válasz magabiztos, ott kell beindulnia a kalibrációnak.

Hihetőnek tűnő, de téves keretrendszerek

Kitalált „ötlépéses módszerek” és „négy pillér…”, amelyek a szakirodalomban nem léteznek. A modell elég önsegítő stílusú szerkezetet látott ahhoz, hogy meggyőzőnek tűnő változatokat gyártson belőlük — még akkor is, ha a konkrét keretrendszer, amelyet leír, csak találmány. Ha egy keretrendszer valóban számít a döntésedhez, nézz utána a szerzőnek vagy a módszer nevének, és győződj meg róla, hogy létezik, mielőtt bevett gyakorlatként kezelnéd. A valódi keretrendszereknek van valódi Wikipédia-oldaluk, könyvük és hivatkozásaik; a kitaláltaknak nincs.

Tartományi korlátok

A coachokat úgy terveztük, hogy a magas kockázatú kategóriákat elhárítsák, ne pedig improvizáljanak. Gyógyszeradagolás, gyógyszerkölcsönhatások, jogi vélemények, diagnosztikai állítások, minden, ami engedélyhez kötött szakmai területre lép — a válasz az átirányítás, nem a próbálkozás. „Ez inkább a gyógyszerészed kérdése” — ez funkció, nem korlát. A termék inkább nem válaszol, mint hogy rosszul válaszoljon.

Fegyelmezett hivatkozáskezelés

Amikor egy coach kutatásra vagy módszerre hivatkozik, valódi, ellenőrizhető URL-t is megad mellé (az ezen az oldalon olvasható StopOverthinking cikk éppen ezért hivatkozik A-Tjak és munkatársai 2015-ös tanulmányára PubMed-linkkel — hogy az olvasó rákattinthasson és utánanézhessen). Ha a coach nem tud ellenőrizhető forrást idézni, a megfogalmazás máshogyan alakul: „van bizonyíték arra, hogy…" vagy „ez a területen gyakori minta" — kitalált részletek helyett. A mérce: az olvasó 30 másodperc alatt utána tudjon nézni.

Óvatos alapbeállítások

Amikor a beszélgetésben súlyosság sejlik fel, az alapértelmezett lépés a klinikai ellátás felé terelés, nem az improvizált segítség. A krízishez közeli témák krízisellátáshoz irányítanak. A diagnózishoz közeli témák szakemberhez. A terméket úgy alakítottuk ki, hogy nagy tét esetén inkább a „kérlek, ezt vidd emberhez” oldalra tévedjen — és pontosan itt okozná a legnagyobb kárt a hallucináció, ha mégis átcsúszna.

A kalibráció közös munka. A termék a maga oldaláról biztonsági korlátokkal és a hivatkozások fegyelmével teszi a dolgát; a felhasználó részéről néhány egyszerű szokás kell, amelyek sokkal kevésbé teszik költségessé a hallucinációt, amikor mégis előfordul:

• Kezeld az AI javaslatait egy okos barát tanácsaként, aki nem mindentudó. Hasznos kiindulópont, nem a végső szó.
• Mielőtt megosztanád vagy aszerint cselekednél, ellenőrizd a hivatkozásokat. A PubMed és a Google Scholar 30 másodperces ellenőrzés.
• Kérdezd meg: „Mennyire vagy biztos ebben?” — a modellek kérésre időnként képesek jelezni a bizonytalanságot, és a válasz sokat elárul.
• Bármi orvosi, jogi vagy pénzügyi kérdésben — egyeztesd engedéllyel rendelkező emberrel. Az AI ezeken a területeken nem alkalmas elsődleges forrásnak.
• Amikor valami nem illik a helyzetedre, mondj ellent. A válasz újrakalibrálódik annak alapján, amit hozzáteszel — az általános tanács gyakran azt jelzi, hogy a coach még nem értette meg teljesen a konkrétumokat.

Az önsegítő módszerek és az AI-coaching sokat tudnak, de van határuk. Ha olyan súlyos depressziót élsz át, ami nem akar elmúlni, ha a mindennapokat megszakító pánikrohamaid vannak, önbántó gondolataid, ha aktív traumafeldolgozás zajlik benned, vagy szerfüggőséggel küzdesz — ezek mind azt jelzik, hogy szakemberrel érdemes dolgoznod, nem pedig azt, hogy még keményebben rátegyél a coaching-eszközre. Megfizethető lehetőségeket itt találsz: opencounseling.com vagy nemzetközi segélyvonalakat itt: findahelpline.com. Nincs díj azért, ha tovább vársz, mint amennyit kell.

A kalibráció — „valóban pontos ez a gondolat (vagy tanács)?” — a CBT magja. Judith megközelítésében a hiedelmek tesztelendő hipotézisek, nem készpénznek vehető tények — pontosan ez az a hozzáállás, amellyel bármilyen forrást (akár egy AI-coachot is) használhatsz anélkül, hogy túlzott bizalmat fektetnél belé. A meta-szinten is jól dolgozik: észreveszi, ha túlságosan ráhagyatkozol egyetlen forrásra — könyv, podcast, barát, app — és visszaterel ahhoz, hogy a saját ítéleted maradjon a végső szűrő. A módszerről bővebben: Kognitív viselkedésterápia.

Próbálj ki egy CBT gyakorlatot Judithtal — regisztráció nélkül