Uredništvo Verke

Lahko AI halucinira slabe nasvete? Da — in tukaj je, kako jih prepoznaš in se z njimi spopadeš

Uredništvo Verke · April 28, 2026

Lahko AI halucinira slabe nasvete? Da. Veliki jezikovni modeli si občasno izmišljajo stvari, ki zvenijo verjetno — študijo, ki ne obstaja, napačno navedbo vira, nasvet, ki se ne ujema s tvojo situacijo, samozavestno zveneč okvir, ki je v resnici izmišljen. Konteksti coachinga imajo nekoliko nižje vložke kot medicinski ali pravni, a slab nasvet še vedno šteje. Iskreno povedano: varovala halucinacije zmanjšajo, ne odpravijo, in tvoja lastna kalibracija je del tega, zakaj dobro zasnovano orodje za AI coaching ostaja koristno.

Članek razloži, kje se halucinacija pojavi, kako je Verke zasnovan, da ujame visokorizične kategorije, in kako kot uporabnik umeriš svoje zaupanje — kar je v grobem »na AI predloge glej kot na nasvet pametnega prijatelja, ki ni vseveden«. Verkejeva drža je, da raje reče »nisem prepričan« kot samozavestno, a napačno, in da coaching usmerja v raziskovanje, ne v diagnozo. Nič od tega ne naredi halucinacije nemogoče. Naredi pa načine, na katere odpove, prepoznavne, in popravljalne poteze enostavne.

Jezikovni model napoveduje verjetno naslednje besedilo na podlagi vzorcev iz svojih učnih podatkov. Večinoma je najbolj verjetno naslednje besedilo tudi pravilno — zato ta orodja delujejo tako dobro. Včasih pa je najbolj verjetno besedilo napačno. Model proizvede samozavestno zveneč odgovor, ki nima nobene dejanske osnove. Ravno tekočnost je tisto, kar zavaja ljudi: napačen odgovor se bere enako gladko kot pravilen, ker je naloga modela tekoče besedilo, ne preverjeno besedilo.

To ni laganje — model nima namena, ne cilja, ne poskuša zavajati. Gre za to, da nima ločene »resničnostne« komponente, ki bi izhod preverjala glede na realnost, preden ga ustvari. Novejše tehnike (iskanje informacij, uporaba orodij, preverjanja konsistentnosti, učenje zavračanja) halucinacijo občutno zmanjšajo in stopnja s vsako generacijo modelov pada. Vendar je ne odpravijo. Trenutno — in verjetno za nekaj prihodnjih let — je prava kalibracija »večinoma drži, a preveri dele z visokimi vložki«.

Izmišljene navedbe virov

Klasična oblika halucinacije: »harvardska študija iz leta 2019 je pokazala, da …«, čemur sledi samozavestno zveneč izsledek, ki ga, ko ga poskušaš poiskati, ni. Članek je izmišljen; avtorji so izmišljeni; ime revije je morda resnično, sam članek pa ni. Rešitev je, da vsako navedbo, ki ti je pomembna, preveriš prek PubMeda ali Google Scholarja, preden se zaneseš nanjo. Če je dodana povezava, jo klikni in preveri, ali povzetek dejansko pravi to, kar je bilo navedeno — včasih je povezava prava, opis, ki je pripet, pa napačen.

Konkretni medicinski ali pravni nasveti

Odmerki, interakcije zdravil, lokalni predpisi, konkretni pravni postopki — vse, kjer mora biti odgovor točno pravilen, sicer povzroči škodo. Tudi kadar je odgovor modela slučajno pravilen, je to napačno orodje za takšna vprašanja, ker nimaš načina, da bi vedel, ali je tokrat zadel. Vedno preveri pri pooblaščenem strokovnjaku (zdravniku, farmacevtu, odvetniku, računovodji), preden ukrepaš na teh področjih. Verkejevi coachi so zasnovani tako, da takšna vprašanja zavrnejo in ne improvizirajo — glej naslednje poglavje.

Samozavestni odgovori na ozkih področjih

Nišne težave s skopimi učnimi podatki, lokalni predpisi, ki večino sveta ne zanimajo, posamezni terapevti po imenu, majhne strokovne skupnosti. Model ima v učnih podatkih ravno dovolj vzorca, da proizvede tekoče besedilo, ne pa dovolj, da bi vedel, ali je pravilno. Glavni znak je kombinacija tekočnosti in ozkosti — kadar je tema obskurna, odgovor pa samozavesten, je to trenutek, ko mora vklopiti kalibracija.

Verjetni, a napačni okviri

Izmišljene »metode v petih korakih« in »štirje stebri …«, ki jih v strokovni literaturi ni. Model je videl dovolj samopomočne strukture, da proizvede prepričljivo izgledajoče različice, tudi ko je posamezen okvir, ki ga opisuje, izmišljen. Če je okvir pomemben za odločitev, ki jo sprejemaš, poišči avtorja ali ime metode in se prepričaj, da je resničen, preden ga jemlješ kot uveljavljeno prakso. Resnični okviri imajo prave strani na Wikipediji, knjige in vire; izmišljeni jih nimajo.

Varovala za posamezna področja

Coachi so zasnovani tako, da visokorizične kategorije zavrnejo in ne improvizirajo. Medicinsko odmerjanje, interakcije zdravil, pravna mnenja, diagnostične trditve, vse, kar pade na področje pooblaščenih strokovnjakov — odgovor je preusmeritev, ne poskus. »To zveni kot vprašanje za farmacevta« je funkcija, ne pomanjkljivost. Izdelek raje ne odgovori, kot da odgovori narobe.

Disciplina pri navajanju virov

Kadar coach navede študijo ali metodo, navedba vključuje pravo povezavo, ki jo lahko preveriš (članek StopOverthinking na tej strani prav zato navaja A-Tjak in sod. 2015 s povezavo do PubMeda — bralci morajo imeti možnost klikniti in preveriti). Če coach česa ne more navesti s preverljivim virom, se ubeseditev premakne v »obstajajo dokazi, da …« ali »to je pogost vzorec na področju«, ne pa v izmišljene podrobnosti. Pravilo je: »bralec bi moral to lahko preveriti v 30 sekundah«.

Previdne privzete nastavitve

Kadar pogovor nakaže resnost stanja, je privzeti odziv usmeriti te h klinični obravnavi, ne improvizirati pomoči. Teme, povezane s krizo, se preusmerijo k virom za krizno pomoč. Teme, povezane z diagnozo, se preusmerijo k strokovnjaku. Izdelek je zasnovan tako, da pri visokih vložkih raje predlaga, naj se obrneš na strokovnjaka — saj bi prav tam, če bi halucinacija vseeno prišla skozi, naredila največ škode.

Kalibracija je skupno delo. Izdelek odnese svoj del z varovali in dosledno navedbo virov; tvoj del so nekatere preproste navade, ki halucinacijo, kadar do nje pride, naredijo veliko manj boleče:

• Na AI predloge glej kot na nasvet pametnega prijatelja, ki ni vseveden. Koristna izhodiščna točka, ne pa zadnja beseda.
• Navedbe virov preveri, preden jih deliš ali po njih ukrepaš. PubMed in Google Scholar sta 30-sekundni preverjanji.
• Vprašaj »kako prepričan si v to?« — modeli znajo včasih, ko jih izrecno vprašaš, signalizirati negotovost, in tak odgovor pove veliko.
• Pri vsem, kar je medicinske, pravne ali finančne narave — preveri pri pooblaščeni osebi. AI je za ta področja napačno orodje kot primarni vir.
• Kadar nekaj ne ustreza tvoji situaciji, povej. Odziv se bo prilagodil glede na to, kar si dodal — splošni nasvet je pogosto znak, da coach posebnosti še ni povsem razumel.

Samopomoč in AI-coaching zmoreta veliko, a imata svoje meje. Če doživljaš hudo depresijo, ki ne popušča, napade panike, ki ti prekinjajo vsakdanje življenje, misli o samopoškodovanju, predelavo sveže travme ali odvisnost od substanc — to so znaki, da je čas za sodelovanje z licenciranim kliničnim strokovnjakom, in ne znaki, da bi moral/a s coaching orodjem še bolj vztrajati. Cenovno dostopne možnosti najdeš na opencounseling.com ali mednarodne linije za pomoč v stiski prek findahelpline.com. Ni nagrade za to, da bi čakal dlje, kot je potrebno.

Kalibracija — »je ta misel (ali ta nasvet) dejansko točen?« — je jedro CBT. Judithin pristop obravnava prepričanja kot hipoteze, ki jih je treba preizkusiti, ne kot dejstva, ki jih je treba pogoltniti, in prav ta drža ti omogoča, da uporabljaš kateri koli vir vnosa (vključno z AI coachem), ne da bi mu preveč zaupal. Dobra je tudi v meta različici: opazi, kdaj se preveč naslanjaš na en sam vir — knjigo, podcast, prijatelja, aplikacijo — in te vrne k tvoji lastni presoji kot končnemu filtru. Več o metodi: Kognitivno-vedenjska terapija.

Preizkusi CBT-vajo z Judith — brez računa