Verke Editorial

Može li AI halucinirati loš savjet? Da — evo kako ga prepoznati i nositi se s njim

Verke Editorial · April 28, 2026

Može li AI halucinirati loš savjet? Da. Veliki jezični modeli povremeno izmišljaju stvari koje zvuče uvjerljivo — studiju koja ne postoji, krivu citiranu referencu, savjet koji ne odgovara tvojoj situaciji, okvir koji zvuči samouvjereno, a u stvarnosti je izmišljen. Coaching nosi nešto niže rizike od medicinskih ili pravnih konteksta, ali loš savjet i dalje je važan. Iskrena verzija ovog članka glasi: zaštitni mehanizmi smanjuju halucinaciju, ali je ne uklanjaju, a vlastita kalibracija korisnika dio je onoga što dobro osmišljen AI coaching alat drži korisnim.

Članak prolazi kroz to gdje se halucinacija pojavljuje, kako je Verke osmišljen da uhvati kategorije visokog rizika i kako kalibrirati vlastito povjerenje kao korisnik — što je otprilike "tretiraj AI prijedloge kao savjet pametnog prijatelja koji nije svemoguć". Verkeov je stav da radije kaže "nisam siguran" nego da bude samouvjereno u krivu, i da coaching usmjerava prema istraživanju, a ne prema dijagnozi. Ništa od toga ne čini halucinaciju nemogućom. Ali čini načine na koje pogriješi prepoznatljivima, a poteze za oporavak jednostavnima.

Jezični model predviđa vjerojatan sljedeći tekst na temelju obrazaca iz podataka na kojima je treniran. Najčešće je najvjerojatniji sljedeći tekst ujedno i točan — zato ovi alati i rade tako dobro. No ponekad najvjerojatniji sljedeći tekst nije točan. Model proizvede odgovor koji zvuči samouvjereno, ali nema temelja u stvarnosti. Tečnost je ono što ljude zbunjuje: pogrešan odgovor čita se jednako glatko kao i točan, jer je posao modela tečan tekst, a ne provjeren tekst.

Ovo nije laganje — model nema agendu, nema cilj, ne pokušava obmanuti. To je model koji nema zasebnu "komponentu istine" koja bi izlaz provjerila u odnosu na stvarnost prije nego ga proizvede. Novije tehnike (dohvat informacija, korištenje alata, provjere unutarnje dosljednosti, treniranje za odbijanje) značajno smanjuju halucinaciju, a stopa pada sa svakom novom generacijom modela. No ne uklanjaju je. Tretirati AI izlaz kao "uglavnom točno, ali provjeri ono s visokim ulogom" prava je kalibracija danas, i vjerojatno još sljedećih nekoliko godina.

Izmišljeni citati

Klasičan oblik halucinacije: "studija s Harvarda iz 2019. otkrila je da…" iza čega slijedi samouvjereno iznesen nalaz koji, kad ga odeš provjeriti, ne postoji. Rad je izmišljen; autori su izmišljeni; ime časopisa možda je stvarno, ali rad nije. Rješenje je svaki citat koji ti je bitan provjeriti preko PubMeda ili Google Scholara prije nego se na njega osloniš. Ako je naveden URL, klikni i provjeri kaže li sažetak doista ono što je tvrđeno — ponekad je URL stvaran, ali sažetak vezan uz njega nije točan.

Konkretni medicinski ili pravni savjeti

Doze, interakcije lijekova, propisi pojedinih jurisdikcija, konkretni pravni postupci — sve gdje odgovor mora biti točan ili izaziva štetu. Čak i kad model slučajno odgovori točno, to je pogrešan alat za takva pitanja jer ti nemaš načina znati je li ovaj put bio u pravu. Uvijek provjeri s licenciranim stručnjakom (liječnikom, farmaceutom, odvjetnikom, računovođom) za sve na temelju čega ćeš nešto poduzeti u tim područjima. Verkeovi coachevi osmišljeni su da takva pitanja izravno odbiju, a ne da improviziraju — vidi sljedeći odjeljak.

Samouvjereni odgovori u uskim područjima

Rijetka stanja s oskudnim podacima za treniranje, lokalni propisi koji većini svijeta nisu zanimljivi, konkretni terapeuti poimence, male profesionalne zajednice. Model ima tek dovoljno obrazaca u trening-podacima da proizvede nešto tečno, ali ne dovoljno da zna je li to točno. Kombinacija tečnosti i uskosti glavni je signal — kad je tema nepoznata, a odgovor samouvjeren, tu se kalibracija treba uključiti.

Uvjerljivi, ali pogrešni okviri

Izmišljene "metode u pet koraka" i "četiri stupa…" koje ne postoje u literaturi. Model je vidio dovoljno strukture u stilu self-helpa da proizvede uvjerljive verzije, čak i kad je konkretan okvir koji opisuje izmišljen. Ako ti je neki okvir važan za odluku koju donosiš, potraži autora ili naziv metode da potvrdiš da je stvaran prije nego ga prihvatiš kao standardnu praksu. Stvarni okviri imaju stvarne Wikipedia stranice, knjige i citate; izmišljeni ih nemaju.

Zaštitni mehanizmi po području

Coachevi su osmišljeni da kategorije visokog rizika odbiju, a ne da improviziraju. Doziranje lijekova, interakcije lijekova, pravna mišljenja, dijagnostičke tvrdnje, sve što ulazi u područje licenciranih stručnjaka — odgovor je preusmjeriti, a ne pokušati. "Zvuči kao pitanje za farmaceuta" je značajka, a ne ograničenje. Proizvod radije ne odgovori nego da odgovori pogrešno.

Disciplina citiranja

Kad coach spomene studiju ili metodu, citat uključuje stvaran URL koji korisnik može provjeriti (StopOverthinking članak na ovoj stranici citira A-Tjak i sur. 2015 s PubMed poveznicom upravo iz tog razloga — čitatelji bi trebali moći kliknuti i provjeriti). Ako coach nešto ne može citirati provjerljivo, formulacija se mijenja u "postoje dokazi da" ili "ovo je čest obrazac u struci", a ne izmišljene specifičnosti. Granica je "čitatelj ovo može provjeriti u 30 sekundi".

Konzervativne postavke

Kad razgovor sugerira ozbiljnost, zadani potez je iznijeti kliničku skrb umjesto improvizirane pomoći. Teme blizu krize preusmjeravaju se na krizne resurse. Teme blizu dijagnoze preusmjeravaju se na kliničara. Proizvod je osmišljen da pogriješi na strani "molim te, donesi ovo čovjeku" kad su ulozi visoki — upravo tu bi halucinacija napravila najveću štetu kad bi se ipak provukla.

Kalibracija je zajednički posao. Proizvod radi svoj dio kroz zaštitne mehanizme i disciplinu citiranja; tvoj dio su nekoliko jednostavnih navika koje halucinaciju, kad se dogodi, čine puno manje skupom:

• Tretiraj AI prijedloge kao savjet pametnog prijatelja koji nije svemoguć. Korisna polazna točka, ne posljednja riječ.
• Provjeri citate prije nego ih podijeliš ili poduzmeš nešto na temelju njih. PubMed i Google Scholar provjere su od 30 sekundi.
• Pitaj "koliko si siguran u ovo?" — modeli ponekad znaju signalizirati nesigurnost kad ih se izravno pita, a odgovor ti puno govori.
• Za sve medicinsko, pravno ili financijsko — provjeri s licenciranom osobom. AI je pogrešan alat za ta područja kao primarni izvor.
• Kad ti nešto ne odgovara tvojoj situaciji, reagiraj i reci. Odgovor će se prilagoditi onome što si dodao — generičan savjet često je znak da coach još nije do kraja razumio specifičnosti.

Self-help i AI coaching mogu jako puno, ali imaju granice. Ako proživljavaš tešku depresiju koja ne popušta, napadaje panike koji ti prekidaju svakodnevicu, misli o samoozljeđivanju, aktivnu obradu traume ili ovisnost — to su znakovi za rad s licenciranim kliničarem, ne znakovi da treba jače pritiskati coaching alat. Pristupačne opcije možeš pronaći na opencounseling.com ili međunarodne linije za pomoć putem findahelpline.com. Nema nagrade za one koji čekaju duže nego što trebaju.

Kalibracija — "je li ova misao (ili ovaj savjet) zapravo točan?" — srž je CBT-a. Judithin pristup tretira uvjerenja kao hipoteze koje treba testirati, a ne kao činjenice koje treba progutati, i upravo ti to drži otvorenu mogućnost da koristiš bilo koji izvor (uključujući AI coacha) bez pretjeranog povjerenja. Dobra je i u meta-verziji: primijeti kad se previše oslanjaš na bilo koji jedan izvor — knjigu, podcast, prijatelja, aplikaciju — i vraća te tvojoj vlastitoj prosudbi kao posljednjem filtru. Više o metodi pročitaj u Kognitivno-bihevioralna terapija.

Isprobaj CBT vježbu s Judith — bez registracije