Verkes redaktion

Kan AI hallucinera dåliga råd? Ja – så här känner du igen och hanterar dem

Verkes redaktion · April 28, 2026

Kan AI hallucinera dåliga råd? Ja. Stora språkmodeller hittar ibland på saker som låter trovärdiga – en studie som inte finns, en felaktig källhänvisning, råd som inte gäller din situation, ett självsäkert klingande ramverk som är helt påhittat. I coachingsammanhang är det mindre som står på spel än i medicinska eller juridiska sammanhang, men dåliga råd spelar ändå roll. Den ärliga versionen av den här artikeln är att skyddsmekanismer minskar hallucinationer men inte eliminerar dem, och att din egen kalibrering är en del av hur ett välfungerande AI-coachingverktyg fortsätter att vara användbart.

Artikeln går igenom var hallucinationer dyker upp, hur Verke är byggt för att fånga högriskkategorierna, och hur du som användare kalibrerar ditt förtroende – ungefär som att "behandla AI-förslag som råd från en klok vän som inte är allvetande." Verkes hållning är att hellre säga "jag är inte säker" än att låta säker men ha fel, och att hålla coachingen inriktad på utforskning snarare än diagnos. Inget av det gör hallucinationer omöjliga. Däremot blir felmönstren lätta att känna igen och åtgärderna enkla att ta till.

En språkmodell förutsäger nästa sannolika ord utifrån mönstren i sin träningsdata. För det mesta är det mest sannolika ordet också det rätta — och det är därför verktygen fungerar så bra som de gör. Men ibland blir det fel. Modellen producerar ett svar som låter säkert men som saknar grund i fakta. Det är just det flytande språket som lurar läsaren: det felaktiga svaret läses lika smidigt som ett rätt, eftersom modellens uppgift är att producera flytande text — inte verifierad text.

Det handlar inte om lögner – modellen har ingen agenda, inget mål, inget försök att vilseleda. Det handlar om att modellen saknar en separat ”sanningskomponent” som kontrollerar resultatet mot verkligheten innan det produceras. Nyare tekniker (retrieval, verktygsanvändning, konsistensgranskning, avvisningsträning) minskar hallucinationer avsevärt, och frekvensen sjunker för varje modellgeneration. De eliminerar dem dock inte helt. Att se AI-resultat som ”oftast rätt, men verifiera de delar där mycket står på spel” är rätt kalibrering idag och förmodligen under flera år framåt.

Påhittade källor

Den klassiska formen för en hallucination: "en Harvard-studie från 2019 visade att…" följt av ett fynd som låter trovärdigt men som inte existerar när du söker efter det. Artikeln är påhittad; författarna är påhittade; tidskriftens namn kan vara äkta men artikeln är det inte. Lösningen är att verifiera varje källa som har betydelse för dig via PubMed eller Google Scholar innan du förlitar dig på den. Om det finns en URL med, klicka dig fram och kontrollera att sammanfattningen faktiskt säger det som påstods – ibland är URL:en äkta men det som står om den är fel.

Specifika medicinska eller juridiska råd

Dosering, läkemedelsinteraktioner, regelverk i olika jurisdiktioner, specifika juridiska förfaranden – allt där svaret måste vara exakt rätt, annars riskerar någon att skadas. Även när modellens svar råkar stämma är den fel verktyg för dessa frågor, eftersom du inte har något sätt att veta om den hade rätt just den gången. Stäm alltid av med en legitimerad yrkesperson (läkare, farmaceut, jurist, revisor) innan du agerar på något inom de områdena. Verkes coacher är byggda för att avvisa den här typen av frågor direkt i stället för att improvisera – se nästa avsnitt.

Säkra svar inom smala ämnesområden

Ovanliga tillstånd med gles träningsdata, regionala regelverk som resten av världen inte bryr sig om, specifika terapeuter vid namn, små professionella gemenskaper. Modellen har precis tillräckligt med mönster i träningsdata för att producera något flytande, men inte tillräckligt för att veta om det stämmer. Kombinationen av flytande språk och smal domän är den viktigaste signalen – när ämnet är obskyrt men svaret är säkert är det dags att kalibrera.

Trovärdiga men felaktiga ramverk

Påhittade "femstegsmetoder" och "fyra pelare för…" som inte finns i litteraturen. Modellen har sett tillräckligt med självhjälpsstruktur för att producera övertygande varianter av det, även när det specifika ramverk den beskriver är påhittat. Om ett ramverk spelar roll för det beslut du fattar, sök upp upphovsmannen eller metodnamnet för att bekräfta att det är verkligt innan du behandlar det som vedertagen praxis. Riktiga ramverk har riktiga Wikipedia-sidor, böcker och källhänvisningar; påhittade har det inte.

Domängränser

Coacherna är byggda för att avvisa de högriskkategorier som finns, snarare än att improvisera. Medicinsk dosering, läkemedelsinteraktioner, juridiska bedömningar, diagnostiska påståenden — allt som faller inom legitimerad vårds område — där hänvisar coachen vidare i stället för att försöka svara. ”Det där låter som en fråga för en farmaceut” är en funktion, inte en begränsning. Produkten avstår hellre från att svara än svarar fel.

Källdisciplin

När en coach hänvisar till en studie eller en metod innehåller källhänvisningen en verklig URL som användaren kan verifiera (artikeln om StopOverthinking på den här webbplatsen citerar A-Tjak et al. 2015 med en PubMed-länk just av det skälet — läsare ska kunna klicka sig fram och kontrollera). Om coachen inte kan citera något verifierbart ändras formuleringen till "det finns belägg för att" eller "det här är ett vanligt mönster inom fältet", inte påhittade detaljer. Kravet är att en läsare ska kunna verifiera det på 30 sekunder.

Strikta krav som standard

När samtalet antyder att något är allvarligt är standardåtgärden att lyfta fram klinisk vård i stället för att improvisera fram hjälp. Ämnen som ligger nära kris leder till krisresurser. Ämnen som ligger nära diagnos leder till en kliniker. Produkten är byggd för att hellre fria än fälla med ett "ta det här till en människa" när det står mycket på spel — och det är just där en hallucination skulle göra mest skada om den ändå slank igenom.

Kalibrering är ett gemensamt arbete. Produkten tar sitt ansvar med skyddsmekanismer och tydlig källhänvisning; ditt ansvar är några enkla vanor som gör hallucinationer betydligt mindre kostsamma när de ändå händer:

• Se AI-förslag som råd från en klok vän som inte är allvetande. En bra utgångspunkt, men ingen absolut sanning.
• Verifiera källor innan du delar dem eller fattar beslut utifrån dem. Att kolla i PubMed och Google Scholar tar 30 sekunder.
• Fråga "hur säker är du på det här?" – modeller kan ibland flagga osäkerhet när man ber dem om det, och svaret är informativt.
• När det gäller medicinska, juridiska eller ekonomiska frågor — verifiera med en legitimerad person. AI är fel primärkälla inom de områdena.
• När något inte passar din situation, säg ifrån. Svaret kalibreras om utifrån det du lägger till — generella råd är ofta ett tecken på att coachen ännu inte har förstått det specifika i din situation ordentligt.

Självhjälp och AI-coaching kan göra mycket, men de räcker inte hela vägen. Om du lever med en svår depression som inte släppt, panikattacker som bryter sönder vardagen, tankar på att skada dig själv, pågående traumabearbetning eller ett beroende – då är det dags att söka hjälp hos en legitimerad psykolog eller läkare, inte att kämpa hårdare med ett coachverktyg. Mer prisvärda alternativ hittar du på opencounseling.com eller internationella stödlinjer via findahelpline.com. Det finns inget pris för att vänta längre än du behöver.

Kalibrering — "stämmer den här tanken (eller det här rådet) faktiskt?" — är kärnan i KBT. Judiths metod behandlar övertygelser som hypoteser att pröva snarare än fakta att acceptera rakt av, vilket är precis den hållning som låter dig använda vilken informationskälla som helst (inklusive en AI-coach) utan att lita blint på den. Hon är också skicklig på metanivån: att märka när du lutar dig för tungt mot en enskild källa — bok, podd, vän, app — och föra dig tillbaka till ditt eget omdöme som det avgörande filtret. Läs mer om metoden i Kognitiv beteendeterapi.

Prova en KBT-övning med Judith – inget konto behövs