Verke Editorial

Kan AI hallusinere dårlige råd? Ja — slik kjenner du dem igjen og håndterer dem

Verke Editorial · April 28, 2026

Kan AI hallusinere dårlige råd? Ja. Store språkmodeller dikter av og til opp ting som høres plausible ut — en studie som ikke finnes, en feil kildehenvisning, råd som ikke gjelder din situasjon, et selvsikkert rammeverk som er rent oppdiktet. Coaching-sammenhenger har lavere innsats enn medisinske eller juridiske, men dårlige råd betyr fortsatt noe. Den ærlige versjonen av denne artikkelen er at sikkerhetstiltak reduserer hallusinasjoner, men ikke fjerner dem, og at brukerens egen kalibrering er en del av det som gjør et velfungerende AI-coachingverktøy nyttig.

Artikkelen går gjennom hvor hallusinasjoner dukker opp, hvordan Verke er laget for å fange høy-risiko-kategoriene, og hvordan du kan kalibrere tilliten din som bruker — som omtrent betyr «behandle AI-forslag som råd fra en smart venn som ikke er allvitende». Verkes holdning er å foretrekke «jeg er ikke sikker» framfor selvsikkert-men-feil, og holde coachingen rettet mot utforskning snarere enn diagnose. Ingenting av dette gjør hallusinasjoner umulig. Men det gjør feilmodusene gjenkjennelige og opprydningen lett.

En språkmodell forutsier sannsynlig neste tekst basert på mønstre i treningsdataene sine. Mesteparten av tiden er den mest sannsynlige neste teksten også den korrekte — det er derfor disse verktøyene fungerer så godt som de gjør. Noen ganger er imidlertid den mest sannsynlige neste teksten feil. Modellen produserer et selvsikkert svar som ikke har grunnlag i fakta. Det forvirrende er flyten: feil svar leses like glatt som riktige, fordi modellens jobb er flytende tekst, ikke verifisert tekst.

Dette er ikke løgn — modellen har ingen agenda, ingen mål, ingen forsøk på å lure deg. Det er at modellen ikke har en egen «sannhets»-komponent som sjekker resultatet mot virkeligheten før det produseres. Nyere teknikker (innhenting, verktøybruk, selvkonsistens-sjekker, avvisningstrening) reduserer hallusinasjoner merkbart, og raten faller for hver modellgenerasjon. De fjerner det imidlertid ikke. «Stort sett riktig, men verifiser de delene som har høy innsats» er den riktige kalibreringen i dag, og sannsynligvis i flere år framover.

Oppdiktede kildehenvisninger

Den klassiske hallusinasjonsformen: «en Harvard-studie fra 2019 fant at…» fulgt av et selvsikkert funn som, når du går for å slå det opp, ikke finnes. Artikkelen er oppdiktet; forfatterne er oppdiktet; tidsskriftnavnet kan være ekte, men selve artikkelen er det ikke. Løsningen er å verifisere alle kildehenvisninger som betyr noe for deg via PubMed eller Google Scholar før du støtter deg på dem. Hvis en URL er oppgitt, klikk gjennom og sjekk at sammendraget faktisk sier det som ble påstått — av og til er URL-en ekte, men oppsummeringen knyttet til den er feil.

Konkrete medisinske eller juridiske råd

Doser, legemiddelinteraksjoner, lokalt regelverk, spesifikke juridiske prosedyrer — alt der svaret må være helt riktig, ellers kan det skade. Selv når modellens svar tilfeldigvis er korrekt, er det feil verktøy for slike spørsmål, fordi du ikke har noen måte å vite om det var riktig akkurat denne gangen. Verifiser alltid med en autorisert fagperson (lege, farmasøyt, advokat, regnskapsfører) for noe handlingsrettet på disse områdene. Verkes coacher er laget for å avvise slike spørsmål framfor å improvisere — se neste avsnitt.

Selvsikre svar i smale domener

Nisjelidelser med tynne treningsdata, regionalt regelverk som de fleste i verden ikke bryr seg om, navngitte enkeltterapeuter, små fagmiljøer. Modellen har akkurat nok mønster i treningsdataene til å produsere noe flytende, men ikke nok til å vite om det stemmer. Kombinasjonen av flyt og smalhet er hovedsignalet — når temaet er obskurt, men svaret er selvsikkert, er det da kalibreringen bør slå inn.

Plausible, men feilaktige rammeverk

Oppdiktede «fem-trinns metoder» og «fire pilarer av…» som ikke finnes i litteraturen. Modellen har sett nok selvhjelps-aktig struktur til å produsere overbevisende versjoner av dem, selv når det konkrete rammeverket den beskriver er fri fantasi. Hvis et rammeverk er viktig for en avgjørelse du tar, slå opp forfatteren eller metodenavnet for å bekrefte at det er ekte før du behandler det som etablert praksis. Ekte rammeverk har ekte Wikipedia-sider, bøker og kildehenvisninger; oppdiktede har ikke det.

Domene-sikring

Coachene er laget for å avvise høy-risiko-kategoriene, ikke improvisere. Medisinsk dosering, legemiddelinteraksjoner, juridiske vurderinger, diagnostiske påstander, alt som krysser inn i autorisert profesjonsterritorium — svaret er å vise videre, ikke å forsøke seg. «Det høres ut som et spørsmål for en farmasøyt» er en funksjon, ikke en begrensning. Produktet svarer heller ikke enn å svare feil.

Kildedisiplin

Når en coach refererer til en studie eller en metode, inneholder kildehenvisningen en ekte URL brukeren kan verifisere (StopOverthinking-artikkelen på dette nettstedet siterer A-Tjak et al. 2015 med en PubMed-lenke nettopp av den grunn — leserne skal kunne klikke seg inn og sjekke). Hvis coachen ikke kan sitere noe verifiserbart, skifter formuleringen til «det finnes evidens for at» eller «dette er et vanlig mønster i feltet», ikke oppdiktede detaljer. Listen er «en leser skal kunne verifisere dette på 30 sekunder».

Konservative standardvalg

Når samtalen tyder på alvor, er standardgrepet å vise til klinisk hjelp framfor å improvisere. Krise-nære temaer rutes til kriseressurser. Diagnostisk-nære temaer rutes til en kliniker. Produktet er laget for å lene seg mot «ta dette med til et menneske» når innsatsen er høy — som er der hallusinasjoner ville gjort størst skade hvis det først skulle slippe gjennom.

Kalibrering er et delt arbeid. Produktet holder sin del med sikkerhetstiltak og kildedisiplin; brukerens del er noen enkle vaner som gjør hallusinasjoner mye mindre kostbare når de først skjer:

• Behandle AI-forslag som råd fra en smart venn som ikke er allvitende. Et nyttig utgangspunkt, ikke siste ord.
• Verifiser kildehenvisninger før du deler dem eller handler på dem. PubMed og Google Scholar er sjekker på 30 sekunder.
• Spør «hvor sikker er du på dette?» — modeller kan noen ganger flagge usikkerhet når de blir spurt, og svaret er informativt.
• For alt medisinsk, juridisk eller økonomisk — verifiser med en autorisert person. AI er feil verktøy for de domenene som primærkilde.
• Når noe ikke passer din situasjon, si imot. Svaret kalibreres rundt det du har lagt til — generelle råd er ofte et tegn på at coachen ennå ikke har fanget detaljene.

Selvhjelp og AI-coaching kan gjøre mye, men har sine grenser. Hvis du opplever alvorlig depresjon som ikke gir seg, panikkanfall som forstyrrer hverdagen, tanker om selvskading, aktiv traumebearbeiding eller rusavhengighet — er det signaler om å jobbe med en autorisert kliniker, ikke signaler om å pushe hardere på et coachingverktøy. Du finner rimelige alternativer på opencounseling.com eller internasjonale hjelpetelefoner via findahelpline.com. Det er ingen pris for å vente lenger enn du trenger.

Kalibrering — «er denne tanken (eller dette rådet) faktisk nøyaktig?» — er kjernen i CBT. Judith behandler oppfatninger som hypoteser å teste, ikke som fakta å svelge, og det er nettopp den holdningen som lar deg bruke en hvilken som helst kilde (også en AI-coach) uten å overstole på den. Hun er også god på meta-versjonen: å legge merke til når du lener deg for tungt på én enkelt kilde — bok, podkast, venn, app — og dra deg tilbake mot din egen vurdering som siste filter. Mer om metoden i Kognitiv atferdsterapi.

Prøv en CBT-øvelse med Judith — ingen konto trengs