Verkes redaktion

Är AI-terapi säkert? Ett ärligt svar för skeptiker

Verkes redaktion ·

Är AI-terapi säker? För det vardagliga känsloarbete den är gjord för: oftast ja – men den ersätter inte legitimerad vård när det står mycket på spel. Det ärliga svaret behöver ändå lite mer utrymme än en enda mening, eftersom "säker" betyder minst fyra olika saker i det här sammanhanget. Den här artikeln går igenom vad "säker" egentligen betyder för AI-coaching, var de verkliga riskerna finns, var AI:n verkligen är till hjälp och var du bör dra gränsen för att kunna använda den på ett bra sätt.

Frågorna som skeptiska läsare brukar ha går att dela in i sex återkommande typer: kan det göra grubblandet värre att prata med en AI, vad händer när AI:n har fel, hur går det för den som mår riktigt dåligt, kan man bli ohälsosamt beroende av den, är samtalen verkligen privata, och kan modellen hitta på dåliga råd. Var och en får en egen artikel längre ned – men först den ram som gör att resten av resonemanget går att följa.

Läser du det här för att du vill pröva innan du litar på det? Det är rätt instinkt. Amanda är gjord för att tåla mothugg, så ge henne mothugg på en riktig fråga.

Du kan börja utan registrering och radera allt när du vill. Dina meddelanden är krypterade, och när du har satt en lösenfras kan vår egen personal inte läsa dina sparade samtal.

Testa det på en riktig fråga →

Chatten startar direkt här i webbläsaren – inget konto behövs.

Bakgrund

Vad "säker" egentligen betyder

När folk frågar om AI-terapi är säker ställer de nästan alltid fyra olika frågor på en gång. Klinisk säkerhet handlar om huruvida en AI-coach gör allvarliga tillstånd värre – depression som fördjupas, ångest som trappas upp, traumasymtom som väcks utan att något fångar upp dem. Det är en verklig och allvarlig fråga, och svaret beror på sammanhanget: AI-coaching är gjord för vardagens känsloarbete, inte för klinisk vård, och en ansvarsfull produkt hänvisar dig till en människa i vården när det framgår av samtalet att det är där du behöver vara. Datasäkerhet handlar om vem som kan läsa det du skriver. Verkes svar är kryptering både vid överföring och lagring, plus en valfri lösenfras: väljer du en låses din kontonyckel med den, så att inte ens Verkes egen personal med tillgång till databasen kan läsa dina sparade samtal. Det kan de flesta allmänna chattbottar inte säga.

Läser du det här för att du vill pröva innan du litar på det? Det är rätt instinkt. Amanda är gjord för att tåla mothugg, så ge henne mothugg på en riktig fråga.

Du kan börja utan registrering och radera allt när du vill. Dina meddelanden är krypterade, och när du har satt en lösenfras kan vår egen personal inte läsa dina sparade samtal.

Testa det på en riktig fråga →

Chatten startar direkt här i webbläsaren – inget konto behövs.

Psykologisk trygghet handlar om huruvida AI:n skambelägger dig, moraliserar eller försöker styra dig mot ett visst utfall. En coach som behöver att du mår bra går inte att vara ärlig mot – och Verkes coacher är gjorda för att säga emot, stanna kvar i obehaget och inte släta över svåra känslor med tröst. Tillförlitlighet handlar om huruvida AI:n hittar på saker – en studie som inte finns, en diagnos tagen ur luften, en självsäker beskrivning av en läkemedelsinteraktion som inte existerar. Moderna språkmodeller gör det ibland, och en ansvarsfull coachingprodukt bygger in skyddsräcken särskilt för de områden där påhitt skulle kunna göra skada. De fyra sorterna av säkerhet ser olika ut, har olika riskprofiler och kräver olika skydd. Det är när man klumpar ihop dem som samtalet brukar bli förvirrat.

I den här serien

Sex artiklar går på djupet med de vanligaste säkerhetsfrågorna. Var och en står på egna ben, så du kan gå direkt till den fråga du faktiskt funderar på:

De verkliga riskerna

Riskerna som är värda att ta på allvar

1. Förstärkt grubbel

Att prata igenom en oro kan lösa den — eller, om du har lätt för att fastna i tankeloopar, förstärka loopen genom att ge oron mer utrymme och fler ord. Samma samtalsdjup som gör en AI-coach användbar kan i fel sammanhang förvandlas till den mest välformulerade grubblare du någonsin träffat. Det du ska vara uppmärksam på är om du känner dig mindre fast efter en session eller mer fast. Om det senare är mönstret säger det dig något — byt till handlingsorienterade tekniker (trefrågekontrollen, inplanerade orosfönster, kroppsankring) och överväg att prata med en kliniker av kött och blod om den djupare loopen. Acceptance and commitment therapy, med sin betoning på defusion snarare än på att engagera sig i tankeinnehållet, har det starkaste evidensunderlaget för precis den här sortens fastlåsning — se A-Tjak et al., 2015 för den metaanalytiska bilden.

2. Felplacerad auktoritet

AI:n låter säker. Den uttrycker sig flytande, bygger vidare på mönstren i sin träningsdata och kan formulera trovärdiga påståenden om nästan vilket ämne som helst. Den språkliga ledigheten kan kännas som expertis — och att uppfatta den som expertis är det enskilt vanligaste sättet att råka illa ut. En AI-coach är en tankepartner, inte en klinisk auktoritet. Den kan följa en tråd, ställa bra frågor och föreslå evidensbaserade tekniker att prova. Den kan inte ersätta en klinikers bedömning av just din situation, och en väldesignad produkt är tydlig med den skillnaden i stället för att smickra dig så att du glömmer bort den. Om en coach någon gång uttalar sig om din situation med större säkerhet än underlaget motiverar, är det en signal att ifrågasätta — inte att foga sig.

3. Fel nivå av stöd

Coaching är inte krishjälp. Rätt verktyg beror på var du faktiskt befinner dig. Vid vardagsångest, social oro, fastlåstheten i ett återkommande relationsmönster och den långsamt smygande känslan av att det blir för mycket — då passar coaching. Vid aktiva självmordstankar, panikattacker som stör vardagen, svår depression som inte svarat på förstahandsbehandling, aktiva traumaflashbacks eller substansberoende — då behövs legitimerad klinisk vård, ofta medicinering, ofta en behandlingsrelation som bär ett professionellt ansvar som en AI inte kan bära. Gränsen mellan de två är inte alltid tydlig inifrån, och därför är en coach som känner sina egna gränser tryggare än en som lovar allt.

4. Frestelsen i att den alltid finns där

Tillgång dygnet runt är en verklig fördel när klockan är tre på natten och det inte finns någon annan att prata med. Men den är också en verklig risk om den blir ett enklare alternativ till det svårare, långsammare arbetet med att bygga relationer till människor – att ringa vännen du har undvikit, gå på besöket du har skjutit upp, stanna kvar i en känsla utan att genast söka en samtalspartner. Sund användning är när coaching kompletterar ditt liv. Osund användning är när den ersätter delar av det. Skillnaden syns oftast tydligast utifrån: om de som bryr sig om dig börjar säga att du har blivit mindre tillgänglig, är det signalen.

Vad vi gör åt det

Vad Verke gör åt det

Ett minne du har kontroll över

Verkes coacher minns vad ni har pratat om från session till session, och det är därför arbetet byggs på i stället för att börja om varje gång du öppnar appen. Att coachen minns är meningen, inte ett fel. Du sköter inte coachens anteckningar själv, men du kan radera allt när du vill under Inställningar. Minnet finns för arbetets skull, inte för att låsa fast dig.

Rätt tonläge

Den peppiga, överbekräftande AI-assistenten är en otrygghet i sig — en coach som inte kan säga något svårt är ingen coach. Verkes coacher är inställda på att ifrågasätta när det är befogat, stanna i obehaget i stället för att lösa upp det med bekräftelse, och sätta ord på det de märker i stället för att bara spegla dig. Vi har skrivit om exakt hur den här typen av motstånd från coachen ser ut och varför vi byggde det så i vad Verke inte gör — och varför.

Hänvisning vid kris

När samtalet tyder på akut risk lyfter coachen fram stödlinjer direkt: i Sverige Mind självmordslinjen 90101, och internationellt 988 i USA och Kanada, 116 123 för Samaritans i Storbritannien och Irland samt findahelpline.com. AI:n är tydlig med att den inte är någon stödlinje, uppmanar dig att söka kontakt med en människa och stannar kvar i stunden utan att låtsas att den kan bära hela tyngden. Det här är den viktigaste gränsen produkten håller, och den håller den konsekvent.

När du bör söka mer hjälp

Självhjälp och AI-coaching kan göra mycket, men de räcker inte hela vägen. Om du lever med en svår depression som inte släppt, panikattacker som bryter sönder vardagen, tankar på att skada dig själv, pågående traumabearbetning eller ett beroende – då är det dags att söka hjälp hos en legitimerad psykolog eller läkare, inte att kämpa hårdare med ett coachverktyg. Mer prisvärda alternativ hittar du på opencounseling.com eller internationella stödlinjer via findahelpline.com. Du vinner inget på att vänta längre än du behöver.

Jobba med Amanda

Läser du det här för att du vill ha evidens att luta dig mot innan du provar AI-coaching? Amanda är gjord för strukturerat arbete, ett steg i taget, av det slag som lugnar den som först vill veta att det är säkert. Hennes metod bygger på kognitiv beteendeterapi – praktisk, avgränsad och inriktad på vad du faktiskt kan pröva – vilket passar den fråga de flesta skeptiker egentligen ställer: ”visa mig hur det här fungerar i mitt liv, inte i teorin”. Läs mer om metoden i Kognitiv beteendeterapi.

Ge Amanda din tuffaste invändning – inget konto behövs

Chatten startar direkt här i webbläsaren – inget konto behövs.

Vanliga frågor

Vanliga frågor

Är AI-terapi verkligen säker vid vardagsångest?

För vardagsångest, nedstämdhet, arbetsstress eller social oro – den sortens besvär som inte kräver klinisk vård – är väldesignad AI-coaching rimligt säker och ofta till verklig nytta. Coachingverktyg rör sig på en lägre risknivå än krisvård. Det som spelar roll är att veta när det är dags att gå vidare till en behandlare av kött och blod, och en bra AI-coach hjälper dig att dra den gränsen i stället för att sudda ut den.

Kan en AI-coach ställa en diagnos?

Nej – Verke ställer inga diagnoser, skriver inte ut läkemedel och ersätter inte medicinsk vård. En diagnos kräver en legitimerad behandlare med hela den kliniska bilden, en formell bedömning och ett yrkesansvar. Verke är coaching: en tankepartner, ett stöd för att bygga färdigheter och någon som hjälper dig att hålla fast vid det du har bestämt dig för. Vill du få en diagnostisk bedömning, vänd dig till en psykolog eller psykiater; en AI-coach är inte rätt verktyg för det.

Vad händer om jag berättar för AI:n att jag är i kris?

Coachen lyfter fram stödlinjer direkt – i Sverige Mind självmordslinjen 90101, och internationellt 988 i USA och Kanada, 116 123 för Samaritans i Storbritannien och Irland samt findahelpline.com – och uppmanar dig att ta kontakt med en människa med en gång. AI:n är ingen stödlinje. Är du i omedelbar fara, ring 112 först.

Är mina uppgifter verkligen privata?

Verke krypterar samtalen under överföring och i lagring (AES-256-GCM, med RSA-4096-nyckelinkapsling). Sätter du en lösenfras kan ingen på Verke läsa dina sparade samtal. Vi kräver ingen mejladress, inget telefonnummer och inga kortuppgifter för att du ska kunna starta en session. SAFE-05 går igenom vad det innebär, på vanlig svenska.

Kan AI ge mig dåliga råd?

Det händer. Stora språkmodeller hittar ibland på saker eller förenklar för mycket. Verke har skyddsmekanismer som fångar de uppenbara riskerna (råd om läkemedel, en kris som tolkas fel, allt som kräver en behandlare) och hänvisar dig till mänsklig vård när samtalet tyder på allvar. När det gäller råd i mindre allvarliga frågor kan du se AI:ns förslag som råd från en klok vän: en bra utgångspunkt, inte sista ordet.

När bör jag byta till en mänsklig terapeut?

Har du svår depression, självmordstankar, panikattacker, pågående traumaflashbacks eller ett substansberoende – kontakta en legitimerad vårdgivare. AI-coaching är ett stöd när du vill bygga vardagliga känslomässiga färdigheter eller känner att du har fastnat. Mänsklig terapi är rätt verktyg vid kliniska tillstånd, medicinering, försäkringsrelaterade frågor eller allt som kräver formell dokumentation.

Verke erbjuder coaching, inte terapi eller vård. Resultaten varierar från person till person. Är du i kris kan du ringa: Mind Självmordslinjen 90101 (Sverige). Vid akut fara, ring 112. Stödlinjer i andra länder: findahelpline.com.