Redakcja Verke

Czy AI może wymyślić złą radę? Tak — jak ją rozpoznać i co z nią zrobić

Redakcja Verke · April 28, 2026

Czy AI może wymyślić złą radę? Tak. Duże modele językowe czasem fabrykują rzeczy, które brzmią wiarygodnie — badanie, które nie istnieje, błędne cytowanie, radę, która nie pasuje do twojej sytuacji, pewnie brzmiące „ramy”, które są autentycznie zmyślone. W kontekście coachingowym stawka jest nieco niższa niż w medycynie czy prawie, ale zła rada nadal ma znaczenie. Szczera wersja tego artykułu mówi, że zabezpieczenia ograniczają halucynacje, ale ich nie eliminują, a kalibracja po stronie użytkownika jest częścią tego, jak dobrze działający coach AI pozostaje użyteczny.

Artykuł pokazuje, gdzie pojawiają się halucynacje, jak Verke jest zaprojektowane, żeby wyłapywać kategorie wysokiego ryzyka, i jak skalibrować swoje zaufanie jako użytkownik — z grubsza „traktuj sugestie AI jak radę od mądrego znajomego, który nie jest wszechwiedzący". Postawa Verke to wolimy „nie jestem pewny" niż „pewnie, ale błędnie", a coaching kierujemy ku eksploracji, a nie diagnozie. Żadne z tego nie sprawia, że halucynacje są niemożliwe. Sprawia natomiast, że typowe sytuacje, w których coś idzie nie tak, łatwo rozpoznać, a reakcja na nie jest prosta.

Model językowy przewiduje prawdopodobny dalszy tekst na podstawie wzorców z danych treningowych. Najczęściej najbardziej prawdopodobny dalszy tekst jest też tekstem poprawnym — dlatego te narzędzia działają tak dobrze, jak działają. Czasem jednak najbardziej prawdopodobne nie jest poprawne. Model produkuje pewnie brzmiącą odpowiedź, która nie ma żadnego oparcia w faktach. To właśnie płynność wprowadza ludzi w błąd: zła odpowiedź czyta się tak samo gładko jak dobra, bo zadaniem modelu jest płynny tekst, a nie tekst zweryfikowany.

To nie jest kłamstwo — model nie ma intencji, nie ma celu, nie próbuje oszukać. To po prostu model, który nie ma osobnego komponentu „prawdy”, sprawdzającego wynik z rzeczywistością przed pokazaniem go. Nowsze techniki (wyszukiwanie, użycie narzędzi, sprawdzanie spójności, trening odmowy) ograniczają halucynacje wymiernie, a wskaźnik spada z każdą generacją modeli. Nie eliminują ich jednak. „Najczęściej trafne, ale weryfikuj rzeczy o wysokiej stawce” to dziś właściwa kalibracja i prawdopodobnie pozostanie nią przez kilka kolejnych lat.

Zmyślone cytowania

Klasyczny kształt halucynacji: „badanie z Harvardu z 2019 roku wykazało, że…”, a po nim pewnie brzmiący wynik, który gdy go szukasz, nie istnieje. Praca jest zmyślona; autorzy zmyśleni; nazwa czasopisma może być prawdziwa, ale tej publikacji w nim nie ma. Lekarstwo: każde cytowanie, na którym ci zależy, weryfikuj w PubMed albo Google Scholar, zanim się na nim oprzesz. Jeśli jest URL, kliknij i sprawdź, czy abstrakt naprawdę mówi to, co przypisano — czasem URL jest prawdziwy, ale streszczenie podpięte do niego nie zgadza się z oryginałem.

Konkretne porady medyczne lub prawne

Dawki, interakcje leków, regulacje konkretnych jurysdykcji, szczegóły procedur prawnych — wszystko, gdzie odpowiedź musi być dokładnie poprawna, bo inaczej powoduje szkodę. Nawet jeśli odpowiedź modelu akurat trafia, to i tak złe narzędzie do takich pytań, bo nie masz jak sprawdzić, czy tym razem była dobra. W takich sprawach zawsze weryfikuj z licencjonowanym specjalistą (lekarzem, farmaceutą, prawnikiem, księgowym). Coachowie Verke są zaprojektowani tak, żeby wprost odmawiać takich pytań, a nie improwizować — patrz następna sekcja.

Pewne odpowiedzi w wąskich dziedzinach

Niszowe schorzenia ze skąpymi danymi treningowymi, regionalne regulacje, którymi reszta świata się nie zajmuje, konkretni terapeuci z nazwiska, małe wspólnoty zawodowe. Model ma w treningu akurat tyle wzorca, żeby wyprodukować coś płynnego, ale za mało, żeby wiedzieć, czy to prawda. Połączenie płynności i wąskości to główny sygnał — gdy temat jest niszowy, a odpowiedź pewna, to wtedy powinna włączyć się kalibracja.

Wiarygodnie brzmiące, ale błędne ramy

Wymyślone „pięciostopniowe metody” i „cztery filary…”, które nie istnieją w literaturze. Model widział wystarczająco dużo struktury rodem z poradników, żeby wyprodukować przekonująco wyglądające wersje takich rzeczy, nawet gdy konkretny opisany framework jest zmyślony. Jeśli framework ma znaczenie dla decyzji, którą podejmujesz, sprawdź autora albo nazwę metody, zanim potraktujesz to jako standard. Prawdziwe frameworki mają prawdziwe strony Wikipedii, książki i cytowania; zmyślone — nie.

Zabezpieczenia dziedzinowe

Coachowie są zaprojektowani tak, żeby odmawiać kategorii wysokiego ryzyka zamiast improwizować. Dawkowanie leków, interakcje, opinie prawne, twierdzenia diagnostyczne, wszystko, co wchodzi w teren licencjonowanego specjalisty — odpowiedź to przekierowanie, a nie próba. „To brzmi jak pytanie do farmaceuty” to cecha, a nie ograniczenie. Produkt woli nie odpowiedzieć, niż odpowiedzieć źle.

Dyscyplina cytowań

Gdy coach powołuje się na badanie albo metodę, cytowanie zawiera prawdziwy URL, który użytkownik może zweryfikować (artykuł StopOverthinking na tej stronie cytuje A-Tjak i in. 2015 z linkiem do PubMed dokładnie z tego powodu — czytelnicy powinni móc kliknąć i sprawdzić). Jeśli coach nie może czegoś zacytować weryfikowalnie, ramowanie zmienia się na „są dowody, że” albo „to częsty wzorzec w tej dziedzinie”, a nie wymyślone konkrety. Próg to „czytelnik powinien móc zweryfikować to w 30 sekund”.

Konserwatywne ustawienia domyślne

Gdy w rozmowie pojawiają się sygnały nasilenia, domyślnym ruchem jest wskazanie opieki klinicznej, a nie improwizowanie pomocy. Tematy zbliżone do kryzysu kierują do zasobów kryzysowych. Tematy zbliżone do diagnozy — do specjalisty. Produkt jest zaprojektowany tak, żeby przy wysokiej stawce skłaniał się raczej ku „proszę, porozmawiaj o tym z człowiekiem" — bo to właśnie tam halucynacje wyrządziłyby najwięcej szkody, gdyby przeszły niezauważone.

Kalibracja to wspólna praca. Produkt trzyma swój koniec dzięki zabezpieczeniom i dyscyplinie cytowań; po stronie użytkownika to kilka prostych nawyków, które sprawiają, że halucynacje, gdy się zdarzą, kosztują znacznie mniej:

• Traktuj sugestie AI jak radę od mądrego znajomego, który nie jest wszechwiedzący. Dobry punkt wyjścia, ale nie ostatnie słowo.
• Weryfikuj cytowania, zanim podzielisz się nimi albo na nich oprzesz. PubMed i Google Scholar to sprawdzenie zajmujące 30 sekund.
• Zapytaj „jak bardzo jesteś pewny tej odpowiedzi?” — modele potrafią czasem zasygnalizować niepewność, gdy się o to spyta, a sama odpowiedź jest informacją.
• W sprawach medycznych, prawnych i finansowych — weryfikuj z licencjonowanym człowiekiem. AI to nie jest dobre narzędzie pierwszego wyboru w tych dziedzinach.
• Gdy coś nie pasuje do twojej sytuacji, zaprotestuj. Odpowiedź skalibruje się wokół tego, co dodałeś — ogólna rada często znaczy, że coach jeszcze nie chwycił specyfiki.

Samopomoc i coaching AI mogą zrobić wiele, ale mają granice. Jeśli zmagasz się z ciężką depresją, która nie ustępuje, atakami paniki, które przerywają codzienne życie, myślami o samookaleczeniu, aktywnym przepracowywaniem traumy albo uzależnieniem od substancji — to są sygnały, żeby pracować z licencjonowanym specjalistą, a nie naciskać mocniej na narzędzie coachingowe. Tańsze opcje znajdziesz na opencounseling.com lub zagraniczne telefony zaufania przez findahelpline.com. Nie ma nagrody za czekanie dłużej, niż musisz.

Kalibracja — „czy ta myśl (albo ta rada) jest naprawdę trafna?” — to rdzeń CBT. Podejście Judith traktuje przekonania jako hipotezy do sprawdzenia, a nie fakty do połknięcia, i dokładnie taka postawa pozwala korzystać z dowolnego źródła (w tym coacha AI) bez nadmiernego zaufania. Judith jest też mocna w wersji meta: zauważa, gdy zbyt mocno opierasz się na jednym źródle — książce, podcaście, znajomym, aplikacji — i kieruje cię z powrotem do twojego własnego osądu jako ostatecznego filtra. Więcej o samej metodzie znajdziesz w terapii poznawczo-behawioralnej.

Spróbuj ćwiczenia CBT z Judith — bez konta