Редакція Verke

Чи може AI вигадати погану пораду? Так — ось як це помітити і що з цим робити

Редакція Verke · April 28, 2026

Чи може AI вигадати погану пораду? Так. Великі мовні моделі іноді фабрикують речі, що звучать правдоподібно — дослідження, якого не існує, неправильне посилання, поради, які не підходять до твоєї ситуації, впевнено описану концепцію, яка насправді вигадана. У коучингу ставки нижчі, ніж у медицині чи юриспруденції, але погана порада все одно має значення. Чесна версія цієї статті така: запобіжники зменшують галюцинації, але не усувають їх повністю, і власна калібрація користувача — це частина того, як добре зроблений інструмент AI-коучингу залишається корисним.

Стаття проходить по тому, де галюцинації проявляються, як Verke спроєктований, щоб ловити високоризикові категорії, і як калібрувати власну довіру — приблизно так: "став до підказок AI як до поради розумного друга, який не всезнаючий". Позиція Verke — радше "я не впевнений", ніж упевнена-але-хибна відповідь, і тримати коучинг у площині дослідження, а не діагностики. Це не робить галюцинації неможливими. Але робить помилки розпізнаваними, а кроки відновлення — простими.

Мовна модель передбачає ймовірний наступний текст на основі патернів у своїх тренувальних даних. Здебільшого найімовірніший наступний текст є водночас і правильним — саме тому ці інструменти працюють так добре, як працюють. Іноді ж найімовірніший варіант виявляється хибним. Модель видає впевнено сформульовану відповідь, яка не має фактичного підґрунтя. Саме плавність і збиває з пантелику: неправильна відповідь звучить так само гладко, як і правильна, бо завдання моделі — плавний текст, а не перевірений.

Це не брехня — у моделі немає прихованого наміру, мети, спроби ввести в оману. Просто в моделі немає окремого компонента "істини", який перевіряв би відповідь на відповідність реальності, перш ніж її видавати. Новіші техніки (пошук інформації, використання інструментів, перевірки самоузгодженості, тренування на відмову) значно зменшують галюцинації, і показник продовжує падати з кожним поколінням моделей. Однак вони їх не усувають. Сприймати вивід AI як "переважно правильний, але перевіряй високоризикові частини" — це правильна калібрація сьогодні і, ймовірно, на найближчі кілька років.

Вигадані посилання

Класична форма галюцинації: "у дослідженні Гарварду 2019 року було виявлено, що…" — і далі впевнено сформульований висновок, якого, коли ти йдеш його шукати, не існує. Стаття вигадана; автори вигадані; назва журналу може бути справжньою, але самої статті немає. Виправлення — перевіряти будь-яке посилання, яке для тебе важливе, через PubMed або Google Scholar, перш ніж на нього спиратися. Якщо є URL, перейди за ним і переконайся, що анотація справді каже те, що було заявлено — іноді URL справжній, але прив'язане до нього резюме хибне.

Конкретні медичні або юридичні поради

Дози, взаємодія препаратів, юрисдикційні норми, конкретні юридичні процедури — усе, де відповідь має бути абсолютно правильною, інакше вона завдає шкоди. Навіть коли модель випадково відповідає правильно, це неправильний інструмент для таких запитань, бо ти не маєш способу дізнатися, чи цього разу вона мала рацію. Завжди перевіряй у ліцензованого фахівця (лікаря, фармацевта, юриста, бухгалтера) усе, що матиме практичні наслідки в цих сферах. Коучі Verke спроєктовані так, щоб прямо відмовлятися від таких запитань, а не імпровізувати — про це у наступному розділі.

Впевнені відповіді у вузьких темах

Рідкісні стани з мізерною кількістю тренувальних даних, регіональні правила, до яких більшості світу байдуже, конкретні психотерапевти на ім'я, невеликі професійні спільноти. У моделі є рівно стільки патерну в даних, щоб видати щось плавне, але недостатньо, щоб знати, чи це правда. Поєднання плавності й вузькості — основний сигнал: коли тема маловідома, а відповідь упевнена, саме тоді має вмикатися калібрація.

Правдоподібні, але хибні концепції

Вигадані "п'ять кроків методу" і "чотири стовпи…", яких немає в літературі. Модель бачила достатньо структури в стилі книжок із саморозвитку, щоб видавати переконливо виглядаючі версії, навіть коли описувана конкретна концепція насправді вигадана. Якщо концепція має значення для рішення, яке ти ухвалюєш, знайди автора або назву методу і переконайся, що вони реальні, перш ніж сприймати це як стандартну практику. У справжніх концепцій є справжні сторінки у Вікіпедії, книжки й посилання; у вигаданих — ні.

Тематичні запобіжники

Коучі спроєктовані відмовлятися від високоризикових категорій, а не імпровізувати. Медичне дозування, взаємодія препаратів, юридичні думки, діагностичні твердження, усе, що заходить на територію ліцензованих фахівців — реакція полягає в тому, щоб перенаправити, а не намагатися відповісти. "Це звучить як питання до фармацевта" — це функція, а не обмеження. Продукт радше не відповість, ніж відповість неправильно.

Дисципліна з цитуваннями

Коли коуч посилається на дослідження чи метод, посилання містить реальний URL, який користувач може перевірити (стаття StopOverthinking на цьому сайті цитує A-Tjak et al. 2015 з посиланням на PubMed саме з цієї причини — читачі мають змогу перейти і перевірити). Якщо коуч не може процитувати щось перевірювано, формулювання зсувається до "є дані про те, що" або "це поширений патерн у галузі", а не до вигаданих конкретик. Планка така: "читач має змогу перевірити це за 30 секунд".

Консервативні налаштування за замовчуванням

Коли в розмові з'являється натяк на серйозність, рух за замовчуванням — вивести на клінічну допомогу, а не імпровізувати. Теми, дотичні до кризи, ведуть до кризових ресурсів. Теми, дотичні до діагностики, ведуть до клініциста. Продукт спроєктований помилятися в бік "будь ласка, віднеси це до людини", коли ставки високі — а це саме та точка, де галюцинація завдала б найбільшої шкоди, якби все-таки прослизнула.

Калібрація — це спільна робота. Продукт виконує свою частину через запобіжники й дисципліну з цитуваннями; твоя частина — кілька простих звичок, які роблять галюцинацію набагато менш дорогою, коли вона все-таки трапляється:

• Став до підказок AI як до поради розумного друга, який не всезнаючий. Корисна відправна точка, а не останнє слово.
• Перевіряй посилання, перш ніж ділитися ними або діяти на їх основі. PubMed і Google Scholar — це перевірка на 30 секунд.
• Запитай: "наскільки ти впевнений у цьому?" — моделі іноді можуть позначити свою невпевненість, якщо їх про це спитати, і ця відповідь буває інформативною.
• Для всього медичного, юридичного чи фінансового — звіряй із ліцензованою людиною. AI — неправильний інструмент для цих сфер як первинне джерело.
• Коли щось не пасує до твоєї ситуації — заперечуй. Відповідь перекалібрується довкола того, що ти додав/додала; загальна порада часто є ознакою того, що коуч ще не повністю вловив специфіку.

Самодопомога й AI-коучинг можуть багато, але мають межі. Якщо ти переживаєш тяжку депресію, яка не відпускає, панічні атаки, що збивають буденне життя, думки про самоушкодження, активне опрацювання травми або залежність від речовин — це сигнали працювати з ліцензованим клініцистом, а не натискати сильніше на інструмент коучингу. Доступні за ціною варіанти можна знайти на opencounseling.com або міжнародні гарячі лінії через findahelpline.com. Немає призу за те, щоб чекати довше, ніж тобі потрібно.

Калібрація — "чи ця думка (або ця порада) насправді точна?" — це серцевина КПТ. Підхід Юдіт трактує переконання як гіпотези, які треба перевіряти, а не як факти, які треба ковтати, і саме така позиція дозволяє користуватися будь-яким джерелом інформації (включно з AI-коучем) без надмірної довіри. Вона також добре працює з мета-рівнем: помічає, коли ти занадто сильно спираєшся на якесь одне джерело — книжку, подкаст, друга, застосунок — і повертає тебе до твого власного судження як кінцевого фільтра. Більше про метод — у статті Когнітивно-поведінкова терапія.

Спробуй вправу з CBT з Джудіт — без реєстрації