Verke Editorial

Bisakah AI berhalusinasi memberi saran buruk? Bisa — ini cara mengenali dan menanganinya

Verke Editorial · April 28, 2026

Bisakah AI berhalusinasi memberi saran buruk? Bisa. Model bahasa besar sesekali mengarang hal-hal yang terdengar masuk akal — studi yang tidak ada, sitasi yang keliru, saran yang tidak cocok dengan situasimu, kerangka kerja yang terdengar meyakinkan padahal benar-benar dibuat-buat. Konteks coaching memang risikonya lebih rendah dibanding konteks medis atau hukum, tapi saran yang buruk tetap berdampak. Versi jujurnya begini: pengaman mengurangi halusinasi tapi tidak menghilangkannya, dan kalibrasi pengguna sendiri adalah bagian dari bagaimana alat coaching AI yang baik tetap berguna.

Artikel ini membahas di mana halusinasi muncul, bagaimana Verke dirancang untuk menangkap kategori berisiko tinggi, dan cara mengkalibrasi tingkat kepercayaan kamu sebagai pengguna — kira-kira "perlakukan saran AI seperti saran dari teman pintar yang tidak maha tahu". Sikap Verke adalah lebih memilih "saya tidak yakin" daripada terdengar yakin tapi keliru, dan menjaga coaching tetap diarahkan ke eksplorasi, bukan diagnosis. Itu semua bukan berarti halusinasi jadi mustahil. Tapi itu membuat pola kegagalannya bisa dikenali dan langkah pemulihannya jadi mudah.

Model bahasa memprediksi teks berikutnya yang paling mungkin berdasarkan pola dari data pelatihannya. Sebagian besar waktu, teks berikutnya yang paling mungkin juga merupakan teks berikutnya yang benar — itulah sebabnya alat-alat ini bekerja sebaik yang kita lihat. Tapi kadang, teks berikutnya yang paling mungkin justru salah. Model menghasilkan jawaban yang terdengar yakin tapi tidak punya dasar fakta. Kelancarannya yang bikin orang bingung: jawaban yang salah terbaca semulus jawaban yang benar, karena tugas model adalah menghasilkan teks yang lancar, bukan teks yang terverifikasi.

Ini bukan berbohong — model tidak punya agenda, tidak punya tujuan, tidak punya niat menipu. Ini soal model tidak punya komponen "kebenaran" terpisah yang memeriksa keluarannya terhadap kenyataan sebelum menghasilkannya. Teknik-teknik yang lebih baru (pengambilan informasi, penggunaan alat, pemeriksaan konsistensi internal, pelatihan menolak) menurunkan halusinasi secara berarti, dan angkanya terus turun di setiap generasi model. Tapi belum menghilangkannya. Memperlakukan keluaran AI sebagai "sebagian besar benar tapi verifikasi bagian yang berisiko tinggi" adalah kalibrasi yang tepat untuk hari ini dan mungkin untuk beberapa tahun ke depan.

Sitasi yang dikarang

Bentuk halusinasi klasik: "studi Harvard tahun 2019 menemukan bahwa…" diikuti temuan yang terdengar yakin, tapi saat kamu mencarinya, ternyata tidak ada. Makalahnya dikarang; penulisnya dikarang; nama jurnalnya mungkin nyata tapi makalahnya tidak. Solusinya adalah memverifikasi sitasi apa pun yang penting buatmu lewat PubMed atau Google Scholar sebelum mengandalkannya. Kalau ada URL, klik dan periksa apakah abstraknya benar-benar mengatakan apa yang diklaim — kadang URL-nya nyata tapi ringkasan yang menempel padanya keliru.

Saran medis atau hukum yang spesifik

Dosis, interaksi obat, regulasi yurisdiksi, prosedur hukum spesifik — apa pun yang jawabannya harus benar-benar tepat atau akan menimbulkan kerugian. Bahkan saat jawaban model kebetulan benar, ini tetap alat yang salah untuk pertanyaan semacam itu karena kamu tidak punya cara untuk tahu apakah kali ini dia benar. Selalu verifikasi dengan profesional berlisensi (dokter, apoteker, pengacara, akuntan) untuk apa pun yang akan kamu tindak lanjuti di area itu. Coach Verke dirancang untuk menolak pertanyaan-pertanyaan ini secara langsung, bukan berimprovisasi — lihat bagian berikutnya.

Jawaban yang yakin di topik yang sempit

Kondisi langka dengan data pelatihan yang minim, regulasi daerah yang tidak diperhatikan kebanyakan orang di dunia, terapis tertentu yang disebut namanya, komunitas profesional yang kecil. Model memiliki cukup pola di data pelatihan untuk menghasilkan sesuatu yang lancar, tapi tidak cukup untuk tahu apakah itu benar. Kombinasi antara kelancaran dan kesempitan inilah sinyal utamanya — saat topiknya jarang dibahas tapi jawabannya terdengar yakin, di situlah kalibrasi harus aktif.

Kerangka yang masuk akal tapi salah

"Metode lima langkah" dan "empat pilar…" yang sebenarnya tidak ada dalam literatur. Model sudah cukup banyak melihat struktur ala self-help sehingga bisa menghasilkan versi-versi yang terlihat meyakinkan, bahkan saat kerangka spesifik yang sedang dia jelaskan itu dibuat-buat. Kalau sebuah kerangka penting untuk keputusan yang sedang kamu ambil, cari nama penulisnya atau nama metodenya untuk memastikan itu nyata sebelum diperlakukan sebagai praktik standar. Kerangka yang nyata punya halaman Wikipedia, buku, dan sitasi yang nyata; yang dikarang tidak.

Pengaman per domain

Coach dirancang untuk menolak kategori berisiko tinggi alih-alih berimprovisasi. Dosis obat, interaksi obat, opini hukum, klaim diagnosis, apa pun yang masuk ke wilayah profesional berlisensi — responsnya adalah mengarahkan, bukan mencoba menjawab. "Itu kedengarannya pertanyaan untuk apoteker" adalah fitur, bukan keterbatasan. Produk lebih memilih tidak menjawab daripada menjawab salah.

Disiplin sitasi

Saat coach merujuk sebuah studi atau metode, sitasinya menyertakan URL nyata yang bisa diverifikasi pengguna (artikel StopOverthinking di situs ini mengutip A-Tjak et al. 2015 dengan tautan PubMed justru karena alasan ini — pembaca harus bisa mengklik dan memeriksanya). Kalau coach tidak bisa mengutip sesuatu secara terverifikasi, framingnya bergeser ke "ada bukti bahwa" atau "ini pola yang umum di bidang ini", bukan rincian yang dikarang. Patokannya adalah "pembaca bisa memverifikasi ini dalam 30 detik."

Default yang konservatif

Saat ada indikasi keparahan dalam percakapan, langkah default-nya adalah memunculkan perawatan klinis daripada berimprovisasi memberi bantuan. Topik yang dekat dengan krisis diarahkan ke sumber bantuan krisis. Topik yang dekat dengan diagnosis diarahkan ke klinisi. Produk dirancang untuk lebih memilih sisi "tolong bawa ini ke manusia" saat risikonya tinggi — yang justru area di mana halusinasi akan paling merusak kalau sampai lolos.

Kalibrasi adalah kerja bersama. Produk memegang bagiannya lewat pengaman dan disiplin sitasi; bagian penggunanya adalah beberapa kebiasaan sederhana yang membuat halusinasi jauh lebih tidak merugikan saat memang terjadi:

• Perlakukan saran AI seperti saran dari teman pintar yang tidak maha tahu. Titik awal yang berguna, bukan kata akhir.
• Verifikasi sitasi sebelum kamu membagikannya atau menindaklanjutinya. PubMed dan Google Scholar cuma butuh 30 detik untuk dicek.
• Coba tanya "seberapa yakin kamu dengan ini?" — model kadang bisa menandai ketidakpastian saat ditanya, dan jawabannya informatif.
• Untuk apa pun yang medis, hukum, atau finansial — verifikasi dengan manusia berlisensi. AI bukan alat yang tepat untuk dijadikan sumber utama di area-area itu.
• Saat ada sesuatu yang tidak cocok dengan situasimu, sanggah saja. Responsnya akan menyesuaikan ulang berdasarkan apa yang kamu tambahkan — saran yang generik sering jadi tanda bahwa coach belum sepenuhnya memahami rinciannya.

Self-help dan coaching AI bisa berbuat banyak, tapi ada batasnya. Kalau kamu mengalami depresi berat yang tidak kunjung mereda, serangan panik yang mengganggu aktivitas sehari-hari, pikiran untuk menyakiti diri sendiri, sedang memproses trauma aktif, atau ketergantungan zat — itu sinyal untuk bekerja dengan klinisi berlisensi, bukan sinyal untuk memaksakan alat coaching. Kamu bisa mencari opsi yang terjangkau di opencounseling.com atau hotline internasional via findahelpline.com. Tidak ada hadiah untuk menunggu lebih lama dari yang kamu butuhkan.

Kalibrasi — "apakah pemikiran (atau saran) ini benar-benar akurat?" — adalah inti CBT. Pendekatan Judith memperlakukan keyakinan sebagai hipotesis untuk diuji, bukan fakta untuk ditelan mentah-mentah, dan itulah sikap yang memungkinkan kamu memanfaatkan sumber masukan apa pun (termasuk coach AI) tanpa terlalu percaya. Dia juga jago di versi meta-nya: menyadari kapan kamu terlalu bergantung pada satu sumber — buku, podcast, teman, aplikasi — dan menarikmu kembali ke penilaianmu sendiri sebagai saringan akhir. Selengkapnya tentang metode ini ada di Cognitive Behavioral Therapy.

Coba latihan CBT bareng Judith — tanpa perlu akun