Verke Editöryal

AI kötü tavsiye uydurabilir mi? Evet — nasıl fark edilir ve nasıl başa çıkılır

Verke Editöryal · April 28, 2026

AI kötü tavsiye uydurabilir mi? Evet. Büyük dil modelleri zaman zaman makul görünen şeyler uydurur — var olmayan bir çalışma, yanlış bir kaynak, senin durumuna uymayan bir tavsiye, kendinden emin görünen ama tamamen uydurulmuş bir çerçeve. Koçluk bağlamlarının riski, tıbbi ya da hukuki bağlamlara göre biraz daha düşük; ama kötü tavsiye yine de önemli. Bu yazının dürüst hali şu: güvenlik önlemleri halüsinasyonu azaltır ama ortadan kaldırmaz, ve kullanıcının kendi kalibrasyonu, iyi işleyen bir AI koçluk aracının faydalı kalmasının bir parçası.

Yazı; halüsinasyonun nerede ortaya çıktığını, Verke'nin yüksek riskli kategorileri yakalamak için nasıl tasarlandığını ve kullanıcı olarak güvenini nasıl kalibre edebileceğini ele alıyor — kabaca "AI önerilerine, her şeyi bilmeyen akıllı bir arkadaşının tavsiyesi gibi yaklaş" demek bu. Verke'nin tutumu, kendinden emin ama yanlış cevap yerine "emin değilim" demeyi tercih etmek ve koçluğu teşhise değil, keşfe yönelik tutmaktır. Bunların hiçbiri halüsinasyonu imkânsız kılmaz. Ama hata biçimlerini tanınır, telafi adımlarını kolay kılar.

Bir dil modeli, eğitim verisindeki örüntülerden yola çıkarak en olası sonraki metni tahmin eder. Çoğu zaman en olası sonraki metin aynı zamanda doğru olanıdır — bu araçların bu kadar iyi çalışmasının nedeni de bu. Ama bazen en olası metin yanlış olur. Model, hiçbir gerçek temele dayanmayan, kendinden emin görünen bir cevap üretir. İnsanları yanıltan asıl şey de bu akıcılık: yanlış cevap, doğru bir cevap kadar pürüzsüz okunur, çünkü modelin işi doğrulanmış metin değil, akıcı metin üretmektir.

Bu yalan söylemek değil — modelin niyeti yok, hedefi yok, aldatma girişimi yok. Bu, modelin çıktısını üretmeden önce gerçeklikle karşılaştıracak ayrı bir "doğruluk" bileşeninin olmaması. Yeni teknikler (erişim, araç kullanımı, öz tutarlılık kontrolleri, reddetme eğitimi) halüsinasyonu kayda değer ölçüde azaltıyor ve oran her model neslinde düşmeye devam ediyor. Ama yine de ortadan kaldırmıyor. AI çıktısına "büyük ölçüde doğru ama yüksek riskli kısımları doğrula" gözüyle bakmak bugün — ve muhtemelen önümüzdeki birkaç yıl için — doğru kalibrasyon.

Uydurma kaynaklar

Klasik halüsinasyon kalıbı: "2019'da Harvard'da yapılan bir çalışma şunu bulmuş…" diye başlayan, sonra aramaya kalktığında bulunamayan kendinden emin bir bulgu. Makale uydurma; yazarlar uydurma; dergi adı gerçek olabilir ama makale değil. Çözüm: sana önemli gelen her kaynağı, ona güvenmeden önce PubMed ya da Google Scholar üzerinden doğrulamak. URL varsa, tıkla ve özetin gerçekten iddia edilen şeyi söyleyip söylemediğine bak — bazen URL gerçek olur ama ona iliştirilen özet yanlıştır.

Belirli tıbbi veya hukuki tavsiye

Dozlar, ilaç etkileşimleri, yetki alanına göre değişen düzenlemeler, belirli hukuki prosedürler — cevabın tam olarak doğru olması gereken, aksi halde zarara yol açan her şey. Modelin cevabı tesadüfen doğru olsa bile, bu sorular için yanlış araçtır; çünkü bu sefer doğru olup olmadığını bilmenin bir yolu yok. Bu alanlarda eyleme geçeceğin her şey için mutlaka lisanslı bir profesyonelle (doktor, eczacı, avukat, mali müşavir) doğrula. Verke'nin koçları bu tür soruları doğaçlamak yerine doğrudan reddedecek şekilde tasarlandı — bir sonraki bölüme bak.

Dar alanlarda kendinden emin cevaplar

Eğitim verisinin seyrek olduğu nadir durumlar, dünyanın büyük kısmının umursamadığı bölgesel düzenlemeler, isimle anılan belirli terapistler, küçük profesyonel topluluklar. Modelin elinde, akıcı bir şey üretmeye yetecek kadar örüntü var; ama doğru olup olmadığını bilmeye yetecek kadar değil. Asıl sinyal akıcılık ile darlığın bir araya gelmesidir — konu belirsiz ama cevap kendinden emin olduğunda, işte kalibrasyonun devreye girmesi gereken an.

Makul görünen ama yanlış çerçeveler

Literatürde yer almayan, uydurulmuş "beş adımlı yöntemler" ve "şunun dört temel direği…". Model, kişisel gelişim tarzı yapıyı yeterince görmüş olduğundan, anlattığı çerçeve uydurma bile olsa bunun inandırıcı görünen versiyonlarını üretebilir. Bir çerçeve verdiğin karar için önemliyse, standart bir uygulama gibi davranmadan önce yazarını ya da yöntem adını arayıp gerçek olduğunu doğrula. Gerçek çerçevelerin gerçek Wikipedia sayfaları, kitapları ve kaynakları vardır; uydurulanların yoktur.

Alan güvenlik önlemleri

Koçlar yüksek riskli kategorilerde doğaçlama yapmak yerine reddedecek şekilde tasarlandı. İlaç dozları, ilaç etkileşimleri, hukuki görüşler, teşhis iddiaları, lisanslı profesyonel alanına giren her şey — yanıt, denemek yerine yönlendirmektir. "Bu, bir eczacıya sorulacak bir soruya benziyor" bir kısıt değil, bir özelliktir. Ürün, yanlış cevap vermektense cevap vermemeyi tercih eder.

Kaynak gösterme disiplini

Bir koç bir çalışmaya ya da yönteme atıfta bulunduğunda, gösterilen kaynak kullanıcının doğrulayabileceği gerçek bir URL içerir (bu sitedeki StopOverthinking yazısı tam da bu yüzden A-Tjak ve ark. 2015'i PubMed bağlantısıyla birlikte gösteriyor — okuyucu tıklayıp kontrol edebilmeli). Koç bir şeyi doğrulanabilir biçimde gösteremiyorsa, çerçeveleme uydurulmuş ayrıntılara değil, "şuna dair kanıtlar var" ya da "bu, alanda sık görülen bir örüntü" ifadelerine kayar. Eşik şu: "bir okuyucu bunu 30 saniyede doğrulayabilmeli."

Temkinli varsayılanlar

Konuşmada ciddiyet sezildiğinde varsayılan hamle, doğaçlama yardım denemek değil, klinik bakımı öne çıkarmaktır. Kriz çevresindeki konular kriz kaynaklarına yönlendirilir. Teşhise yakın konular bir klinisyene yönlendirilir. Ürün, riskin yüksek olduğu yerde "lütfen bunu bir insana götür" tarafında hata yapacak şekilde tasarlandı — halüsinasyon sızsaydı en çok zararı verecek yer de tam burası olurdu.

Kalibrasyon ortak bir iştir. Ürün, güvenlik önlemleri ve kaynak gösterme disipliniyle kendi tarafını tutar; kullanıcı tarafında ise halüsinasyon yaşandığında bunun maliyetini ciddi biçimde düşüren birkaç basit alışkanlık var:

• AI önerilerine, her şeyi bilmeyen akıllı bir arkadaşının tavsiyesi gibi yaklaş. Yararlı bir başlangıç noktası, son söz değil.
• Kaynakları paylaşmadan ya da onlara göre hareket etmeden önce doğrula. PubMed ve Google Scholar 30 saniyelik kontrollerdir.
• "Bundan ne kadar eminsin?" diye sor — modeller, sorulduğunda belirsizliği işaret edebilir ve bu cevap fikir verici olur.
• Tıbbi, hukuki ya da finansal her şey için — lisanslı bir insanla doğrula. AI bu alanlarda birincil kaynak olarak yanlış araçtır.
• Bir şey senin durumuna uymadığında itiraz et. Yanıt, eklediklerine göre yeniden ayarlanacaktır — genel tavsiye çoğu zaman koçun ayrıntıları henüz tam kavramadığının işaretidir.

Öz-yardım ve yapay zekâ koçluğu çok şey yapabilir, ama sınırları vardır. Geçmemiş şiddetli depresyon, günlük hayatı kesintiye uğratan panik ataklar, kendine zarar verme düşünceleri, aktif travma işlemleme veya madde bağımlılığı yaşıyorsan — bunlar bir koçluk aracını daha sıkı zorlaman için değil, lisanslı bir klinisyenle çalışman için işaretlerdir. Düşük maliyetli seçenekleri şu adreste bulabilirsin: opencounseling.com uluslararası yardım hatları için findahelpline.com. Gereğinden uzun süre beklemenin bir ödülü yok.

Kalibrasyon — "bu düşünce (ya da bu tavsiye) gerçekten doğru mu?" — BDT'nin özünde var. Judith'in yaklaşımı, inançları yutulması gereken gerçekler olarak değil, test edilecek hipotezler olarak ele alır; bu tam da herhangi bir kaynaktan (bir AI koçu dahil) gelen girdiyi aşırı güvenmeden kullanmanı sağlayan duruştur. Üstelik bu işin meta-versiyonunda da iyidir: tek bir kaynağa — kitap, podcast, arkadaş, uygulama — fazla yaslandığını fark eder ve seni nihai filtre olarak kendi muhakemene geri çeker. Yöntem hakkında daha fazlası için Bilişsel Davranışçı Terapi sayfasına bak.

Judith ile bir CBT egzersizi dene — hesap gerekmez