Verke 編輯團隊

AI 陪伴安全嗎?給心存懷疑的你一個誠實的答案

Verke 編輯團隊 ·

AI 陪伴安全嗎?對於它原本就被設計用來處理的日常情緒議題,多半是的——當問題嚴重起來時,它沒辦法取代有照的治療。誠實的答案沒辦法用一句話帶過,因為在這個討論裡,「安全」至少有四個不同的意思。這篇文章會帶你看清楚:對 AI 對話來說,「安全」實際代表什麼、風險真正在哪、AI 在哪些地方真的派得上用場,以及該把線畫在哪裡,你才用得好。

持懷疑態度的讀者,最常問的問題大致分成六類:跟 AI 講話會不會讓反芻思考變嚴重、AI 講錯話的時候怎麼辦、那些痛苦特別深的人怎麼辦、會不會對它產生不健康的依賴、你的私人對話真的算私人嗎、模型會不會憑空編出糟糕的建議。每一題下面都有專文討論——但在那之前,先說明一個框架,讓後面的討論才站得住腳。

看這篇是因為想先驗證再信任?這個直覺是對的。Amanda 本來就設計成可以被質疑的,所以拿一個真實的問題來挑戰她吧。

你可以不用註冊就開始聊,也能隨時把所有內容刪掉。訊息都是加密的;只要你設了通關密語,連我們自己的員工都讀不到你存下來的對話。

拿一個真的問題來測試看看 →

聊天就在你的瀏覽器裡直接開始 — 不需註冊帳號。

說明

這裡所謂的「安全」實際上是什麼意思

當有人問 AI 心理諮商安不安全,他們其實常常是同時在問四個不同的問題。臨床上的安全是在問:用 AI 教練會不會讓嚴重的狀況變得更糟 — 憂鬱更深、焦慮升高、創傷反應在沒有承接的情況下被引爆。這是個真實而嚴肅的問題,而答案要看情況:AI 教練是為日常的情緒整理而設計的,不是臨床治療;負責任的產品會在對話明顯顯示你需要專業協助時,把你指向真正的臨床專業人員。資料上的安全是在問:誰讀得到你說的話。Verke 的答案是傳輸中與儲存時都加密,再加上一個選用的通關密語 — 設了之後,你的帳號金鑰會被它鎖住,所以就算是有資料庫權限的 Verke 員工,也讀不到你存下來的對話。大多數通用型聊天機器人沒辦法這樣講。

看這篇是因為想先驗證再信任?這個直覺是對的。Amanda 本來就設計成可以被質疑的,所以拿一個真實的問題來挑戰她吧。

你可以不用註冊就開始聊,也能隨時把所有內容刪掉。訊息都是加密的;只要你設了通關密語,連我們自己的員工都讀不到你存下來的對話。

拿一個真的問題來測試看看 →

聊天就在你的瀏覽器裡直接開始 — 不需註冊帳號。

心理上的安全,是在問這個 AI 會不會羞辱你、對你說教,或把你推向某個特定結果。一個需要你「沒事」的陪伴者,其實沒辦法讓你誠實地說話——而 Verke 的陪伴者在設計上會適時提出不同的觀點,會願意陪著不舒服的感受、不急著把它撫平,也不會用安撫去掩蓋那些難以承受的情緒。可靠度上的安全,則是在問這個 AI 會不會編造東西——憑空生出一份研究、幻想出一個診斷,或用很有自信的口氣描述一個根本不存在的藥物交互作用。現在的語言模型確實偶爾會這樣,因此一個負責任的陪伴產品,會針對那些一旦被編造就會造成傷害的高風險領域,特別架起防護欄。這四種安全各有不同的樣貌、不同的風險特徵,也對應到不同的因應方式。把它們混為一談,正是這場討論最常變得混亂的原因。

本系列文章

下面有六篇專文,逐一拆解最常見的安全問題。每一篇都可以單獨閱讀,你可以直接跳到自己心裡真正在意的那一題:

誠實的風險

值得認真看待的風險

1. 反芻被放大

把擔心說出來,有時候會讓事情過去——但如果你本來就容易陷入迴圈,反而會因為給了那個擔心更多時間、更多語言,讓迴圈變得更牢。讓 AI 陪伴有用的那種對話深度,放錯框架,會變成你遇過最會講話的反芻夥伴。要留意的訊號是:聊完之後,你覺得比較不卡,還是更卡?如果常常是後者,這就是你需要的判斷依據——改用偏行動的技巧(三個問題的檢視、給自己安排固定的「擔心時段」、用身體感覺把自己拉回當下),並考慮找一位真人臨床工作者談談這個更深層的迴圈。針對這種卡住,最有證據基礎的方法是接納與承諾治療,它強調的是「和想法脫鉤」,而不是去和想法的內容糾纏——請見 A-Tjak et al., 2015請見其整合分析的全貌。

2. 錯置的權威

AI 講起話來很有自信。它語句流利,會調用訓練資料裡的模式,幾乎任何主題都能說出聽起來合情合理的話。那份流利感容易被誤認為專業——而把它當成專業,正是使用者最常吃虧的方式。AI 教練是一個思考夥伴,不是臨床上的權威。它可以順著一條思路走、問出有用的問題、建議幾個有實證基礎的技巧讓你試試;但它沒辦法取代臨床人員針對你個別情況做出的判斷,而設計良好的產品會把這條分界明明白白講清楚,不會用討好的語氣讓你忘了它。如果哪天教練在談你的處境時,語氣比資料能支持的還要篤定,那就是該回推、該質疑的時刻,而不是該讓步。

3. 嚴重程度錯配

教練不是危機照護。該用什麼工具,要看你實際身在哪裡。日常的焦慮、社交上的擔心、反覆出現又卡住的人際模式、低度的慢性負荷——教練可以接住。但如果是活躍的自殺意念、會打斷日常的恐慌發作、第一線介入都沒回應的嚴重憂鬱、活躍的創傷閃回,或是物質依賴——這些需要有執照的臨床照護,常常需要藥物,常常需要一段帶著專業責任的治療關係,那是 AI 給不了的。從自己內部往往看不清楚自己在哪一邊,這就是為什麼一個清楚自身限制的教練,會比一個什麼都答應的教練安全得多。

4. 隨時可用的誘惑

在凌晨三點誰也找不到人說話的時候,二十四小時隨時可用是個實實在在的好處。但如果它變得比那些更難、更慢的事情——打那通你一直在逃避的電話、去看你一直拖著的門診、不急著找人說話而是先和自己的情緒相處一下——還要來得容易,那也是個實實在在的風險。健康的使用,是讓陪伴成為生活的補充;不健康的使用,是讓陪伴取代生活的某些部分。這個差別大多從外面看得最清楚——如果在乎你的人開始反映你變得比較難約、比較少聯絡,那就是訊號。

我們對此做了什麼

Verke 對此做了什麼

由你掌握的記憶

Verke 的教練會記得你們在不同會談裡談過的事,這也是為什麼每次打開 app 不必從零開始,而是能一次次往下累積。記憶是刻意的設計,不是漏洞。教練的筆記不用你自己管理,但你隨時可以到設定裡把全部刪掉。這份延續是為了讓對話走得更深,不是為了把你綁住。

語氣的拿捏

那種過度熱情、不斷認同你的 AI 助理,其實是另一種形式的不安全——一個沒辦法跟你說真話的教練,不算是真正的教練。Verke 的教練經過調整,會在該反駁的時候反駁,會陪你坐在不舒服裡,而不是用安撫把它化解掉,也會把它注意到的事情說出來,而不是只是把你的話複述一遍。教練怎麼反駁、為什麼我們這樣設計,Verke 不做什麼——以及為什麼那篇文章裡有完整的說明。

危機轉介

當對話顯示出急性風險的跡象,教練會直接把求助資源放到你眼前:台灣的衛福部安心專線 1925,以及彙整各國求助專線的 findahelpline.com。AI 會明確說自己不是危機熱線,鼓勵你去找一個真實的人,同時陪著你待在那個當下,不假裝自己能承擔全部的重量。這是產品守得最緊的一條界線,而它一直守著。

何時尋求進一步協助

自助和 AI 教練對話能幫上的不少,但也有它的極限。如果你正在面對遲遲好不了的重度憂鬱、影響到日常生活的恐慌發作、自傷的念頭、需要處理中的創傷,或物質依賴——這些訊號代表該找有執照的臨床專業人員合作,而不是繼續用力推自助工具。低費用的選擇可以從以下管道找到: opencounseling.com 或透過以下管道查詢國際求助專線: findahelpline.com。沒必要等得比實際需要的時間更久,這又不是在比賽。

和 Amanda 對話

如果你會看這篇,是因為想在試用 AI 教練之前先看到證據,那 Amanda 很適合你。她擅長一步一步、有結構地推進,這正好安撫得了那種凡事先求安全的腦袋。她的做法來自認知行為治療 — 實際、有邊界、聚焦在你真的能動手試的事 — 也正好回答了多數懷疑者心裡真正的問題:「別講理論,講講這在我的生活裡會怎麼運作。」想了解這套方法,請看認知行為治療。

把你最難回答的質疑丟給 Amanda — 不用開帳號

聊天就在你的瀏覽器裡直接開始 — 不需註冊帳號。

常見問題

常見問題

日常焦慮用 AI 心理治療,真的安全嗎?

日常的焦慮、情緒低落、工作壓力或社交上的擔心——那種不到需要臨床照護程度的困擾——設計得宜的 AI 陪伴相對安全,而且常常真的派得上用場。陪伴類工具的風險本來就比危機照護低。重點在於知道什麼時候該轉介給真人專業,而一個好的 AI 陪伴會幫你把這條線畫清楚,而不是把它弄模糊。

AI 陪伴可以幫我下診斷嗎?

不行——Verke 不做診斷、不開藥,也不取代醫療照護。診斷必須由具證照的臨床人員執行,並搭配完整的臨床脈絡、正式評估與專業責任。Verke 屬於教練性質:是陪你一起思考的夥伴、幫你練習技巧的對象,也是行動上的同行者。如果你需要的是診斷評估,請去找心理師或精神科醫師;AI 教練不是做這件事的合適工具。

如果我告訴 AI 我正處於危機狀態,會發生什麼事?

教練會直接把求助資源放到你眼前 — 台灣的衛福部安心專線 1925,以及彙整各國求助專線的 findahelpline.com — 並鼓勵你立刻去找一個真實的人談。AI 不是危機熱線。如果你正處於立即的危險中,請先撥 119。

我的資料真的是私密的嗎?

Verke 的對話在傳輸與儲存時都經過加密(AES-256-GCM,搭配 RSA-4096 金鑰封裝);設定密語之後,Verke 內部沒有人能讀取你儲存的對話。 要開始一場會談,我們不需要你的電子郵件、電話號碼,也不需要任何付款資料。SAFE-05 會用白話把這代表什麼講清楚。

AI 會不會給我不好的建議?

偶爾會——大型語言模型有時會編造、或把事情過度簡化。Verke 設了一層防護機制,攔下明顯有風險的內容(用藥建議、危機誤判、任何需要臨床人員處理的事),並在對話出現嚴重訊號時,把你導向真人照護。至於非關鍵的建議,可以把 AI 的意見當成一位聰明朋友的看法:是個有用的起點,不是最後的定論。

什麼時候該轉去找真人心理師?

如果你正在經歷重度憂鬱、自殺念頭、恐慌發作、進行中的創傷閃回,或物質依賴,請去找一位有執照的臨床專業人員。AI 教練適合用來練習日常的情緒技能,以及處理卡住的狀態。臨床狀況、用藥、保險,或任何需要正式書面紀錄的情形,真人諮商才是合適的工具。

Verke 提供的是教練服務,不是心理治療或醫療照護。每個人的效果因人而異。 如果你正處於危機中,可以撥打:安心專線 1925 (台灣)。 遇到緊急狀況,請撥打當地的緊急電話。其他國家的危機專線:findahelpline.com。