【監管新時代倒數系列專題─3】
生成式AI正快速進入心理健康照護現場。不同於以往影像判讀或輔助診斷工具，這一代AI開始以「對話」作為介入形式，包括陪伴焦慮、回應憂鬱、協助情緒自我調節。這意味著醫療照護不只是傳遞資訊，而是進入人最脆弱、最需要被理解的地方。
然而，「可被批准」與「可被信任」之間，仍存在巨大落差。臨床端與病患端對AI的觀點，正逐步成為這一波技術能否落地的關鍵。
醫師對AI介入心理健康的三項核心擔憂
台北一位精神科醫師這麼說：「如果 AI 是輔助，我願意。但如果病患開始把 AI 當成主要依附對象，我會非常擔心。」
臨床端對生成式 AI 的疑慮，不在於技術本身「能不能回答」，而在於它 是否能在脆弱情境中做出正確、合適、具有治療倫理的回應。目前醫師的顧慮大致可分為三個方向：
- AI會不會說錯話？
心理健康對話中，經常涉及自殺意念、自我否定、羞愧、創傷記憶等高度敏感內容。只要一句措辭不當，就有可能造成情緒惡化，甚至引發實際傷害。因此，醫師關注的不是AI的語言流暢度，而是其在危機場景中是否具備「安全中止與人類介入切換」能力。
- 病患會不會依賴 AI 而遠離真實互動？
有些病患可能會對AI產生「無條件接納感」，主要是因為AI會一直回應、永不生氣、永不拒絕。但心理治療的核心在於回到世界、回到關係、回到自我感受，而非依附於單一對象。如果使用方式不當，AI 可能不但沒有促進社會連結，反而造成退縮與孤立。
- 治療責任如何界定？
在 AI 生成回應的情境中，一個關鍵問題會持續被提出：「這句話究竟是誰建議的？」是模型？系統設計者？臨床醫師？平台提供者？這牽涉到醫療安全、倫理監督、法律責任與風險承擔機制，是未來監管框架必須明確回答的問題。
這不是醫師「反科技」，而是臨床現場對「治療關係」有深刻理解。因為心理治療不是資訊給予，而是情緒承接、敘事重構和自我理解與整合等。而這些過程中，信任是治療本身的一部分。
若 AI 要進入臨床，它不是取代醫師，而是必須與醫師形成AI 負責「陪伴與追蹤」；醫師負責「診斷與詮釋」。我們稱之為：「人機共治療模型（Human–AI Co-Therapy Model）」，這是接下來3至5年最重要的臨床工作流程創新。
病患最在意的是「我有沒有被理解？」
對病患而言，問題往往不是AI是否回答得精確，而是：「它懂我嗎？」「它有真正聽我說話嗎？」
以焦慮症患者小林為例，她分享自己的感受：「AI回應很快，也很有耐心，但有時候，它會跳過我的情緒，直接叫我深呼吸或換個角度想。那感覺就像我沒有被聽見一樣。」
病患在心理支持場景中真正需要的，往往不是「正確答案」，而是四種感受：
- 被理解。AI 能夠整理語意，但在情緒細膩度與語境感受上仍然不足。
- 被陪伴。AI 可以二十四小時不間斷地回應，這確實能減輕孤獨。
- 被肯定。不同模型與語言風格會造成回應一致性不足，有時會讓病患感覺被忽視。
- 被支持去回到現實，而不是躲在對話裡。這一點，往往仍需要醫師或心理師的引導，AI目前難以獨立完成。
因此，信任不是來自AI是否「聰明」，而是來自病患是否能清楚知道：AI 會在哪裡停下來，在哪裡把我交回給人。這就是所謂的「風險升級」與「人工介入」設計。真正安全的系統不是永不停止回應，而是在必要時知道自己應該退場。
建立信任，需要新的「知情同意」
傳統醫療的知情同意書主要說明風險、副作用與替代方案。但在生成式 AI 場景中，病患需要理解的項目更多。
例如：
AI 是否會持續學習、更新、變動？應在同意文件中清楚告知：模型會根據大量資料進行更新，因此不同行為可能出現在不同時期。
AI 在哪些情況下會交回給人類？需要明確說明：當病患表達自傷、他傷或極端情緒時，系統會立即轉由真人醫療人員處理。
AI 與醫師之間的責任邊界是什麼？應讓病患知道：AI 用於陪伴、情緒整理與追蹤，而真正的治療判斷與決策仍由醫師負責。
這不是法律補充條款，而是病患安全感的來源。要讓病患知道，他不是被交給 AI，而是由 AI 與人類一起照顧。
總之，技術可以被批准，產品可以被上架。但如果臨床不採用、醫師不介入、病患不敢依附，則不會真正改變照護現場。
在生成式 AI 走入心理健康的過程中，真正需要被重新設計的不是模型，而是關係：治療關係如何被重新建構？醫師如何從「決策者」轉為「引導者與詮釋者」？病患的脆弱如何被接住，而不是被忽略？
信任，不是可選項。它是生成式 AI 在心理健康領域能否真正落地的通行證。而我們現在正站在建設它的入口。
