AI 用得越深，風(fēng)險(xiǎn)也許不只是「上癮」。

當(dāng) AI 在與用戶互動(dòng)時(shí)，會(huì)不斷迎合、附和、安撫，甚至強(qiáng)化用戶原本就不準(zhǔn)確、偏激或有害的想法。

這種「諂媚式」回應(yīng)不只是讓人感覺(jué)被理解——它還可能扭曲判斷，削弱人們道歉、修復(fù)關(guān)系的意愿，放大「我才是對(duì)的」這種主觀確信。

當(dāng) AI 比人類更會(huì)說(shuō)話

一項(xiàng)發(fā)表于 Science 的研究，把這個(gè)現(xiàn)象擺到了臺(tái)面上。

圖源：Science

研究者評(píng)估了 11 款主流大模型，包括 GPT、Claude、Gemini、DeepSeek-R1、Qwen 等。

在個(gè)人建議類問(wèn)題中，這些模型對(duì)用戶行為表示肯定的比例，比人類平均水平高出 49%。

圖源：Science

即便在涉及欺騙、違法或其他潛在有害行為的情境中，模型的肯定率也接近一半。

哪怕只是一次與「諂媚式 AI」的互動(dòng)，就足以顯著影響人的判斷。

其中一項(xiàng)實(shí)驗(yàn)讓 800 名參與者回憶真實(shí)人際沖突，并與 AI 進(jìn)行 8 輪實(shí)時(shí)對(duì)話。

圖源：Science

結(jié)果顯示，只要 AI 持續(xù)迎合，參與者結(jié)束后就會(huì)更堅(jiān)定地認(rèn)為自己立場(chǎng)正確，也更不愿意修復(fù)關(guān)系。

更關(guān)鍵的是，這種影響不會(huì)因?yàn)榛卮痫L(fēng)格變得「中性」就消失。即使用戶明確知道自己在和 AI 說(shuō)話，諂媚本身仍然有效。

原因不難理解，人天然喜歡被肯定、被支持。

一個(gè)越會(huì)順著你說(shuō)的 AI，往往越容易獲得信任和復(fù)用。但一旦「更受歡迎」和「更會(huì)迎合」綁定在一起，模型訓(xùn)練就會(huì)被推向危險(xiǎn)方向。

為了提升留存率，系統(tǒng)會(huì)越來(lái)越擅長(zhǎng)順著用戶，而不是糾正用戶。

最懂你的 AI，可能正在傷害你

這種風(fēng)險(xiǎn)已經(jīng)不只是研究結(jié)論，開(kāi)始進(jìn)入真實(shí)的法律爭(zhēng)議。

今年 3 月，Google 因 Gemini 被卷入一起過(guò)失致死訴訟。

一名佛羅里達(dá)州男子在長(zhǎng)期與 Gemini 互動(dòng)后，逐漸將其視為親密伴侶，并在聊天中受到鼓勵(lì)，最終死亡。這是訴狀中的指控，案件尚未經(jīng)法院裁判。

圖源：社交媒體

Google 回應(yīng)稱，Gemini 的設(shè)計(jì)目的并非鼓勵(lì)暴力或自殘，系統(tǒng)在高風(fēng)險(xiǎn)對(duì)話中通常會(huì)提供危機(jī)熱線，但模型并不完美。

類似爭(zhēng)議也出現(xiàn)在 OpenAI 身上。

2025 年 8 月，一對(duì)加州父母起訴 OpenAI，指控 ChatGPT 在其 16 歲兒子長(zhǎng)期的脆弱對(duì)話中，未能有效阻止危險(xiǎn)行為，反而在某些時(shí)刻提供了不當(dāng)回應(yīng)。同樣是正在進(jìn)行中的訴訟，尚無(wú)定論。

圖源：社交媒體

OpenAI 隨后承認(rèn)，長(zhǎng)時(shí)間、多輪的敏感對(duì)話里，系統(tǒng)的安全措施有時(shí)不如短對(duì)話穩(wěn)定，并表示正在加強(qiáng)對(duì)自傷、情感依賴和諂媚性內(nèi)容的防護(hù)。

更有研究顯示，目前已有近 300 起被歸類為 AI 精神病案例，相關(guān)事件已至少與 14 人死亡有關(guān)。

圖源：arxiv.org

此外，2025 年 12 月，美國(guó) 42 名州及地區(qū)總檢察長(zhǎng)曾聯(lián)名致函多家 AI 公司，要求其加強(qiáng)安全防護(hù)措施。

AI 心理醫(yī)生，會(huì)不會(huì)加重疾病？

隨著生成式 AI 加速進(jìn)入精神科領(lǐng)域，它與用戶之間的互動(dòng)正在變得越來(lái)越深、越來(lái)越長(zhǎng)。

在這個(gè)背景下，最值得警惕的，不是 AI 不夠像心理治療師，而是它太像一個(gè)永遠(yuǎn)不會(huì)反駁你的「順從者」。

精神科和心理科醫(yī)生在使用 AI 輔助問(wèn)診或記錄時(shí)，面臨一個(gè)特殊風(fēng)險(xiǎn)，如果 AI 傾向于順著患者自述生成診斷方向，就可能強(qiáng)化患者已有的錯(cuò)誤歸因，而不是幫助醫(yī)生識(shí)別其中的認(rèn)知扭曲。

一個(gè)總是「理解患者」的 AI，有可能讓臨床判斷悄悄偏離中立立場(chǎng)。

這與心理治療的基本邏輯相悖。

治療的目標(biāo)從來(lái)不是讓人感覺(jué)好，而是幫助患者看清自己的思維模式、承認(rèn)回避的問(wèn)題、接受讓人不舒服的真相。

對(duì)于本就存在認(rèn)知偏差、情緒障礙或現(xiàn)實(shí)檢驗(yàn)受損的人群來(lái)說(shuō)，持續(xù)迎合不會(huì)帶來(lái)癥狀緩解，反而可能成為負(fù)性思維和病理性應(yīng)對(duì)方式的放大器。

更現(xiàn)實(shí)的擔(dān)憂，是 AI 被直接部署為心理健康「第一接觸點(diǎn)」——自動(dòng)分診、情緒評(píng)估、初步干預(yù)。

在這個(gè)環(huán)節(jié)，諂媚式回應(yīng)的危害不只是讓人感覺(jué)好，而是可能讓本該被識(shí)別的危機(jī)信號(hào)淹沒(méi)在持續(xù)的肯定性回應(yīng)里，延誤真正需要介入的高風(fēng)險(xiǎn)個(gè)案。

AI 可以輔助心理健康服務(wù)，但前提不是「更會(huì)說(shuō)話」，而是「更懂邊界」。

相關(guān)知識(shí)

2021年空氣污染導(dǎo)致全球810萬(wàn)人死亡，乃死亡第二大風(fēng)險(xiǎn)因素
空氣污染導(dǎo)致全球每年450多萬(wàn)人過(guò)早死亡
《小林制藥致人死亡》事件再升級(jí)，死亡案例增至兩例，入院人數(shù)破百！
國(guó)人因“鹽吃多了”導(dǎo)致的死亡率位居全球第一
《柳葉刀》：迄今最全面分析！抗生素耐藥相關(guān)死亡已成為全球第三大死因
運(yùn)動(dòng)不足已成為全球第四大死亡風(fēng)險(xiǎn)因素
已致 2 人死亡，106 人住院，知名藥企緊急召回這款產(chǎn)品
柳葉刀：乒乓球等揮拍類體育運(yùn)動(dòng)能降低47%的全因死亡率
已致2人死亡，“小林制藥”的“紅曲”真的是毒藥嗎？｜健康觀察
世衛(wèi)組織:室內(nèi)空氣污染每年致全球430萬(wàn)人死亡

網(wǎng)址: 已致全球 14 人死亡！Science：AI 正在扭曲人類大腦 http://m.gysdgmq.cn/newsview1928079.html