關(guān)注

評(píng)論

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室起草的《人工智能擬人化互動(dòng)服務(wù)管理暫行辦法（征求意見(jiàn)稿）》公開(kāi)向社會(huì)征求意見(jiàn)。在人工智能（AI）深度融入醫(yī)療領(lǐng)域的當(dāng)下，征求意見(jiàn)稿通過(guò)建立身份透明、風(fēng)險(xiǎn)防控、彈性監(jiān)管等制度體系，將為推動(dòng)AI醫(yī)療健康規(guī)范發(fā)展提供重要指引。

錨定健康價(jià)值導(dǎo)向

征求意見(jiàn)稿立足AI技術(shù)應(yīng)用的健康價(jià)值導(dǎo)向，通過(guò)系統(tǒng)性制度設(shè)計(jì)錨定了擬人化互動(dòng)服務(wù)“助力人類健康”的核心定位。這一導(dǎo)向與醫(yī)療領(lǐng)域的公益屬性高度契合，為AI醫(yī)療發(fā)展確立了價(jià)值坐標(biāo)。

具體條款體現(xiàn)了“正向賦能健康+反向規(guī)避傷害”的雙重規(guī)制邏輯：禁止通過(guò)情感操控、鼓勵(lì)自殘等方式損害用戶身心健康；要求服務(wù)提供者具備心理健康保護(hù)與依賴風(fēng)險(xiǎn)預(yù)警能力；強(qiáng)制推行AI身份顯著提示。在醫(yī)療場(chǎng)景中，無(wú)論是智能問(wèn)診系統(tǒng)的健康咨詢、心理疏導(dǎo)AI的情緒干預(yù)，還是康復(fù)陪伴機(jī)器人的輔助護(hù)理，都必須以促進(jìn)患者健康為前提，不得偏離醫(yī)療服務(wù)的核心目標(biāo)。通過(guò)交互界面持續(xù)標(biāo)注“AI服務(wù)”、明確告知服務(wù)功能邊界等要求，既能保障患者知情權(quán)，避免其將AI等同于專業(yè)醫(yī)療主體，又能確保AI始終作為提升醫(yī)療服務(wù)效率、拓寬健康服務(wù)覆蓋面的輔助力量，助力構(gòu)建“技術(shù)賦能+人文醫(yī)療”的協(xié)同格局。

在醫(yī)療場(chǎng)景中，AI通過(guò)分析患者診療數(shù)據(jù)、情緒反饋形成個(gè)性化交互策略，若缺乏法律倫理約束，可能演變?yōu)椤扒楦胁倏亍惫ぞ?。征求意?jiàn)稿要求AI不得誘導(dǎo)用戶作出不合理決策，對(duì)應(yīng)到醫(yī)療領(lǐng)域，即禁止基于患者心理脆弱狀態(tài)（如癌癥患者的焦慮情緒）推送特定治療方案或過(guò)度醫(yī)療建議，而應(yīng)引導(dǎo)其尋求專業(yè)醫(yī)療幫助。這種對(duì)“情感計(jì)算”技術(shù)的規(guī)范，可避免AI利用信息不對(duì)稱影響患者決策，守護(hù)醫(yī)療決策中人類主體的核心地位。

構(gòu)建雙重保障機(jī)制

征求意見(jiàn)稿明確的禁止AI鼓勵(lì)自殺自殘、實(shí)施情感操控，以及“提供者應(yīng)當(dāng)建立應(yīng)急響應(yīng)機(jī)制，發(fā)現(xiàn)用戶明確提出實(shí)施自殺、自殘等極端情境時(shí)，由人工接管對(duì)話”等內(nèi)容，對(duì)精神衛(wèi)生領(lǐng)域具有直接指導(dǎo)意義。這種嚴(yán)格規(guī)范既發(fā)揮AI在初步篩查、情緒安撫中的效率優(yōu)勢(shì)，又為人類專業(yè)干預(yù)保留介入空間，構(gòu)建起“技術(shù)賦能+人文關(guān)懷”的雙重保障機(jī)制。

例如，從抑郁癥患者的情緒日志到腫瘤患者的治療心理變化，均屬于征求意見(jiàn)稿重點(diǎn)保護(hù)的“情感類個(gè)人信息”。征求意見(jiàn)稿要求對(duì)這類數(shù)據(jù)實(shí)施更嚴(yán)格的目的限制，明確除法律另有規(guī)定或權(quán)利人明確同意外，不得向第三方提供，也不得用于模型訓(xùn)練。

心理疏導(dǎo)AI僅可將對(duì)話內(nèi)容用于提升服務(wù)質(zhì)量，禁止用于商業(yè)營(yíng)銷或衍生開(kāi)發(fā)。在技術(shù)層面，需采用隱私計(jì)算等手段實(shí)現(xiàn)“數(shù)據(jù)可用不可見(jiàn)”，如區(qū)域醫(yī)療平臺(tái)整合多家醫(yī)院的患者心理數(shù)據(jù)時(shí)，須進(jìn)行去標(biāo)識(shí)化處理。這種全鏈條保護(hù)是對(duì)患者人格尊嚴(yán)與隱私權(quán)的深度守護(hù)。

塑造AI良性發(fā)展生態(tài)

征求意見(jiàn)稿構(gòu)建的全鏈條治理模式，為AI醫(yī)療產(chǎn)業(yè)建立了可追溯的責(zé)任體系。在模型設(shè)計(jì)階段，研發(fā)團(tuán)隊(duì)需通過(guò)科技倫理審查，明確排除“誘導(dǎo)醫(yī)療消費(fèi)”“替代醫(yī)生決策”等不良目標(biāo)，并加強(qiáng)訓(xùn)練數(shù)據(jù)管理，以保障數(shù)據(jù)合規(guī)和數(shù)據(jù)質(zhì)量。

征求意見(jiàn)稿明確，國(guó)家堅(jiān)持健康發(fā)展和依法治理相結(jié)合的原則，鼓勵(lì)擬人化互動(dòng)服務(wù)創(chuàng)新發(fā)展，對(duì)擬人化互動(dòng)服務(wù)實(shí)行包容審慎和分類分級(jí)監(jiān)管，防止濫用失控。在探索實(shí)踐中，需強(qiáng)調(diào)行業(yè)組織、醫(yī)療機(jī)構(gòu)、患者群體的協(xié)同參與，構(gòu)建起立體化治理網(wǎng)絡(luò)。行業(yè)協(xié)會(huì)可制定細(xì)分領(lǐng)域標(biāo)準(zhǔn)；醫(yī)療機(jī)構(gòu)引入AI醫(yī)療產(chǎn)品時(shí)須建立合規(guī)評(píng)估機(jī)制；患者可通過(guò)投訴渠道反饋AI服務(wù)中的倫理問(wèn)題。

期待更契合醫(yī)療實(shí)踐

面對(duì)AI醫(yī)療發(fā)展的復(fù)雜挑戰(zhàn)，建議在征求意見(jiàn)過(guò)程中充分吸納醫(yī)療行業(yè)、科技企業(yè)、法律界及公眾的合理訴求，進(jìn)一步優(yōu)化政策設(shè)計(jì)。筆者認(rèn)為，征求意見(jiàn)稿可在醫(yī)療場(chǎng)景適配性、條款落地性、部門協(xié)同及算法透明度等方面進(jìn)行優(yōu)化。

一是補(bǔ)充醫(yī)療場(chǎng)景專屬條款。明確AI醫(yī)療擬人化互動(dòng)服務(wù)的負(fù)面清單，嚴(yán)禁在沒(méi)有醫(yī)生監(jiān)督下模擬執(zhí)業(yè)醫(yī)師開(kāi)展診斷、處方等核心醫(yī)療行為，細(xì)化“情感操控”在醫(yī)療場(chǎng)景中的具體表現(xiàn)形式；強(qiáng)化臨床驗(yàn)證要求，規(guī)定AI醫(yī)療擬人化互動(dòng)服務(wù)在投入使用前，須通過(guò)符合醫(yī)學(xué)倫理的安全性、可靠性測(cè)試，驗(yàn)證其交互安全性、信息準(zhǔn)確性及對(duì)診療決策的影響；補(bǔ)充AI醫(yī)療終止服務(wù)的特殊規(guī)則，要求提供者在終止服務(wù)前預(yù)留合理過(guò)渡期，妥善處置患者交互數(shù)據(jù)和健康記錄，并向用戶提供數(shù)據(jù)導(dǎo)出和轉(zhuǎn)移通道，保障患者健康權(quán)益的連續(xù)性。

二是制定配套技術(shù)標(biāo)準(zhǔn)與實(shí)操指引。出臺(tái)醫(yī)療領(lǐng)域?qū)嵤┘?xì)則，明確技術(shù)指標(biāo)要求，如用戶極端情緒識(shí)別的準(zhǔn)確率閾值、危機(jī)干預(yù)的響應(yīng)時(shí)限、未成年人使用時(shí)長(zhǎng)限制等具體標(biāo)準(zhǔn)，增強(qiáng)監(jiān)管的可操作性；規(guī)范合規(guī)審查流程，細(xì)化AI擬人化互動(dòng)服務(wù)的合規(guī)審查范圍、內(nèi)容和標(biāo)準(zhǔn)，要求審查專家中必須包含臨床醫(yī)務(wù)人員、衛(wèi)生法學(xué)專家和患者代表；建立醫(yī)療情感數(shù)據(jù)的分級(jí)保護(hù)標(biāo)準(zhǔn)，根據(jù)數(shù)據(jù)敏感程度劃分保護(hù)等級(jí)，對(duì)涉及精神疾病、艾滋病等核心敏感數(shù)據(jù)實(shí)行更嚴(yán)格的加密存儲(chǔ)和訪問(wèn)控制要求。

三是健全跨部門協(xié)同監(jiān)管機(jī)制。鑒于AI醫(yī)療監(jiān)管涉及網(wǎng)信、衛(wèi)生健康、藥監(jiān)、醫(yī)保、數(shù)據(jù)管理等多個(gè)部門，建議進(jìn)一步明確跨部門協(xié)同監(jiān)管的具體路徑。建立聯(lián)席會(huì)議制度，由網(wǎng)信部門牽頭，統(tǒng)籌衛(wèi)生健康、藥監(jiān)、醫(yī)保等部門的監(jiān)管職責(zé)，協(xié)調(diào)解決跨領(lǐng)域協(xié)同監(jiān)管難題；構(gòu)建信息共享與聯(lián)合執(zhí)法機(jī)制，實(shí)現(xiàn)各部門在AI醫(yī)療產(chǎn)品備案、安全評(píng)估、風(fēng)險(xiǎn)處置等方面的信息互通，提高監(jiān)管效率；推動(dòng)監(jiān)管資源下沉，依托基層衛(wèi)生健康監(jiān)管體系，加強(qiáng)對(duì)基層醫(yī)療衛(wèi)生機(jī)構(gòu)AI擬人化互動(dòng)服務(wù)應(yīng)用的指導(dǎo)與監(jiān)督，確保政策在基層落地見(jiàn)效。

直面健康熱點(diǎn)

分享真知灼見(jiàn)

評(píng)論投稿郵箱：mzpljkb@163.com

文：中國(guó)醫(yī)學(xué)科學(xué)院醫(yī)學(xué)信息研究所醫(yī)療衛(wèi)生法制研究室主任、中國(guó)衛(wèi)生法學(xué)會(huì)學(xué)術(shù)委員會(huì)副主任 曹艷林

校對(duì)：馬楊

審核：秦明睿 徐秉楠

免責(zé)聲明：本內(nèi)容來(lái)自騰訊平臺(tái)創(chuàng)作者，不代表騰訊新聞或騰訊網(wǎng)的觀點(diǎn)和立場(chǎng)。

舉報(bào)

相關(guān)知識(shí)

推動(dòng)AI醫(yī)療健康規(guī)范發(fā)展
“算力＋AI” 中國(guó)移動(dòng)賦能醫(yī)療健康新發(fā)展
“AI+醫(yī)療”駛?cè)氚l(fā)展快車道
AI部署規(guī)范化，《醫(yī)療機(jī)構(gòu)部署DeepSeek專家共識(shí)》發(fā)布
“互聯(lián)網(wǎng)+醫(yī)療健康”迎來(lái)規(guī)范發(fā)展
深入布局AI醫(yī)療提質(zhì)增效 美年健康需求推動(dòng)迎發(fā)展“暖春”
推動(dòng)健康咨詢對(duì)話式AI應(yīng)用更規(guī)范
智慧醫(yī)療丨AI智能技術(shù)全面賦能醫(yī)療健康行業(yè)發(fā)展
美年健康：打造AI+醫(yī)療創(chuàng)新示范高地
促進(jìn)醫(yī)療美容行業(yè)健康規(guī)范發(fā)展

網(wǎng)址: 推動(dòng)AI醫(yī)療健康規(guī)范發(fā)展 http://m.gysdgmq.cn/newsview1890822.html