全部商品分類
ＡＩ在醫(yī)療領(lǐng)域的應(yīng)用伴隨著一系列復(fù)雜的法律問題。醫(yī)院如何規(guī)避ＡＩ診斷帶來的法律風險？醫(yī)院怎樣確認醫(yī)療ＡＩ的輔助地位？當ＡＩ輔助診斷結(jié)果與醫(yī)生臨床經(jīng)驗出現(xiàn)分歧時，醫(yī)生該如何權(quán)衡同時避免法律隱患……
４月１５日，北京中醫(yī)藥大學(xué)衛(wèi)生健康法治研究與創(chuàng)新轉(zhuǎn)化中心主任、博導(dǎo)鄧勇教授做客健康界直播節(jié)目「ＡＬＬ ｉｎ ＡＩ Ｈｅａｌｔｈ創(chuàng)新應(yīng)用大講堂」，與本場直播主持人健康界內(nèi)容負責人鄭宇鈞對談「醫(yī)院如何提升應(yīng)對ＡＩ醫(yī)療風險能力」等問題。鄧勇教授扎實且富有實用性的直播內(nèi)容，為眾多在線的醫(yī)健專業(yè)人士帶來一場干貨滿滿的知識盛宴。
本文精選部分直播內(nèi)容，供廣大同仁交流，歡迎在評論區(qū)留言。本期及過往授課回放，可點擊下方圖片跳轉(zhuǎn)小程序，您加入醫(yī)項目即可觀看：
ＡＩ醫(yī)療應(yīng)用 這幾大風險一定要注意！
盡管ＡＩ技術(shù)為醫(yī)療行業(yè)帶來諸多便利，但也存在不少法律風險。首當其沖的是醫(yī)療事故風險。鄧勇指出，由于數(shù)據(jù)偏移、算法偏見、技術(shù)濫用以及醫(yī)生接受度等因素，現(xiàn)階段許多醫(yī)療ＡＩ產(chǎn)品存在安全隱患，可能導(dǎo)致潛在的醫(yī)療風險和醫(yī)療事故。
因為訓(xùn)練數(shù)據(jù)偏移、標注質(zhì)量不一以及缺乏行業(yè)標準等因素，部分影像ＡＩ產(chǎn)品診斷效能參差不齊，容易出現(xiàn)誤診漏診情況。例如，肺癌 ＡＩ 診斷產(chǎn)品的訓(xùn)練數(shù)據(jù)可能主要來自吸煙者和高風險人群的肺癌病例，導(dǎo)致其在低風險人群或非吸煙者中的診斷準確率較低。
臨床決策支持系統(tǒng)若訓(xùn)練數(shù)據(jù)或技術(shù)算法出現(xiàn)偏移、缺陷，也可能給臨床診療帶來巨大風險，甚至造成重大醫(yī)療事故。以ＩＢＭ Ｗａｔｓｏｎ ｆｏｒ Ｏｎｃｏｌｏｇｙ 為例，據(jù) ＩＢＭ 內(nèi)部公司文件，其應(yīng)用程序經(jīng)常產(chǎn)生「不安全和不正確」的診療建議。例如，Ｗａｔｓｏｎ 曾向一名 ６５ 歲伴有嚴重出血風險的肺癌患者開「貝伐珠單抗」，而該藥的副作用之一就是出血。
此外，在一項針對「胸痛」的病因診斷試驗中，Ｗａｔｓｏｎ 僅提供了「某種極少見的傳染病」的診斷建議，而漏診了心絞痛、心肌梗塞及大動脈破裂等常見「胸痛」疾病。
已開始大量進入臨床的醫(yī)療機器人，可能帶來的風險也不容忽視。最典型的例子是英國首例「達·芬奇」機器人心臟手術(shù)致死案，據(jù)后期調(diào)查，手術(shù)失敗的主要原因在于機器人縫合心臟的位置和方式不對，主刀醫(yī)生必須拆線并重新縫合，該醫(yī)生事后也承認并沒有完全掌握機器的操作方法。
處方權(quán)合規(guī)風險同樣不容忽視。鄧勇指出，根據(jù)《互聯(lián)網(wǎng)診療監(jiān)管細則（試行）》及各地相關(guān)規(guī)定，嚴禁使用人工智能自動生成處方。然而，在實際的互聯(lián)網(wǎng)診療中，存在諸多亂象，如平臺醫(yī)生信息錯誤、虛假資質(zhì)難以認定，部分平臺無處方、病歷、檢查報告就開具藥品，網(wǎng)紅醫(yī)生帶貨保健品，以及醫(yī)生誤診、過度依賴ＡＩ開出處方藥、泄露患者個人信息等問題屢見不鮮。
數(shù)據(jù)隱私風險也是ＡＩ醫(yī)療面臨的重要挑戰(zhàn)。鄧勇著重提到，醫(yī)療ＡＩ研發(fā)高度依賴海量醫(yī)療數(shù)據(jù)，在數(shù)據(jù)獲取、保管、分析和輸出的各個環(huán)節(jié)都存在隱私數(shù)據(jù)泄露的風險。使用者操作不當、利益相關(guān)者出賣信息、間諜和黑客惡意竊取、數(shù)據(jù)系統(tǒng)維護不當?shù)龋伎赡軐?dǎo)致數(shù)據(jù)泄露。
例如，中國信息通信研究院曾于２０２０年發(fā)布報告稱，近三成接受調(diào)查的醫(yī)療單位存在數(shù)據(jù)資產(chǎn)泄露的風險，４４．３９％（７０８０家）的受調(diào)査單位使用了有漏洞風險的低版本組件。據(jù)統(tǒng)計，僅２０２０年，我國通過網(wǎng)絡(luò)出境的醫(yī)學(xué)影像數(shù)據(jù)就達到４９７萬余次，涉及境內(nèi)３３４７個地址，其中未脫敏數(shù)據(jù)達近４０萬次。
鄧勇在直播中提到，醫(yī)療ＡＩ侵權(quán)責任主要分為手術(shù)機器人侵權(quán)責任和醫(yī)療診斷系統(tǒng)侵權(quán)責任。
手術(shù)機器人侵權(quán)責任又可細分為硬件缺陷侵權(quán)和軟件缺陷侵權(quán)。對于硬件缺陷導(dǎo)致的患者損害，可適用《民法典》第１２２３條規(guī)定的缺陷醫(yī)療器械侵權(quán)責任，患者有權(quán)向生產(chǎn)者或醫(yī)療機構(gòu)請求賠償；對于軟件缺陷造成的損害，由于軟件不屬于傳統(tǒng)意義上的「產(chǎn)品」，不能直接適用上述條款，但可依據(jù)《民法典》一般過錯侵權(quán)責任，要求生產(chǎn)商承擔責任。
醫(yī)療診斷系統(tǒng)侵權(quán)責任的認定更為復(fù)雜，核心問題在于算法的不透明和不可預(yù)見性，使得傳統(tǒng)過錯責任理論難以直接適用。當醫(yī)療診斷系統(tǒng)出現(xiàn)預(yù)測錯誤，造成患者損害時，現(xiàn)行法律并未明確規(guī)定其責任歸屬，存在法律漏洞。
在鄧勇看來，醫(yī)療 ＡＩ 診斷系統(tǒng)視在臨床中的作用和地位更類似于會診醫(yī)師，其相似性主要體現(xiàn)在以下兩方面：
第一，根據(jù)我國《醫(yī)院工作制度與人員崗位職責》，「凡遇疑難病例，應(yīng)及時申請會診」。我國法律未對何為「疑難病」作出界定，但根據(jù)醫(yī)學(xué)界通識，凡大多數(shù)醫(yī)務(wù)人員對診治都感到困難的疾病，均可稱為「疑難病」。目前，醫(yī)療ＡＩ診斷系統(tǒng)主要提供腫瘤患者的治療選擇方案，其所涉病種符合「疑難病」的范圍。
第二，從目前醫(yī)療ＡＩ診斷系統(tǒng)的功能來看，其是向主治提供疑難病癥的咨詢意見，不與患者直接交流，更不能獨立采取治療措施，與患者之間不產(chǎn)生直接的醫(yī)患關(guān)系。會診醫(yī)師在對疑難病進行討論時，也僅是根據(jù)主治醫(yī)師所提供的病歷資料、檢查信息等從自己專業(yè)角度提出建議。醫(yī)療機構(gòu)為了提高自身的診療水平和節(jié)約人力物力成本，在明知醫(yī)療診斷系統(tǒng)可能存在誤診的情形下，應(yīng)通過實施會診制度等措施來盡量避免其可能產(chǎn)生的不良后果。
雖然，醫(yī)療機構(gòu)不可能評估黑箱醫(yī)療算法的實質(zhì)性準確性，但卻可以而且應(yīng)該被要求采取適當?shù)闹斏鱽碓u估程序質(zhì)量。若未采取積極措施而導(dǎo)致誤診發(fā)生，就與「醫(yī)療機構(gòu)自身有管理過錯」并無二樣，皆屬于醫(yī)療機構(gòu)由于疏忽或者懈怠而未能履行管理規(guī)范或者管理職責、造成患者人身損害之情形。
對此，可類推適用《民法典》第１２１８條規(guī)定，由醫(yī)療機構(gòu)承擔管理過錯責任。
掃碼▽即可獲取完整回放和思維導(dǎo)圖
報名成為ＡＩ講師，加入ＡＩ主題社群
規(guī)避 ＡＩ 醫(yī)療應(yīng)用法律風險 醫(yī)院應(yīng)該采取哪些關(guān)鍵舉措
鄧勇提到，醫(yī)院在使用醫(yī)療ＡＩ時，明確其輔助性本質(zhì)至關(guān)重要，應(yīng)建立人機協(xié)同的診療新范式。在技術(shù)定位上，ＡＩ作為提升醫(yī)療效率的智能工具而非獨立決策主體，不能取代醫(yī)務(wù)人員的臨床核心決策地位。具體實施路徑包括：
一、建立分層應(yīng)用體系：
基礎(chǔ)層：在影像預(yù)判環(huán)節(jié)，明確ＡＩ僅執(zhí)行初步篩選功能，要求系統(tǒng)對疑似異常結(jié)果標注置信度評級。病歷結(jié)構(gòu)化錄入需設(shè)置人工復(fù)核節(jié)點，確保關(guān)鍵信息（如過敏史、手術(shù)史）１００％人工確認。建立ＡＩ操作日志管理系統(tǒng)，完整記錄系統(tǒng)介入時間、操作內(nèi)容及輸出結(jié)果。
決策層：由主治醫(yī)師對ＡＩ建議進行二次驗證與臨床決策，包括：與患者臨床表現(xiàn)的匹配度分析、循證醫(yī)學(xué)證據(jù)支持度核查、治療方案可行性評估。對于重大手術(shù)或復(fù)雜病例，建立多學(xué)科會診制度，將ＡＩ建議納入會診討論材料。
管理層：通過ＡＩ質(zhì)控系統(tǒng)監(jiān)測診療全流程規(guī)范性。有條件的可以每月生成《ＡＩ應(yīng)用質(zhì)量報告》，作為科室考核依據(jù)。
技術(shù)缺陷責任方面：
（１） 要求供應(yīng)商提供《系統(tǒng)可靠性承諾書》
（２） 在采購合同中明確故障響應(yīng)時間與賠償標準
臨床決策責任方面：
（１） 建立電子簽名追溯系統(tǒng)，確保每項ＡＩ建議都有醫(yī)師確認記錄
（２） 對連續(xù)出現(xiàn)決策失誤的醫(yī)師啟動能力復(fù)評程序
系統(tǒng)運維責任方面：
（１） 制定《ＡＩ系統(tǒng)日常維護規(guī)程》，明確備份頻率與災(zāi)難恢復(fù)機制
（２） 建立運維事件登記制度，重大故障２４小時內(nèi)上報院領(lǐng)導(dǎo)
完善倫理審查機制：
成立跨學(xué)科ＡＩ倫理委員會，涵蓋醫(yī)學(xué)、法學(xué)、倫理學(xué)專家
定期評估ＡＩ系統(tǒng)對醫(yī)患關(guān)系、診療公平性的影響
二、明確ＡＩ的輔助定位，建立「雙重確認」機制是規(guī)避法律風險的核心防線：
１． 流程標準化：
制定《ＡＩ輔助診療操作規(guī)范》，明確ＡＩ建議必須經(jīng)過「醫(yī)師復(fù)核－臨床驗證－簽字確認」三步驟；
對急診等特殊場景設(shè)置復(fù)核時間閾值（如３０分鐘內(nèi)完成二次確認）。
２． 責任界定規(guī)則：
醫(yī)師未復(fù)核直接采用ＡＩ建議視為重大過失；
ＡＩ系統(tǒng)持續(xù)誤判未被發(fā)現(xiàn)追究科室管理責任。
３． 風險預(yù)警系統(tǒng)：
部署決策偏離度監(jiān)測模塊，當ＡＩ建議與臨床常規(guī)差異超過設(shè)定閾值時觸發(fā)警示；
建立誤判案例回溯機制，定期更新ＡＩ系統(tǒng)知識庫。
三、完善知情同意制度，知情同意書革新需體現(xiàn)ＡＩ技術(shù)特征：
１． 內(nèi)容要素：
明確告知ＡＩ參與的具體環(huán)節(jié)（如影像分析、用藥建議等）
說明ＡＩ系統(tǒng)的局限性及可能存在的誤判概率
列明數(shù)據(jù)使用范圍及隱私保護措施
２． 簽署形式：
開發(fā)電子知情同意系統(tǒng)，支持多媒體說明（動畫演示、案例視頻）
設(shè)置知識測試環(huán)節(jié)確保患者真正理解內(nèi)容
３． 動態(tài)更新機制：
ＡＩ系統(tǒng)版本升級后需重新簽署補充協(xié)議
對高風險診療項目設(shè)置二次確認流程
四、強化數(shù)據(jù)安全管理，構(gòu)建分級防護體系：
１． 數(shù)據(jù)分類管理：
一級數(shù)據(jù)（生物特征、基因信息）：采取「物理隔離」的方式為宜
二級數(shù)據(jù)（診療記錄）：采取「動態(tài)脫敏＋區(qū)塊鏈存證」 的方式為宜
三級數(shù)據(jù)（科研數(shù)據(jù)）：需要遵守科研數(shù)據(jù)管理的相應(yīng)規(guī)定
２． 技術(shù)防護措施：
部署醫(yī)療專用防火墻，建立ＡＩ操作「沙箱環(huán)境」
采用零信任架構(gòu)，所有數(shù)據(jù)訪問需多重身份驗證
３． 協(xié)議管理機制：
與供應(yīng)商簽訂《數(shù)據(jù)安全承諾書》，明確違約賠償條款
要求第三方機構(gòu)每年提供安全審計報告
五、優(yōu)化責任保險方案：
醫(yī)院可以采取多種措施。如果醫(yī)院資金實力允許，可以按照ＡＩ診療收入的比例提取專項賠償基金，建立先行賠付機制，保障患者權(quán)益，也可以與保險公司合作開發(fā)ＡＩ醫(yī)療責任險，設(shè)置浮動保費機制，與系統(tǒng)準確率掛鉤，在現(xiàn)有的醫(yī)療責任險中增設(shè)ＡＩ診療附加條款，覆蓋系統(tǒng)故障與算法誤判風險。
六、組織人員培訓(xùn)：
醫(yī)院可以采取「三維案例體系」建設(shè)：首先精選典型判例，選取ＡＩ誤診賠償、數(shù)據(jù)泄露追責、知情同意瑕疵等具有代表性的司法案例，制作《ＡＩ醫(yī)療法律風險案例集》，每個案例包含案情概要、爭議焦點、法院裁判要旨及改進建議四部分。其次創(chuàng)新教學(xué)形式，開發(fā)互動式案例研討平臺，設(shè)置虛擬法庭模塊供醫(yī)務(wù)人員角色扮演，在模擬訴訟中理解舉證責任分配規(guī)則；建立「案例即時推送」機制，當醫(yī)院引入新ＡＩ系統(tǒng)時，自動關(guān)聯(lián)相似案例進行預(yù)警教學(xué)。
再者構(gòu)建分析框架，采用「四步分析法」：
①識別案例中的法律事實；
②解構(gòu)涉事主體的過錯形態(tài)；
③分析責任承擔的法律依據(jù)；
④提煉臨床實踐改進要點，通過結(jié)構(gòu)化思維訓(xùn)練培養(yǎng)法律風險預(yù)判能力。
醫(yī)務(wù)人員應(yīng)對ＡＩ 也要有法律思維
針對網(wǎng)友感興趣的話題，鄧勇教授進行了線上作答。
健康界網(wǎng)友：當ＡＩ輔助診斷結(jié)果與醫(yī)生臨床經(jīng)驗出現(xiàn)分歧時，醫(yī)生該如何權(quán)衡并決策，同時避免法律風險？
鄧勇：醫(yī)生要充分發(fā)揮主觀能動性，嚴格依據(jù)《醫(yī)師法》行使權(quán)利。
首先，謹慎評估ＡＩ結(jié)果，從數(shù)據(jù)質(zhì)量、算法性能、系統(tǒng)局限性等方面判斷其可信度。
其次，充分結(jié)合自身臨床經(jīng)驗，回顧患者病史、進行體格檢查并結(jié)合臨床癥狀綜合判斷。
再者，安排補充檢查，如基因檢測、影像檢測等，并動態(tài)觀察患者病情變化。此外，還可借助多學(xué)科團隊協(xié)作，組織會診、病例討論，咨詢專家意見。
最重要的是加強與患者的溝通，堅守職業(yè)資質(zhì)和處方權(quán)原則，向患者解釋分歧原因，避免誤解。同時，規(guī)范診療記錄，詳細注明決策理由，為醫(yī)療決策提供有力證據(jù)，降低法律風險。
健康界網(wǎng)友：對于培訓(xùn)醫(yī)務(wù)人員識別和應(yīng)對ＡＩ醫(yī)療應(yīng)用法律風險的方式，除案例教學(xué)外，還有哪些途徑？
鄧勇：模擬演練是其中之一，設(shè)置模擬醫(yī)療場景，融入ＡＩ應(yīng)用可能出現(xiàn)的法律風險，讓醫(yī)務(wù)人員分別扮演醫(yī)生、患者、律師等角色，在模擬診療和糾紛處理過程中提升應(yīng)對能力。專家講座也必不可少，邀請人工智能醫(yī)療ＡＩ合規(guī)風控領(lǐng)域的法律專家、律師以及醫(yī)療糾紛處理專家舉辦講座，從不同角度提供專業(yè)知識和實踐指導(dǎo)。
醫(yī)院也可以組織相關(guān)人員到優(yōu)秀的醫(yī)療ＡＩ或醫(yī)療大模型企業(yè)實地考察調(diào)研，了解其工作原理、潛在問題及風控措施。此外，經(jīng)典短劇表演也值得嘗試，通過內(nèi)部人員扮演不同角色進行情景演練，對診療過程提出質(zhì)疑并改進，提升醫(yī)務(wù)人員運用醫(yī)療ＡＩ的能力。
健康界網(wǎng)友：當ＡＩ的診斷結(jié)果被用作醫(yī)療糾紛案件中的證據(jù)時，其證明力和可信度應(yīng)如何認定？
鄧勇：這需綜合多方面因素考量并滿足一定條件。認定因素包括ＡＩ系統(tǒng)的可靠性，即技術(shù)原理科學(xué)合理、算法經(jīng)過嚴格驗證和同行評審；數(shù)據(jù)質(zhì)量要有足夠規(guī)模、多樣性和準確性，并標注可靠度。同時，要實現(xiàn)ＡＩ系統(tǒng)及其結(jié)果的可解釋性，保障透明度，醫(yī)生需參與審查并做好人機協(xié)作記錄。
滿足的條件包括符合法定程序，數(shù)據(jù)獲取合法合規(guī)，不侵犯患者隱私，證據(jù)收集和保存符合醫(yī)療規(guī)范與法律要求。還可借助專業(yè)鑒定機構(gòu)對ＡＩ系統(tǒng)和診斷結(jié)果進行鑒定，與其他醫(yī)療記錄、證人證言等證據(jù)相互驗證，并通過法庭質(zhì)證、辯論以及專家輔助人出席來查明事實，將傳統(tǒng)證據(jù)規(guī)則與醫(yī)療ＡＩ技術(shù)相結(jié)合，進行全面看待和應(yīng)對。
注：文章來源于網(wǎng)絡(luò)，如有侵權(quán)，請聯(lián)系刪除
