近日，中央網信辦旗下雜志《中國網信》刊發(fā)了丁香園創(chuàng)始人、董事長李天天的署名文章《以“負責任創(chuàng)新”探索醫(yī)療人工智能發(fā)展新路徑》。文章提到了丁香園在醫(yī)療人工智能領域秉持“負責任創(chuàng)新”理念，在醫(yī)療AI產品的研發(fā)上以數(shù)據(jù)質量為優(yōu)先，堅持“有錯必糾”，強化風險提示與循證依據(jù)前置，減少低級錯誤發(fā)生的概率，謹慎推進醫(yī)療人工智能的應用實踐。以下為文章全文：

近年來，人工智能技術在醫(yī)療健康領域的應用不斷深化，從醫(yī)學知識檢索、輔助診療到科研支持與健康管理，展現(xiàn)出廣闊前景。與此同時，算法偏差、數(shù)據(jù)質量、責任邊界等問題也逐漸顯現(xiàn)。如何在鼓勵技術創(chuàng)新的同時，有效防范潛在風險，推動人工智能在醫(yī)療健康領域實現(xiàn)風險可控、結論可信、發(fā)展可持續(xù)，成為當前亟須回應的重要課題。在這一背景下，“負責任創(chuàng)新”逐漸成為行業(yè)發(fā)展共識。在醫(yī)療健康等高風險領域，更應堅持審慎原則，將安全性、有效性和合規(guī)性置于優(yōu)先位置。

以數(shù)據(jù)質量為核心的技術路徑選擇

醫(yī)療行業(yè)創(chuàng)新的底線在于確保醫(yī)療質量和患者安全，任何技術路徑都不應偏離循證醫(yī)學證據(jù)（用于支持醫(yī)療決策的科學研究證據(jù)）這一核心原則。這一認知既源于醫(yī)療行業(yè)的長期實踐經驗，也是醫(yī)療人工智能發(fā)展的價值坐標。

基于上述立場，觀瀾網絡（杭州）有限公司（以下簡稱“丁香園”）在探索醫(yī)療人工智能發(fā)展的過程中明確將產品定位為醫(yī)療專業(yè)人員的輔助決策工具提供者，而非臨床決策的替代者。核心目標是在嚴格遵循既有醫(yī)療規(guī)范和高等級循證醫(yī)學證據(jù)的前提下，通過技術手段降低信息獲取成本，減少低級錯誤風險，輔助醫(yī)生更高效地做出符合專業(yè)共識的判斷。

2025年10月，基于專業(yè)醫(yī)療數(shù)據(jù)和權威文獻資料，丁香園上線循證醫(yī)學臨床診療決策輔助工具“臨床決策”，該應用采用原文循證機制，以高質量循證醫(yī)學數(shù)據(jù)為核心，依托人工智能技術實現(xiàn)智能化診療支持。在設計產品時，將重點放在數(shù)據(jù)可靠性、結論可追溯性和風險提示完整性上，力求在實際應用中發(fā)揮“糾錯誤、減風險、補短板”的輔助作用。在探索醫(yī)療人工智能發(fā)展的過程中，將更多資源投入醫(yī)療文本數(shù)據(jù)的系統(tǒng)性建設與治理，通過持續(xù)打磨數(shù)據(jù)來源、數(shù)據(jù)控制質量等，為模型提供更加可靠、可驗證、可追溯的知識基礎，以期從源頭上降低潛在風險。

嚴格的數(shù)據(jù)篩選機制。在數(shù)據(jù)來源上，堅持以權威性和專業(yè)性為優(yōu)先原則，重點選取權威臨床指南、藥品說明書、高等級循證醫(yī)學文獻及長期積累的專業(yè)內容體系，并通過交叉比對和專業(yè)篩選，盡量避免單一文本帶來的偏差性和不確定性。

多層次的數(shù)據(jù)清洗與結構化處理。針對原始醫(yī)學文本中表述不統(tǒng)一、適用條件不清晰等問題，在數(shù)據(jù)進入模型前進行系統(tǒng)化清洗與結構化處理，對關鍵概念、適用人群和風險提示進行明確標注，防范歧義表達引發(fā)的潛在風險。

動態(tài)更新與循證同步機制。圍繞醫(yī)學知識持續(xù)演進特點，建立動態(tài)更新機制，及時跟進權威指南修訂和重要研究成果發(fā)布，補充或修正相關文本，剔除過時知識，避免因知識滯后影響臨床判斷。

同行評議與多輪人工復核流程。針對直接服務臨床決策支持的重要內容，引入同行評議和多輪人工復核流程，重點關注安全邊界、禁忌事項和高風險場景，確保內容符合當前醫(yī)療行業(yè)的專業(yè)共識和質量要求。

審慎應用中的初步實踐與延展探索

丁香園把產品定位為風險約束與認知校驗下的診療輔助決策系統(tǒng)，將風險控制和糾偏能力置于更加優(yōu)先的位置。

一方面，在涉及潛在高風險的臨床問題時，先充分暴露警示風險，再給出相關結論作參考，避免在證據(jù)不足或適用條件復雜的情境下對醫(yī)生形成誤導。引入針對醫(yī)生提問的意圖識別與風險分層機制，對不同類型問題進行差異化處理。重點識別是否涉及明確的高風險診療行為，并結合病情復雜程度、用藥不良反應風險及適用條件的不確定性，對風險提示進行分層配置。

另一方面，在結論呈現(xiàn)上，始終將高等級循證醫(yī)學證據(jù)置于核心位置，通過明確適用條件、證據(jù)來源和不確定性邊界，強化對臨床指南和專業(yè)共識的尊重。對于經識別明確涉及嚴重安全風險且缺乏合理醫(yī)學超范圍適用依據(jù)的問題，設置穩(wěn)定且一致的安全約束機制，明確不輸出可能引發(fā)誤用的結論性建議，并且直接提示相關行為存在顯著風險或不符合規(guī)范要求。

“臨床決策”結合既有醫(yī)學規(guī)范和質量控制經驗，引入多項規(guī)則化約束機制，對藥物禁忌、特殊人群用藥及劑型差異等關鍵節(jié)點進行識別和提示，對明顯存在風險的操作進行前置提醒，幫助醫(yī)生減少在高強度工作環(huán)境下低級錯誤發(fā)生的概率。“臨床決策”上線三個月內，系統(tǒng)處理了超過一百萬條來自認證醫(yī)生的提問。

當前，基層醫(yī)療資源相對有限、基層醫(yī)生水平參差不齊、醫(yī)生在獨立決策時面臨的壓力較為集中，需要通過合規(guī)、可靠的技術工具，輔助基層醫(yī)生提升決策質量、減少系統(tǒng)性風險。在后續(xù)規(guī)劃中，丁香園將結合開展多年的“基層醫(yī)生賦能計劃”，逐步面向基層醫(yī)療機構和醫(yī)生捐贈人工智能產品和服務。2026年計劃向青海、甘肅、新疆、黑龍江等地的基層醫(yī)生和大學生村醫(yī)捐贈“臨床決策”會員服務，助力提升基層診療水平。

未來，丁香園將持續(xù)完善數(shù)據(jù)治理與風險控制機制，審慎穩(wěn)妥推進醫(yī)療人工智能的應用實踐，為醫(yī)療人工智能在規(guī)范框架下的有序發(fā)展和醫(yī)療體系高質量發(fā)展提供可參考的實踐經驗。（鐘新）