侵權(quán)投訴
訂閱
糾錯
加入自媒體

十余個醫(yī)療大模型相繼發(fā)布,專家提示需注意三類風(fēng)險

2023-09-01 14:35
CDSreport
關(guān)注

導(dǎo)讀

大語言模型對文本數(shù)據(jù)的解析能力極大方便了知識庫系統(tǒng)的構(gòu)建,而自然語言檢索和問答則提升了知識庫的應(yīng)用的便利性。‍

自ChatGPT風(fēng)靡全球以來,國內(nèi)各領(lǐng)域也開始積極探索生成式人工智能大語言模型產(chǎn)品的應(yīng)用!吨袊斯ぶ悄艽竽P偷貓D研究報告》顯示,截至5月底國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個,醫(yī)療領(lǐng)域的大模型產(chǎn)品也已發(fā)布十余個,應(yīng)用場景聚焦在輔助問診、輔助決策、健康咨詢、醫(yī)學(xué)智慧影像等。

醫(yī)療大模型在輔助決策方面能夠發(fā)揮哪些作用?其與臨床決策支持系統(tǒng)有哪些區(qū)別?CDSreport結(jié)合了幾位專家的觀點進行剖析。

01

大模型或改變知識庫建設(shè)和應(yīng)用方式

在剛結(jié)束的2023世界人工智能大會上,中國信通院云大所副所長閔棟在健康高峰論壇列舉了醫(yī)療大模型可能的9個應(yīng)用方向,包括輔助決策、治療方案生成和質(zhì)量控制等。

在輔助決策、輔助診斷方面,閔棟認(rèn)為,在傳統(tǒng)臨床決策支持系統(tǒng)(CDSS)的基礎(chǔ)上,大模型的訓(xùn)練數(shù)據(jù)來源更為廣泛,自我進化能力更高效,因而能為CDSS帶來較大幅度的提升。實際工作中,醫(yī)生經(jīng)常需要調(diào)動大量醫(yī)學(xué)知識、記憶大量的患者信息,難免會出現(xiàn)記憶疲勞、身體疲憊等問題。而醫(yī)療大模型的引入可以幫助醫(yī)生記錄信息,大幅減少醫(yī)務(wù)人員工作量,緩解疲勞。同時,大模型還能通過學(xué)習(xí)電子病歷、醫(yī)學(xué)文獻、檢查檢驗結(jié)果等數(shù)據(jù)同醫(yī)生進行語言互動,提升診斷的準(zhǔn)確性及效率。

2023年以來,已有十幾家公司發(fā)布了醫(yī)療大模型產(chǎn)品,應(yīng)用場景多聚焦在輔助問診、健康咨詢、醫(yī)學(xué)智慧影像等。其中,大模型在輔助決策發(fā)揮的作用及對CDSS能力的提升已經(jīng)成為共識。

有研究顯示,通用大模型已經(jīng)能夠在診療過程中發(fā)揮作用。例如,在信息抽取上,可以將大段臨床文本進行結(jié)構(gòu)化;在數(shù)據(jù)清洗層面,可以在一定范圍內(nèi)提供一致性校驗工作。在此基礎(chǔ)上,經(jīng)過特殊訓(xùn)練的醫(yī)療大模型,通過整合多種來源和格式數(shù)據(jù),可以提升醫(yī)療效率與質(zhì)量。

醫(yī)療大模型是如何提升CDSS能力的?華東理工大學(xué)計算機技術(shù)研究所所長、自然語言處理與大數(shù)據(jù)挖掘?qū)嶒炇抑魅稳钔硎,?shù)據(jù)庫的建設(shè)和應(yīng)用提升效果最明顯。

傳統(tǒng)的知識庫構(gòu)建通常采用人工手段,從專業(yè)書籍、臨床指南,醫(yī)學(xué)文獻中抽取知識。這種抽取過程不但需要耗費較大人力,后續(xù)更新過程也比較緩慢。同時,知識圖譜等結(jié)構(gòu)化的數(shù)據(jù)雖然精確,但語義表達能力遠遠弱于自然語言,包括多元關(guān)系、條件關(guān)系,因果關(guān)聯(lián)等知識模式定義。建設(shè)和使用過程需要較高的專業(yè)認(rèn)知能力和業(yè)務(wù)建模能力,而模式的理解和正確性驗證也同樣有雙重門檻。此外,經(jīng)過加工的知識庫,在不同應(yīng)用場景還需要結(jié)合實際情況進行二次加工,進一步局限了使用場景。

以診斷為例,不僅要結(jié)合患者主訴,還要根據(jù)檢驗檢查結(jié)果評估診斷優(yōu)劣。這個過程取決于對疾病判斷的精準(zhǔn)度、檢驗檢查合理性以及信息交互過程方便程度。達到這些目標(biāo),信息系統(tǒng)需通過數(shù)據(jù)抓取和分析來判斷各種疾病的可能性,并且在各信息系統(tǒng)之間以及與醫(yī)務(wù)人員交互之間具備較好的處理能力,針對不同場景還需要獨特的系統(tǒng)設(shè)計和評估方式。

針對這一難點,一些CDSS供應(yīng)商選擇自然語言處理等人工智能技術(shù)來處理海量醫(yī)學(xué)信息,從而實現(xiàn)結(jié)構(gòu)化數(shù)據(jù),建立醫(yī)學(xué)知識庫和臨床規(guī)則庫,并納入臨床真實病歷對知識模型進行持續(xù)訓(xùn)練優(yōu)化,形成不斷更新的循證醫(yī)學(xué)知識庫。

阮彤認(rèn)為,大語言模型對文本數(shù)據(jù)的解析能力極大方便了知識庫系統(tǒng)的構(gòu)建,而自然語言檢索和問答則提升了知識庫的應(yīng)用的便利性。大語言模型體現(xiàn)的推理能力,提供了智能醫(yī)學(xué)診斷和治療方案推薦的可能性。例如,可以通過ChatGPT的開源框架langchain的一系列工具,以及Zero-Shot抽取能力,將原始文本數(shù)據(jù)抽取成為合適的形式。而對于臨床決策類的知識庫應(yīng)用,可綜合患者數(shù)據(jù)通過大模型進行解析,在知識庫上進行推理。

02‍

醫(yī)療大模型不能“胡說”,部署可及性需要考慮

ChatGPT問世后,其語言交互能力令人驚嘆,但“一本正經(jīng)胡說”的情況也時有發(fā)生。在醫(yī)療領(lǐng)域,這類可能會誤導(dǎo)診斷,甚至威脅到患者的生命健康。醫(yī)療行業(yè)的專業(yè)性與嚴(yán)肅性,對大模型的精準(zhǔn)度提出了極端的高要求。

日前,北京市衛(wèi)生健康委發(fā)布《北京市互聯(lián)網(wǎng)診療監(jiān)管實施辦法(試行)》便提出,嚴(yán)禁使用人工智能等自動生成處方,嚴(yán)禁在處方開具前向患者提供藥品。此舉意在規(guī)范互聯(lián)網(wǎng)診療活動,亦是在降低大模型等人工智能技術(shù)可能帶來的風(fēng)險。

對于大模型在醫(yī)療領(lǐng)域應(yīng)用的風(fēng)險,閔棟總結(jié)了3方面風(fēng)險:算法的局限性可能導(dǎo)致內(nèi)容失真,生成內(nèi)容可能出現(xiàn)錯誤;醫(yī)療數(shù)據(jù)質(zhì)量不足,可能導(dǎo)致訓(xùn)練存在安全和隱私泄露風(fēng)險;算力不足可能導(dǎo)致成本較高。

惠每科技CTO王實曾表示,對于醫(yī)療行業(yè)的企業(yè),數(shù)據(jù)是他們獨有的優(yōu)勢。這些數(shù)據(jù)一方面為半公開數(shù)據(jù),包括收集了大量的醫(yī)學(xué)文獻的醫(yī)學(xué)知識庫、知識圖譜等;另一方面是非公開數(shù)據(jù),包括臨床脫敏數(shù)據(jù)、電子病歷、檢測檢驗報告和RLHF臨床醫(yī)生反饋數(shù)據(jù)。通過使用這些數(shù)據(jù)訓(xùn)練大模型,能夠形成有別于通用基座大模型的專業(yè)能力。

同時,由于使用場景為醫(yī)療機構(gòu),為保證數(shù)據(jù)安全和患者隱私,大模型或需要在本地部署。阮彤指出,醫(yī)療行業(yè)對患者隱私保護和數(shù)據(jù)安全的要求較高,滿足醫(yī)療機構(gòu)本地環(huán)境部署要求也是大模型落地的重要考量因素。考慮到醫(yī)院實際部署環(huán)境,動輒上千億參數(shù)的通用大模型難以在院內(nèi)施展拳腳,這就要求醫(yī)療大模型不能無限“大”,而要盡可能考慮部署可及性。同時,由于醫(yī)療數(shù)據(jù)不可能外接到ChatGPT或其他外部運營的大模型上,這就意味著醫(yī)療機構(gòu)可控的、較為廉價的模型或是最佳選擇。

資料來源:[1]阮彤:ChatGPT等大語言模型對醫(yī)療信息系統(tǒng)的影響與提升——大語言模型在醫(yī)療行業(yè)應(yīng)用系列,中國醫(yī)院協(xié)會信息專業(yè)委員會‍‍[2]醫(yī)療大模型:轉(zhuǎn)瞬即逝的曇花還是跨時代的變革,動脈網(wǎng)[3]大模型在臨床輔助診療場景下的問題與探討,CDSreport

【責(zé)任編輯:王惠】

       原文標(biāo)題 : 十余個醫(yī)療大模型相繼發(fā)布,專家提示需注意三類風(fēng)險

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

醫(yī)療科技 獵頭職位 更多
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號