訂閱
糾錯(cuò)
加入自媒體

DeepMind聲稱,經(jīng)過扭曲式訓(xùn)練的預(yù)測(cè)性醫(yī)療人工智能取得了“突破”

2019-08-02 10:11
AI銳見
關(guān)注

DeepMind聲稱,經(jīng)過扭曲式訓(xùn)練的預(yù)測(cè)性醫(yī)療人工智能取得了“突破”

谷歌(google)旗下的英國(guó)人工智能研究公司DeepMind在《自然》(Nature)雜志上發(fā)表了一篇研究報(bào)告,其中討論了一種深度學(xué)習(xí)模型的性能,該模型可以持續(xù)預(yù)測(cè)患者未來(lái)罹患一種名為急性腎損傷(AKI)的危及生命的疾病的可能性。

該公司表示,其模型能夠準(zhǔn)確預(yù)測(cè)患者將在48小時(shí)前“在臨床可操作的窗口內(nèi)”發(fā)展成AKI。

DeepMind在一篇鼓吹該研究的博客文章中稱,這是一項(xiàng)突破——該論文表明,人工智能能夠在“可避免的患者傷害的主要原因之一”發(fā)生前兩天預(yù)測(cè)出它。

“這是我們團(tuán)隊(duì)迄今為止在醫(yī)療保健研究方面取得的最大突破,”報(bào)告補(bǔ)充道,“證明了我們不僅能夠更有效地發(fā)現(xiàn)病情惡化,而且能夠在惡化發(fā)生之前就做出預(yù)測(cè)。”

不過,即便是表面上看一下這份報(bào)紙,也會(huì)提出一些主要的警告。

尤其重要的是,用于訓(xùn)練模型的數(shù)據(jù)絕大多數(shù)是男性:93.6%。這是因?yàn)镈eepMind的人工智能使用的是美國(guó)退伍軍人事務(wù)部(VA)提供的病人數(shù)據(jù)。

研究報(bào)告指出,在培訓(xùn)數(shù)據(jù)集中,女性僅占患者的6.38%。

本文還納入了數(shù)據(jù)集統(tǒng)計(jì)的匯總,顯示18.9%的患者為黑人,雖然黑人女性在培訓(xùn)數(shù)據(jù)集中所占比例沒有突破(邏輯上認(rèn)為可能低于6.38%)。沒有其他種族被打破。

當(dāng)被問及該模型的跨性別和不同種族的表現(xiàn)能力時(shí),DeepMind的一位女發(fā)言人告訴我們:“在女性中,它預(yù)測(cè)在所有已知性別的AKI患者中,早期有44.8%(男性56%)患有AKI。”非裔美國(guó)患者的模型表現(xiàn)更高——早期檢測(cè)到的AKIs中有60.4%是非洲裔美國(guó)人,而其他所有種族的總檢出率為54.1%!

“這項(xiàng)研究只是第一步,”她證實(shí)。“要使該模型適用于一般人群,還需要進(jìn)行進(jìn)一步的研究,在模型所依據(jù)的數(shù)據(jù)中使用更有代表性的一般人群樣本。”

數(shù)據(jù)集代表退伍軍人管理局的人口,我們承認(rèn)這個(gè)樣本不能代表美國(guó)人口。就像所有的深度學(xué)習(xí)模型一樣,在更廣泛地使用之前,它還需要來(lái)自其他來(lái)源的代表性數(shù)據(jù)。

“我們的下一步將是與(退伍軍人管理局)密切合作,通過回顧性和前瞻性觀察研究安全地驗(yàn)證該模型,然后有希望探索我們?nèi)绾芜M(jìn)行前瞻性干預(yù)研究,以了解預(yù)測(cè)如何在臨床環(huán)境中影響護(hù)理結(jié)果!

“要做這類工作,我們需要正確的數(shù)據(jù),”她補(bǔ)充說!巴宋檐娙斯芾砭衷谄渌嗅t(yī)院和站點(diǎn)使用相同的電子病歷系統(tǒng)(被廣泛認(rèn)為是最全面的電子病歷之一),這意味著數(shù)據(jù)集也非常全面、干凈、結(jié)構(gòu)良好。”

因此,DeepMind的“突破性”研究論文明確強(qiáng)調(diào)的是人工智能輸出與訓(xùn)練輸入之間的反射關(guān)系。

在醫(yī)療保健的環(huán)境中,有指導(dǎo)意義的輸出可能是生與死的區(qū)別,而不是技術(shù)才是王道;關(guān)鍵是對(duì)代表性數(shù)據(jù)集的訪問——這才是真正的價(jià)值所在。

這表明,擁有納稅人資助的公共醫(yī)療系統(tǒng)的國(guó)家,有巨大的機(jī)會(huì)構(gòu)建并釋放其掌握的民眾醫(yī)療數(shù)據(jù)所包含的價(jià)值,從而開發(fā)自己的公共醫(yī)療人工智能。

事實(shí)上,這是英國(guó)2017年產(chǎn)業(yè)戰(zhàn)略評(píng)估的建議之一的生命科學(xué)部門。

領(lǐng)導(dǎo)這項(xiàng)研究的牛津大學(xué)的約翰·貝爾爵士在給《衛(wèi)報(bào)》的評(píng)論中總結(jié)道:“大部分價(jià)值在于數(shù)據(jù)。我們能做的最糟糕的事就是免費(fèi)送人!

Streams app評(píng)估

DeepMind也一直在研究英國(guó)的醫(yī)療數(shù)據(jù)。

自2015年以來(lái),減少臨床醫(yī)生識(shí)別患者發(fā)生AKI的時(shí)間一直是一個(gè)應(yīng)用程序開發(fā)項(xiàng)目的重點(diǎn),該項(xiàng)目與英國(guó)國(guó)民健康服務(wù)(NHS)的醫(yī)生合作開發(fā)一款警報(bào)和臨床任務(wù)管理應(yīng)用程序。

這款名為Streams的應(yīng)用程序利用NHS的算法檢測(cè)AKI,已經(jīng)在NHS的幾家醫(yī)院部署。同樣在今天,DeepMind及其應(yīng)用程序開發(fā)合作伙伴NHS trust發(fā)布了一份由倫敦大學(xué)學(xué)院(University College London)牽頭的流媒體績(jī)效評(píng)估報(bào)告。

該評(píng)估結(jié)果發(fā)表在《自然數(shù)字醫(yī)學(xué)》和《醫(yī)學(xué)互聯(lián)網(wǎng)研究雜志》兩篇論文中。

在其博客DeepMind索賠評(píng)估顯示,應(yīng)用“改善了病人的護(hù)理質(zhì)量加快檢測(cè)和防止遺漏病例”,進(jìn)一步要求臨床醫(yī)生”能夠應(yīng)對(duì)緊急阿基病例14分鐘或更少”,這表明使用現(xiàn)有系統(tǒng)“可能已經(jīng)幾個(gè)小時(shí)”。

該機(jī)構(gòu)還聲稱,NHS的醫(yī)療費(fèi)用將從11772英鎊降至9761英鎊,為AKI患者提供住院治療。

盡管值得強(qiáng)調(diào)的是,根據(jù)目前與NHS信托公司簽訂的合同,DeepMind免費(fèi)提供Streams服務(wù)。因此,任何降低成本的索賠都伴隨著一些主要的警告。

簡(jiǎn)而言之:我們不知道數(shù)據(jù)驅(qū)動(dòng)、數(shù)字化提供的醫(yī)療服務(wù)未來(lái)的成本——因?yàn)闃I(yè)務(wù)模型還沒有定義。(盡管DeepMind此前曾提出,定價(jià)可以基于臨床結(jié)果。)

DeepMind還在談到Streams時(shí)寫道:“根據(jù)評(píng)估結(jié)果,該應(yīng)用程序改善了負(fù)責(zé)治療AKI的臨床醫(yī)生的體驗(yàn),為他們節(jié)省了原本要花在瀏覽紙張、尋呼機(jī)提醒和多個(gè)桌面系統(tǒng)上的時(shí)間!

然而,討論中包含評(píng)價(jià)論文包含更警告比DeepMind的公關(guān),萎靡不振的一大串計(jì)數(shù)器考慮,如培訓(xùn)成本和信息過載的風(fēng)險(xiǎn)(和over-alerting)使它更加難以分類和管理保健需求,以及認(rèn)為需要更多的研究來(lái)確定應(yīng)用程序使用的更廣泛的臨床影響。

以下是其中一篇論文的結(jié)論,該論文的題目是《二次護(hù)理中數(shù)字化護(hù)理途徑的用戶體驗(yàn)的定性評(píng)估》:

數(shù)字技術(shù)使早期發(fā)現(xiàn)不良事件和有惡化危險(xiǎn)的患者成為可能,并有可能改善結(jié)果。它們還可能提高衛(wèi)生保健專業(yè)人員的工作效率。然而,在規(guī)劃和實(shí)施衛(wèi)生保健領(lǐng)域的數(shù)字信息創(chuàng)新時(shí),還應(yīng)考慮以下因素:提供臨床培訓(xùn)以有效管理早期檢測(cè),提供資源以應(yīng)付額外的工作量,支持管理感知到的信息過載,優(yōu)化算法以盡量減少不必要的警報(bào)。

第二篇研究Streams對(duì)臨床結(jié)果和相關(guān)醫(yī)療成本的影響的論文得出的結(jié)論是,“數(shù)字化的臨床干預(yù)手段能夠檢測(cè)和治療住院患者的AKI,從而降低了醫(yī)療成本,并可能降低了心臟驟停率”。

“它對(duì)其他臨床結(jié)果的影響,以及對(duì)該通路活性成分的識(shí)別,需要通過跨多個(gè)位點(diǎn)的評(píng)估來(lái)澄清,”它補(bǔ)充說。

需要說明的是,目前用于管理AKI警報(bào)的Streams應(yīng)用程序不包括人工智能作為預(yù)測(cè)工具。今天發(fā)布的評(píng)估報(bào)告是關(guān)于臨床醫(yī)生使用該應(yīng)用程序作為任務(wù)管理和推送由NHS算法驅(qū)動(dòng)的通知式警報(bào)的工具。

但Streams應(yīng)用程序是DeepMind及其母公司谷歌希望用來(lái)將人工智能診斷和預(yù)測(cè)應(yīng)用到醫(yī)院病房的工具。

因此,DeepMind也與美國(guó)的數(shù)據(jù)集合作,試圖為AKI開發(fā)一個(gè)預(yù)測(cè)人工智能模型。(在意識(shí)到需要獲得英國(guó)監(jiān)管機(jī)構(gòu)的額外批準(zhǔn)后,該公司放棄了早期嘗試,即使用流患者數(shù)據(jù)訓(xùn)練人工智能。)

現(xiàn)在每個(gè)醫(yī)生都有一部智能手機(jī)。因此,應(yīng)用程序顯然是轉(zhuǎn)換在紙面尋呼機(jī)上運(yùn)行時(shí)間超過谷歌存在時(shí)間的服務(wù)的阻力最小的途徑。

DeepMind與倫敦皇家自由NHS信托(Royal Free NHS Trust)合作開發(fā)應(yīng)用的更廣泛意圖,在早期就已表明——建立“強(qiáng)大的通用學(xué)習(xí)算法”,這一雄心在兩家公司之間的諒解備忘錄中得到了表達(dá)。

我們?cè)?016年和2017年對(duì)這一丑聞進(jìn)行了廣泛報(bào)道,丑聞的背景是,大約160萬(wàn)皇家免費(fèi)NHS信托(Royal Free NHS Trust)患者的醫(yī)療記錄在Streams的開發(fā)階段被悄悄轉(zhuǎn)交給了DeepMind。后來(lái)證明,沒有數(shù)據(jù)共享的有效法律基礎(chǔ)。

谷歌并未要求患者同意將敏感的醫(yī)療數(shù)據(jù)與谷歌共享。監(jiān)管機(jī)構(gòu)得出的結(jié)論是,他們不會(huì)對(duì)自己的醫(yī)療數(shù)據(jù)最終落在那里有合理的預(yù)期。

信托公司受命審計(jì)該項(xiàng)目——盡管最初引發(fā)爭(zhēng)議的最初數(shù)據(jù)共享安排并非如此。該公司沒有被命令刪除DeepMind對(duì)數(shù)據(jù)的訪問權(quán)限。

在app評(píng)估階段,NHS的數(shù)據(jù)通過流的患者也沒有要求他們同意參與倫敦大學(xué)學(xué)院/DeepMind/Royal Free研究;評(píng)估文件中關(guān)于“道德認(rèn)可”的一份說明指出,倫敦大學(xué)學(xué)院認(rèn)為它屬于服務(wù)評(píng)估(而非研究)的范疇,因此“不需要參與者同意”。

至少可以說,這是對(duì)流附加的基本同意失敗的不幸回應(yīng)。

盡管如此,Royal Free和DeepMind仍在繼續(xù)推進(jìn)他們的數(shù)據(jù)共享應(yīng)用合作。事實(shí)上,DeepMind正在加速前進(jìn),努力超越NHS的AKI算法。

皇家自由倫敦的首席醫(yī)療官兼副首席執(zhí)行官克里斯·斯特里瑟(Chris Streather)博士在DeepMind公關(guān)發(fā)表的一份聲明中熱情洋溢地表示:“Streams評(píng)估的結(jié)果令人鼓舞,我們很高興與DeepMind Health的合作改善了患者的治療效果。

“數(shù)字技術(shù)是NHS前進(jìn)的方向。就像我們可以通過移動(dòng)設(shè)備接收交通和天氣警報(bào)一樣,醫(yī)生和護(hù)士也應(yīng)該受益于能夠直接將可能拯救生命的信息送到他們手中的工具。

“在未來(lái)的幾個(gè)月里,我們將向Barnet醫(yī)院的臨床醫(yī)生介紹這款應(yīng)用,并探索開發(fā)其他危及生命的疾。ㄈ鐢⊙Y)的解決方案的可能性!

對(duì)NHS數(shù)據(jù)的爭(zhēng)奪

不過,谷歌- deepmind流媒體計(jì)劃的下一階段可能會(huì)遇到更大的阻礙。

去年,DeepMind宣布將把這款應(yīng)用程序轉(zhuǎn)交給母公司,作為谷歌自身數(shù)字健康推廣的一部分。因此,這與DeepMind自己的說法相矛盾。該公司曾表示,谷歌不會(huì)獲得人們的醫(yī)療記錄。

更像是:“在谷歌擁有所有數(shù)據(jù)和IP之前沒有訪問權(quán)限”,然后……

正如我們當(dāng)時(shí)所說,這是一場(chǎng)信任危機(jī)。

從那以后,從DeepMind到谷歌的Streams應(yīng)用程序似乎一直處于暫停狀態(tài)。

去年,皇家自由信托表示,沒有它的批準(zhǔn),這是不可能發(fā)生的。

當(dāng)被問及是否會(huì)與谷歌簽訂新的流媒體合同時(shí),一位發(fā)言人告訴我們:“目前,皇家自由倫敦與DeepMind的合同沒有變化。與所有與供應(yīng)商的合同協(xié)議一樣,任何變更或未來(lái)的合同都將遵循信息治理和數(shù)據(jù)保護(hù)法規(guī)。信托公司將繼續(xù)在任何時(shí)候擔(dān)任數(shù)據(jù)控制器,這意味著它將負(fù)責(zé)所有病人的信息。”

該信托基金拒絕回答其他問題,包括是否打算在NHS醫(yī)院部署一個(gè)包含預(yù)測(cè)人工智能模型的流版本;以及患者是否可以選擇退出他們的數(shù)據(jù)與谷歌共享。

目前還不清楚它的計(jì)劃是什么。盡管DeepMind和谷歌顯然是要讓Streams成為預(yù)測(cè)人工智能進(jìn)入NHS病房的管道。它的博客積極推動(dòng)向流媒體添加人工智能。

為了炒作前者,甚至不惜貶低后者。DeepMind Health的銷售說辭正在從“你需要這個(gè)應(yīng)用程序”演變?yōu)椤澳阈枰@個(gè)人工智能”……接著是“給我們你的數(shù)據(jù)”。

“至關(guān)重要的是,皇家自由的這些早期發(fā)現(xiàn)表明,為了進(jìn)一步改善患者的預(yù)后,臨床醫(yī)生需要能夠在當(dāng)前的NHS算法檢測(cè)到AKI之前進(jìn)行干預(yù)——這就是為什么我們對(duì)AKI的研究如此有前景,”它寫道。“這些結(jié)果構(gòu)成了我們預(yù)防性醫(yī)療長(zhǎng)期愿景的基石,幫助醫(yī)生以積極而非被動(dòng)的方式進(jìn)行干預(yù)。

“目前Streams還沒有使用人工智能,但該團(tuán)隊(duì)現(xiàn)在打算尋找將預(yù)測(cè)人工智能模型安全集成到Streams中的方法,以便為臨床醫(yī)生提供對(duì)患者病情惡化的智能洞察。”

在其博客DeepMind也重申的溪流將并入谷歌-寫:“我們?cè)?018年11月宣布,溪流團(tuán)隊(duì),和同事在轉(zhuǎn)化研究醫(yī)療工作,將加入谷歌為了在全球范圍內(nèi)產(chǎn)生積極的影響!

“合并后的經(jīng)驗(yàn),基礎(chǔ)設(shè)施和專業(yè)知識(shí)DeepMind衛(wèi)生團(tuán)隊(duì)與谷歌將幫助我們繼續(xù)開發(fā)移動(dòng)工具,可以支持更多的臨床醫(yī)生,解決關(guān)鍵的患者安全問題,可能,我們希望,全球拯救成千上萬(wàn)的生命,”它補(bǔ)充說,結(jié)束其慣常的“希望”,其技術(shù)將拯救生命——但仍沒有任何硬數(shù)據(jù)來(lái)證明所有的大聲稱,它使得AI-powered預(yù)測(cè)醫(yī)療的潛力。

正如我們之前說過的,它的預(yù)測(cè)人工智能提供任何有價(jià)值的谷歌真的需要訪問NHS持有的數(shù)據(jù)。因此,公共關(guān)系受到了大力推動(dòng)。對(duì)NHS數(shù)據(jù)的認(rèn)同壓倒一切。

在回應(yīng)DeepMind的消息時(shí),健康數(shù)據(jù)隱私保護(hù)組織medConfidential的協(xié)調(diào)員薩姆?史密斯(Sam Smith)告訴我們:“機(jī)會(huì)主義者利用醫(yī)生利用病人來(lái)增進(jìn)自身利益的歷史,只要是骯臟的就行。有些傳奇故事流傳多年。谷歌利用他們?cè)趪?guó)際上的影響力,利用美國(guó)軍方的數(shù)據(jù),他們說他們將在英國(guó)做什么他們誤導(dǎo)了英國(guó)監(jiān)管機(jī)構(gòu),違反了英國(guó)法律。”

該組織在一篇博客中補(bǔ)充道:“最近幾周,谷歌和YouTube、Facebook和Instagram等科技公司承受著越來(lái)越大的壓力,要求它們接受對(duì)用戶負(fù)有照顧義務(wù)。谷歌DeepMind能否說明,它與Royal Free的合作項(xiàng)目如何尊重每一個(gè)NHS機(jī)構(gòu)對(duì)患者的信任義務(wù)?他們所使用的退伍軍人事務(wù)部患者數(shù)據(jù)與RFH所見患者的特征如何對(duì)應(yīng)?

“谷歌DeepMind接受了160萬(wàn)名患者的RFH數(shù)據(jù)——長(zhǎng)達(dá)10年的醫(yī)院治療。我們希望它的新聞稿能確認(rèn)這160萬(wàn)人中有多少人的數(shù)據(jù)在應(yīng)用程序中顯示,以及他們是否與美國(guó)軍方的數(shù)據(jù)一起被用于測(cè)試!

聲明: 本文由入駐維科號(hào)的作者撰寫,觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號(hào)
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯(cuò)
x
*文字標(biāo)題:
*糾錯(cuò)內(nèi)容:
聯(lián)系郵箱:
*驗(yàn) 證 碼:

粵公網(wǎng)安備 44030502002758號(hào)