谷歌（google）旗下的英國(guó)人工智能研究公司DeepMind在《自然》（Nature）雜志上發(fā)表了一篇研究報(bào)告，其中討論了一種深度學(xué)習(xí)模型的性能，該模型可以持續(xù)預(yù)測(cè)患者未來(lái)罹患一種名為急性腎損傷（AKI）的危及生命的疾病的可能性。

該公司表示，其模型能夠準(zhǔn)確預(yù)測(cè)患者將在48小時(shí)前“在臨床可操作的窗口內(nèi)”發(fā)展成AKI。

DeepMind在一篇鼓吹該研究的博客文章中稱，這是一項(xiàng)突破——該論文表明，人工智能能夠在“可避免的患者傷害的主要原因之一”發(fā)生前兩天預(yù)測(cè)出它。

“這是我們團(tuán)隊(duì)迄今為止在醫(yī)療保健研究方面取得的最大突破，”報(bào)告補(bǔ)充道，“證明了我們不僅能夠更有效地發(fā)現(xiàn)病情惡化，而且能夠在惡化發(fā)生之前就做出預(yù)測(cè)。”

不過，即便是表面上看一下這份報(bào)紙，也會(huì)提出一些主要的警告。

尤其重要的是，用于訓(xùn)練模型的數(shù)據(jù)絕大多數(shù)是男性：93．6％。這是因?yàn)镈eepMind的人工智能使用的是美國(guó)退伍軍人事務(wù)部（VA）提供的病人數(shù)據(jù)。

研究報(bào)告指出，在培訓(xùn)數(shù)據(jù)集中，女性僅占患者的6．38％。

本文還納入了數(shù)據(jù)集統(tǒng)計(jì)的匯總，顯示18．9％的患者為黑人，雖然黑人女性在培訓(xùn)數(shù)據(jù)集中所占比例沒有突破（邏輯上認(rèn)為可能低于6．38％）。沒有其他種族被打破。

當(dāng)被問及該模型的跨性別和不同種族的表現(xiàn)能力時(shí)，DeepMind的一位女發(fā)言人告訴我們：“在女性中，它預(yù)測(cè)在所有已知性別的AKI患者中，早期有44．8％（男性56％）患有AKI。”非裔美國(guó)患者的模型表現(xiàn)更高——早期檢測(cè)到的AKIs中有60．4％是非洲裔美國(guó)人，而其他所有種族的總檢出率為54．1％�！�

“這項(xiàng)研究只是第一步，”她證實(shí)。“要使該模型適用于一般人群，還需要進(jìn)行進(jìn)一步的研究，在模型所依據(jù)的數(shù)據(jù)中使用更有代表性的一般人群樣本。”

數(shù)據(jù)集代表退伍軍人管理局的人口，我們承認(rèn)這個(gè)樣本不能代表美國(guó)人口。就像所有的深度學(xué)習(xí)模型一樣，在更廣泛地使用之前，它還需要來(lái)自其他來(lái)源的代表性數(shù)據(jù)。

“我們的下一步將是與（退伍軍人管理局）密切合作，通過回顧性和前瞻性觀察研究安全地驗(yàn)證該模型，然后有希望探索我們?nèi)绾芜M(jìn)行前瞻性干預(yù)研究，以了解預(yù)測(cè)如何在臨床環(huán)境中影響護(hù)理結(jié)果�！�

“要做這類工作，我們需要正確的數(shù)據(jù)，”她補(bǔ)充說�！巴宋檐娙斯芾砭衷谄渌�有醫(yī)院和站點(diǎn)使用相同的電子病歷系統(tǒng)（被廣泛認(rèn)為是最全面的電子病歷之一），這意味著數(shù)據(jù)集也非常全面、干凈、結(jié)構(gòu)良好。”

因此，DeepMind的“突破性”研究論文明確強(qiáng)調(diào)的是人工智能輸出與訓(xùn)練輸入之間的反射關(guān)系。

在醫(yī)療保健的環(huán)境中，有指導(dǎo)意義的輸出可能是生與死的區(qū)別，而不是技術(shù)才是王道；關(guān)鍵是對(duì)代表性數(shù)據(jù)集的訪問——這才是真正的價(jià)值所在。

這表明，擁有納稅人資助的公共醫(yī)療系統(tǒng)的國(guó)家，有巨大的機(jī)會(huì)構(gòu)建并釋放其掌握的民眾醫(yī)療數(shù)據(jù)所包含的價(jià)值，從而開發(fā)自己的公共醫(yī)療人工智能。

事實(shí)上，這是英國(guó)2017年產(chǎn)業(yè)戰(zhàn)略評(píng)估的建議之一的生命科學(xué)部門。

領(lǐng)導(dǎo)這項(xiàng)研究的牛津大學(xué)的約翰·貝爾爵士在給《衛(wèi)報(bào)》的評(píng)論中總結(jié)道：“大部分價(jià)值在于數(shù)據(jù)。我們能做的最糟糕的事就是免費(fèi)送人�！�

Streams app評(píng)估

DeepMind也一直在研究英國(guó)的醫(yī)療數(shù)據(jù)。

自2015年以來(lái)，減少臨床醫(yī)生識(shí)別患者發(fā)生AKI的時(shí)間一直是一個(gè)應(yīng)用程序開發(fā)項(xiàng)目的重點(diǎn)，該項(xiàng)目與英國(guó)國(guó)民健康服務(wù)（NHS）的醫(yī)生合作開發(fā)一款警報(bào)和臨床任務(wù)管理應(yīng)用程序。

這款名為Streams的應(yīng)用程序利用NHS的算法檢測(cè)AKI，已經(jīng)在NHS的幾家醫(yī)院部署。同樣在今天，DeepMind及其應(yīng)用程序開發(fā)合作伙伴NHS trust發(fā)布了一份由倫敦大學(xué)學(xué)院（University College London）牽頭的流媒體績(jī)效評(píng)估報(bào)告。

該評(píng)估結(jié)果發(fā)表在《自然數(shù)字醫(yī)學(xué)》和《醫(yī)學(xué)互聯(lián)網(wǎng)研究雜志》兩篇論文中。

在其博客DeepMind索賠評(píng)估顯示，應(yīng)用“改善了病人的護(hù)理質(zhì)量加快檢測(cè)和防止遺漏病例”，進(jìn)一步要求臨床醫(yī)生”能夠應(yīng)對(duì)緊急阿基病例14分鐘或更少”，這表明使用現(xiàn)有系統(tǒng)“可能已經(jīng)幾個(gè)小時(shí)”。

該機(jī)構(gòu)還聲稱，NHS的醫(yī)療費(fèi)用將從11772英鎊降至9761英鎊，為AKI患者提供住院治療。

盡管值得強(qiáng)調(diào)的是，根據(jù)目前與NHS信托公司簽訂的合同，DeepMind免費(fèi)提供Streams服務(wù)。因此，任何降低成本的索賠都伴隨著一些主要的警告。

簡(jiǎn)而言之：我們不知道數(shù)據(jù)驅(qū)動(dòng)、數(shù)字化提供的醫(yī)療服務(wù)未來(lái)的成本——因?yàn)闃I(yè)務(wù)模型還沒有定義。（盡管DeepMind此前曾提出，定價(jià)可以基于臨床結(jié)果。）

DeepMind還在談到Streams時(shí)寫道：“根據(jù)評(píng)估結(jié)果，該應(yīng)用程序改善了負(fù)責(zé)治療AKI的臨床醫(yī)生的體驗(yàn)，為他們節(jié)省了原本要花在瀏覽紙張、尋呼機(jī)提醒和多個(gè)桌面系統(tǒng)上的時(shí)間�！�

然而，討論中包含評(píng)價(jià)論文包含更警告比DeepMind的公關(guān)，萎靡不振的一大串計(jì)數(shù)器考慮，如培訓(xùn)成本和信息過載的風(fēng)險(xiǎn)（和over－alerting）使它更加難以分類和管理保健需求，以及認(rèn)為需要更多的研究來(lái)確定應(yīng)用程序使用的更廣泛的臨床影響。

以下是其中一篇論文的結(jié)論，該論文的題目是《二次護(hù)理中數(shù)字化護(hù)理途徑的用戶體驗(yàn)的定性評(píng)估》：

數(shù)字技術(shù)使早期發(fā)現(xiàn)不良事件和有惡化危險(xiǎn)的患者成為可能，并有可能改善結(jié)果。它們還可能提高衛(wèi)生保健專業(yè)人員的工作效率。然而，在規(guī)劃和實(shí)施衛(wèi)生保健領(lǐng)域的數(shù)字信息創(chuàng)新時(shí)，還應(yīng)考慮以下因素：提供臨床培訓(xùn)以有效管理早期檢測(cè)，提供資源以應(yīng)付額外的工作量，支持管理感知到的信息過載，優(yōu)化算法以盡量減少不必要的警報(bào)。

第二篇研究Streams對(duì)臨床結(jié)果和相關(guān)醫(yī)療成本的影響的論文得出的結(jié)論是，“數(shù)字化的臨床干預(yù)手段能夠檢測(cè)和治療住院患者的AKI，從而降低了醫(yī)療成本，并可能降低了心臟驟停率”。

“它對(duì)其他臨床結(jié)果的影響，以及對(duì)該通路活性成分的識(shí)別，需要通過跨多個(gè)位點(diǎn)的評(píng)估來(lái)澄清，”它補(bǔ)充說。

需要說明的是，目前用于管理AKI警報(bào)的Streams應(yīng)用程序不包括人工智能作為預(yù)測(cè)工具。今天發(fā)布的評(píng)估報(bào)告是關(guān)于臨床醫(yī)生使用該應(yīng)用程序作為任務(wù)管理和推送由NHS算法驅(qū)動(dòng)的通知式警報(bào)的工具。

但Streams應(yīng)用程序是DeepMind及其母公司谷歌希望用來(lái)將人工智能診斷和預(yù)測(cè)應(yīng)用到醫(yī)院病房的工具。

因此，DeepMind也與美國(guó)的數(shù)據(jù)集合作，試圖為AKI開發(fā)一個(gè)預(yù)測(cè)人工智能模型。（在意識(shí)到需要獲得英國(guó)監(jiān)管機(jī)構(gòu)的額外批準(zhǔn)后，該公司放棄了早期嘗試，即使用流患者數(shù)據(jù)訓(xùn)練人工智能。）

現(xiàn)在每個(gè)醫(yī)生都有一部智能手機(jī)。因此，應(yīng)用程序顯然是轉(zhuǎn)換在紙面尋呼機(jī)上運(yùn)行時(shí)間超過谷歌存在時(shí)間的服務(wù)的阻力最小的途徑。

DeepMind與倫敦皇家自由NHS信托（Royal Free NHS Trust）合作開發(fā)應(yīng)用的更廣泛意圖，在早期就已表明——建立“強(qiáng)大的通用學(xué)習(xí)算法”，這一雄心在兩家公司之間的諒解備忘錄中得到了表達(dá)。

我們?cè)?016年和2017年對(duì)這一丑聞進(jìn)行了廣泛報(bào)道，丑聞的背景是，大約160萬(wàn)皇家免費(fèi)NHS信托（Royal Free NHS Trust）患者的醫(yī)療記錄在Streams的開發(fā)階段被悄悄轉(zhuǎn)交給了DeepMind。后來(lái)證明，沒有數(shù)據(jù)共享的有效法律基礎(chǔ)。

谷歌并未要求患者同意將敏感的醫(yī)療數(shù)據(jù)與谷歌共享。監(jiān)管機(jī)構(gòu)得出的結(jié)論是，他們不會(huì)對(duì)自己的醫(yī)療數(shù)據(jù)最終落在那里有合理的預(yù)期。

信托公司受命審計(jì)該項(xiàng)目——盡管最初引發(fā)爭(zhēng)議的最初數(shù)據(jù)共享安排并非如此。該公司沒有被命令刪除DeepMind對(duì)數(shù)據(jù)的訪問權(quán)限。

在app評(píng)估階段，NHS的數(shù)據(jù)通過流的患者也沒有要求他們同意參與倫敦大學(xué)學(xué)院／DeepMind／Royal Free研究；評(píng)估文件中關(guān)于“道德認(rèn)可”的一份說明指出，倫敦大學(xué)學(xué)院認(rèn)為它屬于服務(wù)評(píng)估（而非研究）的范疇，因此“不需要參與者同意”。

至少可以說，這是對(duì)流附加的基本同意失敗的不幸回應(yīng)。

盡管如此，Royal Free和DeepMind仍在繼續(xù)推進(jìn)他們的數(shù)據(jù)共享應(yīng)用合作。事實(shí)上，DeepMind正在加速前進(jìn)，努力超越NHS的AKI算法。

皇家自由倫敦的首席醫(yī)療官兼副首席執(zhí)行官克里斯·斯特里瑟（Chris Streather）博士在DeepMind公關(guān)發(fā)表的一份聲明中熱情洋溢地表示：“Streams評(píng)估的結(jié)果令人鼓舞，我們很高興與DeepMind Health的合作改善了患者的治療效果。

“數(shù)字技術(shù)是NHS前進(jìn)的方向。就像我們可以通過移動(dòng)設(shè)備接收交通和天氣警報(bào)一樣，醫(yī)生和護(hù)士也應(yīng)該受益于能夠直接將可能拯救生命的信息送到他們手中的工具。

“在未來(lái)的幾個(gè)月里，我們將向Barnet醫(yī)院的臨床醫(yī)生介紹這款應(yīng)用，并探索開發(fā)其他危及生命的疾�。ㄈ鐢⊙�癥）的解決方案的可能性�！�

對(duì)NHS數(shù)據(jù)的爭(zhēng)奪

不過，谷歌－ deepmind流媒體計(jì)劃的下一階段可能會(huì)遇到更大的阻礙。

去年，DeepMind宣布將把這款應(yīng)用程序轉(zhuǎn)交給母公司，作為谷歌自身數(shù)字健康推廣的一部分。因此，這與DeepMind自己的說法相矛盾。該公司曾表示，谷歌不會(huì)獲得人們的醫(yī)療記錄。

更像是：“在谷歌擁有所有數(shù)據(jù)和IP之前沒有訪問權(quán)限”，然后……

正如我們當(dāng)時(shí)所說，這是一場(chǎng)信任危機(jī)。

從那以后，從DeepMind到谷歌的Streams應(yīng)用程序似乎一直處于暫停狀態(tài)。

去年，皇家自由信托表示，沒有它的批準(zhǔn)，這是不可能發(fā)生的。

當(dāng)被問及是否會(huì)與谷歌簽訂新的流媒體合同時(shí)，一位發(fā)言人告訴我們：“目前，皇家自由倫敦與DeepMind的合同沒有變化。與所有與供應(yīng)商的合同協(xié)議一樣，任何變更或未來(lái)的合同都將遵循信息治理和數(shù)據(jù)保護(hù)法規(guī)。信托公司將繼續(xù)在任何時(shí)候擔(dān)任數(shù)據(jù)控制器，這意味著它將負(fù)責(zé)所有病人的信息。”

該信托基金拒絕回答其他問題，包括是否打算在NHS醫(yī)院部署一個(gè)包含預(yù)測(cè)人工智能模型的流版本；以及患者是否可以選擇退出他們的數(shù)據(jù)與谷歌共享。

目前還不清楚它的計(jì)劃是什么。盡管DeepMind和谷歌顯然是要讓Streams成為預(yù)測(cè)人工智能進(jìn)入NHS病房的管道。它的博客積極推動(dòng)向流媒體添加人工智能。

為了炒作前者，甚至不惜貶低后者。DeepMind Health的銷售說辭正在從“你需要這個(gè)應(yīng)用程序”演變?yōu)椤澳阈枰�這個(gè)人工智能”……接著是“給我們你的數(shù)據(jù)”。

“至關(guān)重要的是，皇家自由的這些早期發(fā)現(xiàn)表明，為了進(jìn)一步改善患者的預(yù)后，臨床醫(yī)生需要能夠在當(dāng)前的NHS算法檢測(cè)到AKI之前進(jìn)行干預(yù)——這就是為什么我們對(duì)AKI的研究如此有前景，”它寫道。“這些結(jié)果構(gòu)成了我們預(yù)防性醫(yī)療長(zhǎng)期愿景的基石，幫助醫(yī)生以積極而非被動(dòng)的方式進(jìn)行干預(yù)。

“目前Streams還沒有使用人工智能，但該團(tuán)隊(duì)現(xiàn)在打算尋找將預(yù)測(cè)人工智能模型安全集成到Streams中的方法，以便為臨床醫(yī)生提供對(duì)患者病情惡化的智能洞察。”

在其博客DeepMind也重申的溪流將并入谷歌－寫：“我們?cè)?018年11月宣布，溪流團(tuán)隊(duì)，和同事在轉(zhuǎn)化研究醫(yī)療工作，將加入谷歌為了在全球范圍內(nèi)產(chǎn)生積極的影響�！�

“合并后的經(jīng)驗(yàn)，基礎(chǔ)設(shè)施和專業(yè)知識(shí)DeepMind衛(wèi)生團(tuán)隊(duì)與谷歌將幫助我們繼續(xù)開發(fā)移動(dòng)工具，可以支持更多的臨床醫(yī)生，解決關(guān)鍵的患者安全問題，可能，我們希望，全球拯救成千上萬(wàn)的生命，”它補(bǔ)充說，結(jié)束其慣常的“希望”，其技術(shù)將拯救生命——但仍沒有任何硬數(shù)據(jù)來(lái)證明所有的大聲稱，它使得AI－powered預(yù)測(cè)醫(yī)療的潛力。

正如我們之前說過的，它的預(yù)測(cè)人工智能提供任何有價(jià)值的谷歌真的需要訪問NHS持有的數(shù)據(jù)。因此，公共關(guān)系受到了大力推動(dòng)。對(duì)NHS數(shù)據(jù)的認(rèn)同壓倒一切。

在回應(yīng)DeepMind的消息時(shí)，健康數(shù)據(jù)隱私保護(hù)組織medConfidential的協(xié)調(diào)員薩姆？史密斯（Sam Smith）告訴我們：“機(jī)會(huì)主義者利用醫(yī)生利用病人來(lái)增進(jìn)自身利益的歷史，只要是骯臟的就行。有些傳奇故事流傳多年。谷歌利用他們?cè)趪?guó)際上的影響力，利用美國(guó)軍方的數(shù)據(jù)，他們說他們將在英國(guó)做什么他們誤導(dǎo)了英國(guó)監(jiān)管機(jī)構(gòu)，違反了英國(guó)法律。”

該組織在一篇博客中補(bǔ)充道：“最近幾周，谷歌和YouTube、Facebook和Instagram等科技公司承受著越來(lái)越大的壓力，要求它們接受對(duì)用戶負(fù)有照顧義務(wù)。谷歌DeepMind能否說明，它與Royal Free的合作項(xiàng)目如何尊重每一個(gè)NHS機(jī)構(gòu)對(duì)患者的信任義務(wù)？他們所使用的退伍軍人事務(wù)部患者數(shù)據(jù)與RFH所見患者的特征如何對(duì)應(yīng)？

“谷歌DeepMind接受了160萬(wàn)名患者的RFH數(shù)據(jù)——長(zhǎng)達(dá)10年的醫(yī)院治療。我們希望它的新聞稿能確認(rèn)這160萬(wàn)人中有多少人的數(shù)據(jù)在應(yīng)用程序中顯示，以及他們是否與美國(guó)軍方的數(shù)據(jù)一起被用于測(cè)試�！�