AI的倫理問題

作為一位AI科學(xué)家，陶大程博士對于技術(shù)的倫理問題非常關(guān)注。他認(rèn)為需要盡快建立AI醫(yī)學(xué)應(yīng)用的倫理管理規(guī)范和法律問責(zé)機(jī)制，以及對可能的倫理和法律的挑戰(zhàn)。目前來說，AI的倫理還是一個開放性話題，如何保證AI做出符合倫理道德的決策需要進(jìn)一步的探索。

隨著技術(shù)的不斷增強(qiáng)，AI已經(jīng)開始產(chǎn)生一些社會問題了�；�于AI的無人駕駛車輛，上路的基本要求是能夠識別路牌。

中國，還有世界上不少國家都有貼小廣告的習(xí)慣。我們想象一下，把一個小廣告貼到路牌上，這樣一個簡單的改變就能夠攻擊無人駕駛系統(tǒng)。比如，在代表停止的路牌上貼上一個小廣告，無人駕駛系統(tǒng)就會把它誤判為百公里每小時，這是非常危險的。

另外，因為理論的不完善，AI也有很多的不穩(wěn)定性。比如，AI在圖像識別的時候會把黑猩猩誤識別成人，這會引起種族的問題。還有AI的公平性和可解釋性，比如黑盒算法——我們并不清楚算法為什么做出某一個決定。這些都跟人工智能的倫理道德相關(guān)。

陶大程博士認(rèn)為這不僅僅是研究AI的科學(xué)家和醫(yī)生的問題，還應(yīng)該包括政府、社會學(xué)家等多方面的專業(yè)人士。大家共同探討如何建立在特定領(lǐng)域的AI倫理道德的管控，保證AI的實踐，不會產(chǎn)生倫理道德的問題，或者盡量避免產(chǎn)生這樣的問題，讓AI更好的為人類服務(wù)。

AI如何解決落地難的困境？

對于這個問題，陶大程博士認(rèn)為需要從幾個方面來考慮。

首先，醫(yī)療AI企業(yè)需要和醫(yī)院、健康中心和保險公司建立多方面的共贏合作來探索醫(yī)療AI商業(yè)落地的幾種模式。最終，行業(yè)還是需要市場的力量來刺激AI的落地。

其次，政府和醫(yī)院需要建立起安全的數(shù)據(jù)開放和共享模式，同時也要保證用戶的隱私。只有行業(yè)共同努力才能降低醫(yī)療數(shù)據(jù)的獲取難度。在保證數(shù)據(jù)安全的基礎(chǔ)上建立標(biāo)準(zhǔn)數(shù)據(jù)庫，提升醫(yī)療數(shù)據(jù)的數(shù)量和質(zhì)量，醫(yī)療AI企業(yè)才能夠去提升產(chǎn)品的可用性。

第三個方面則是在AI技術(shù)層面。我們需要去考慮設(shè)計有效的聯(lián)邦學(xué)習(xí)模型來應(yīng)對目前構(gòu)建大規(guī)模數(shù)據(jù)庫比較困難的局面。很多時候，數(shù)據(jù)共享非常困難，需要考慮是不是有其他的人工智能技術(shù)來解決這樣的問題。

聯(lián)邦學(xué)習(xí)能夠有效地保護(hù)用戶的隱私不受侵犯，能夠協(xié)助醫(yī)療AI企業(yè)訓(xùn)練出有效、穩(wěn)健其具有解釋性的模型。這樣的模型才會得到醫(yī)生的信任。

第四個方面則是審批監(jiān)管部門。審批監(jiān)管部門應(yīng)該建立系統(tǒng)性的AI測試方案和驗收標(biāo)準(zhǔn)來推動醫(yī)療AI產(chǎn)品的安全認(rèn)證。目前，CFDA將AI影像輔助診斷軟件列入風(fēng)險較高的三類醫(yī)療器械。

陶大程院士認(rèn)為盡管這意味著臨床實驗的控制非常嚴(yán)格，但從另外一方面而言對于保證AI+醫(yī)療產(chǎn)品的安全性和有效性是非常重要的。

寫在最后

在陶大程博士看來，即使很多傳統(tǒng)的、有著幾百年歷史的學(xué)科，如數(shù)學(xué)、物理和化學(xué)，還有很多懸而未決的基礎(chǔ)問題，作為一個僅有半個世紀(jì)歷史的新興學(xué)科——人工智能，更加需要我們不斷投入，奮勇直前。盡管今天的人工智能沒有取代人類、甚至還依然處在弱人工智的狀態(tài)，但是每一次AI的興起都為我們帶來了技術(shù)的革新，提升了我們的生產(chǎn)力、改善了我們的生活。

有了深度學(xué)習(xí)的支撐，今天的AI能夠做很多過去我們不敢想的事情。雖然今天的人工智能還只是小獅子辛巴，但是我們有理由相信，未來辛巴一定會成為森林之王，成為有效的使能技術(shù)賦能醫(yī)療健康以及各行各業(yè)。

陶大程簡介

悉尼大學(xué)工程學(xué)院教授、澳大利亞科學(xué)院院士、優(yōu)必選悉尼大學(xué)人工智能中心主任、優(yōu)必選AI首席科學(xué)家。

陶大程2015年榮獲澳大利亞尤利卡（Eureka）獎（該獎有著澳洲科學(xué)界的奧斯卡的美譽(yù)）；2016年當(dāng)選歐洲科學(xué)院外籍院士（Academia Europaea）；2017年榮獲澳大利亞基金委桂冠教授；2018年，陶大程以其在人工智能領(lǐng)域，包括計算機(jī)視覺、機(jī)器學(xué)習(xí)及相關(guān)應(yīng)用方面所做出的卓越貢獻(xiàn)，入選澳大利亞科學(xué)院院士；同年榮獲IEEE ICDM研究貢獻(xiàn)獎（該獎項是全球數(shù)據(jù)挖掘研究領(lǐng)域的最高獎項之一，專門表彰在這一領(lǐng)域擁有深遠(yuǎn)影響力的學(xué)術(shù)成就與貢獻(xiàn)的個人或群體）。

陶大程的主要研究方向是表征學(xué)習(xí)，這是人工智能領(lǐng)域非常重要的研究方向之一。包括多視角學(xué)習(xí)、多標(biāo)簽學(xué)習(xí)、多任務(wù)學(xué)習(xí)、遷移學(xué)習(xí)等。這些研究成果被廣泛應(yīng)用于計算機(jī)視覺、圖像處理以及生物識別技術(shù)等領(lǐng)域。

文 ｜ 陳鵬

網(wǎng)站、公眾號等轉(zhuǎn)載請聯(lián)系授權(quán)