我們面臨的法律和倫理挑戰(zhàn)可能在20年內(nèi)就會發(fā)生。因?yàn)閷脮r(shí)，機(jī)器人與人類能力相當(dāng)�！�—地平線創(chuàng)始人兼CEO余凱

今天的AI已經(jīng)走出來實(shí)驗(yàn)室、象牙塔，快速滲透到人類社會生活中的，我們在享受技術(shù)進(jìn)步的便利時(shí)，潛在的威脅也隨之而來——法律盲區(qū)、倫理挑戰(zhàn)、監(jiān)管的空白地帶……如何在發(fā)揮AI價(jià)值的同時(shí)，規(guī)避其帶來的風(fēng)險(xiǎn)？

AI開啟“立法”新紀(jì)元

最近的兩會上，AI立法成了熱門話題。在十三屆全國人大二次會議4日舉行的新聞發(fā)布會上，大會發(fā)言人張業(yè)遂表示，全國人大常委會已將一些與人工智能密切相關(guān)的立法項(xiàng)目，如數(shù)字安全法、個(gè)人信息保護(hù)法和修改科學(xué)技術(shù)進(jìn)步法等，列入本屆五年的立法規(guī)劃。同時(shí)把人工智能方面立法列入抓緊研究項(xiàng)目，圍繞相關(guān)法律問題進(jìn)行深入的調(diào)查論證。科技圈的大佬如百度董事長李彥宏、中國移動通信集團(tuán)有限公司黨組書記、董事長楊杰等，和學(xué)術(shù)屆的專家，紛紛建言獻(xiàn)策，共同探討AI立法的實(shí)踐。

盡管世界的各國政府對人工智能的重視程度有過之無不及，不過，有關(guān)AI立法和道德準(zhǔn)則的制定，僅有少數(shù)國家作出明確的規(guī)定，如德國的“道路交通法第八修正案”。目前，中國的人工智能實(shí)力已經(jīng)走在世界前列，而配套的法律法規(guī)，也理應(yīng)不甘人后。

AI是個(gè)新事物，覆蓋的領(lǐng)域廣，牽涉的利益也是方方面面，所以在立法上也就需要更多的探索與討論。作為AI行業(yè)的踐行者——AI企業(yè)是如何看待以及探索AI立法呢？動點(diǎn)科技采訪了人工智能獨(dú)角獸地平線和數(shù)坤科技。

自動駕駛的“新法”制定需多方共同參與

“技術(shù)層面其實(shí)沒有難題，難點(diǎn)在于企業(yè)的價(jià)值觀。”地平線創(chuàng)始人兼CEO余凱認(rèn)為AI的發(fā)展中：我們面臨很大的挑戰(zhàn)是人與人、人與客觀世界的關(guān)系，以及要怎么定位人和機(jī)器之間的關(guān)系。余凱是技術(shù)發(fā)展的樂觀派，他預(yù)測，我們面臨的法律和倫理挑戰(zhàn)可能在20年里就會發(fā)生。因?yàn)閷脮r(shí)，機(jī)器人與人類能力相當(dāng)。那到時(shí)，人類應(yīng)該如何處理這種關(guān)系？

以備受關(guān)注的自動駕駛為例，曾有人提出“無人駕駛汽車在危險(xiǎn)情況下是否可以不計(jì)后果地保護(hù)自己的主人？”，余凱認(rèn)為這并不是一個(gè)單純的技術(shù)問題，而是一個(gè)永恒的倫理問題�！盁o人駕駛技術(shù)只是手段，機(jī)器智能不應(yīng)該凌駕于人類倫理之上�！彼�認(rèn)為，其背后的決策邏輯涉及到法律和倫理問題，需要相關(guān)的政府機(jī)構(gòu)、學(xué)術(shù)專家、企業(yè)的共同參與制定相關(guān)的規(guī)定。

此外，自動駕駛還涉及一個(gè)富有爭議性的話題，即：事故發(fā)生后的定責(zé)問題。余凱認(rèn)為這是技術(shù)發(fā)展到一定程度后必然會衍生出的法律問題，也是一個(gè)系統(tǒng)性的社會工程。其需要制定一套明確、清晰的機(jī)制來明確責(zé)任劃分�！八�以要完善地解決這個(gè)問題需要技術(shù)專家和法律專家共同來制定更加細(xì)節(jié)的法律細(xì)則。從具體操作流程來上來說，未來原則上應(yīng)該也是技術(shù)協(xié)助執(zhí)法部門定責(zé)，保險(xiǎn)公司賠付。”他說。

顯然，針對自動駕駛領(lǐng)域的相關(guān)法律規(guī)則制定，需要多方參與，每一個(gè)細(xì)節(jié)都必不可少。

為新技術(shù)制定新法規(guī)，需謹(jǐn)慎使用現(xiàn)有政策工具

醫(yī)療行業(yè)是一個(gè)與倫理道德密不可分的領(lǐng)域。有的技術(shù)理想主義者發(fā)表了機(jī)器人代替醫(yī)生的觀點(diǎn)，引起了極大的爭議�！澳壳搬t(yī)療AI的定位是輔助醫(yī)生，而非替代醫(yī)生直接面對患者。”數(shù)坤科技的創(chuàng)始人馬春娥認(rèn)為決策者依舊是醫(yī)生，而技術(shù)則是工具。其實(shí)，這樣清晰的定位可以減少很多麻煩的倫理道德問題。

對于AI醫(yī)療來說，面臨的最明顯的法律法規(guī)問題則是審批問題�！搬t(yī)療AI產(chǎn)品涉及到醫(yī)CFDA三類證，目前國家相關(guān)部門正在制定針對AI的審批標(biāo)準(zhǔn)�！瘪R春娥表示，對于新一代的醫(yī)療AI產(chǎn)品，在之前的產(chǎn)品分類、審批、發(fā)證等流程和標(biāo)準(zhǔn)上沒有先例可循。“在評審數(shù)據(jù)庫建設(shè)和監(jiān)管方面，仍在摸索階段，但大方向已清晰。此外，醫(yī)療AI產(chǎn)品的性能、算法模型、應(yīng)用界面等都在快速更新，傳統(tǒng)增項(xiàng)或者升級審批無法滿足行業(yè)發(fā)展需求�！彼�補(bǔ)充解釋道。

那么，對于復(fù)雜嚴(yán)謹(jǐn)?shù)尼t(yī)療行業(yè)，AI在立法探索有哪些關(guān)鍵因素呢？首先，她認(rèn)為，從以往經(jīng)驗(yàn)來看，對于新技術(shù)，制定新法律法規(guī)，最好是評估現(xiàn)有政策工具，謹(jǐn)慎使用�！耙�?yàn)樾碌姆�律法�?guī)和稅收政策可能會阻礙AI的推廣和使用。”她解釋道，由于AI技術(shù)的應(yīng)用領(lǐng)域跨度很大，過度管理可能會無意間減少市場主體（尤其是創(chuàng)業(yè)公司和小型企業(yè)）創(chuàng)造和提供的技術(shù)的數(shù)量。“政策制定者需要和業(yè)內(nèi)及時(shí)溝通，制定有利于AI技術(shù)長遠(yuǎn)發(fā)展的法律法規(guī)�！彼�說。企業(yè)是AI醫(yī)療產(chǎn)品的研發(fā)者和推廣者，本身最清楚面臨法律和倫理風(fēng)險(xiǎn)。而建立一套完善行業(yè)規(guī)范，也需要行業(yè)協(xié)會、行業(yè)企業(yè)共同努力。

具體到產(chǎn)品審批方面，她認(rèn)為，由于可能造成傷害大小的不一致，AI醫(yī)療產(chǎn)品的分級監(jiān)管也非常重要。如美國將能夠提供明確診斷結(jié)果的AI輔助診斷產(chǎn)品視為具有最高風(fēng)險(xiǎn)等級的醫(yī)療器械進(jìn)行監(jiān)管，除需進(jìn)行一般監(jiān)管外，還需進(jìn)行上市前審批（PMA）。對于低風(fēng)險(xiǎn)的AI醫(yī)療產(chǎn)品，美國FDA采取“數(shù)字醫(yī)療軟件預(yù)認(rèn)證計(jì)劃”。經(jīng)過預(yù)認(rèn)證的開發(fā)主體即有資格直接銷售自己的低風(fēng)險(xiǎn)醫(yī)療AI產(chǎn)品，而無需經(jīng)過FDA的額外審查和一系列入市審查。

AI作為一個(gè)新技術(shù)，我們花了很多時(shí)間實(shí)踐、試錯(cuò)。現(xiàn)在是時(shí)候集中各家智慧與經(jīng)驗(yàn)，總結(jié)其規(guī)律。就如百度董事長李彥宏在在全國政協(xié)十三屆二次會議第三次全體會議發(fā)言時(shí)的建議一樣：由政府主管部門牽頭，組織跨學(xué)科領(lǐng)域的行業(yè)專家、人工智能企業(yè)代表、行業(yè)用戶和公眾等相關(guān)方，開展人工智能倫理的研究和頂層設(shè)計(jì)，制定人工智能倫理的指引性文件。每個(gè)AI業(yè)內(nèi)人都需要有這樣的責(zé)任感。