李飛飛論戰(zhàn)赫拉利:AI之戰(zhàn)一旦爆發(fā),將碾壓核競賽
如何避免數(shù)字專政?
Yuval:關(guān)鍵問題就是如何管理數(shù)據(jù)的歸屬權(quán)。因為我們不可能停止生物學(xué)領(lǐng)域的研發(fā),也不能停止研究計算機(jī)科學(xué)和人工智能。所以之前的公式中,最好控制的就是數(shù)據(jù),但這也非常困難。目前雖然已經(jīng)作出了一些舉措,但要控制數(shù)據(jù)這同時涉及哲學(xué)和政治兩個方面。擁有數(shù)據(jù),以及管理數(shù)據(jù)所有權(quán),到底是什么意思?在過去幾千年里,我們已經(jīng)充分理解了,什么是土地?fù)碛袡?quán),但很少了解什么是數(shù)據(jù)擁有權(quán),以及應(yīng)該如何進(jìn)行管理。但這正是我們要解決的問題。
我承認(rèn)AI沒有某些人想的那么強(qiáng)大。但我們必須把握這個度,我們不需要完全了解人類的AI,只需要它比我們更了解自己。這并不困難,因為很多人根本不了解自己,所以經(jīng)常犯下決策錯誤,包括理財和愛情等方面。所以將這些判斷題交給算法,可能仍然很糟糕,但只要比我們做的好一些,那么這種趨勢仍然會存在。
將來可能會出現(xiàn)這種情景,你可以寫出各種的算法幫助你了解自己。但如果這些算法不止把這些信息分享給你,也把它們交給廣告商或者政府會怎樣?我覺得我們不應(yīng)該只思考太遙遠(yuǎn)、太極端的情景,而是更關(guān)注我們生活中的例子。
人工智能存在著機(jī)遇和風(fēng)險,目前最重要的事情是什么?
李飛飛:我們現(xiàn)在有太多的事情可以做,這一點(diǎn)我非常同意Yuval的看法。斯坦福大學(xué)認(rèn)為,未來的人工智能應(yīng)該是以人為本的,我們需要堅持三個主要原則。
第一,要投資具有人類思維特征的人工智能技術(shù)。目前大多數(shù)人工智能都依賴于數(shù)據(jù),以及對數(shù)據(jù)的管理政策,這樣可以控制人工智能帶來的影響。但我們應(yīng)該開發(fā)一種可以解釋人工智能的技術(shù),以及能對人類智力產(chǎn)生更細(xì)微的理解的技術(shù)。同時還要投資那些不太依賴于數(shù)據(jù)的人工智能,它能反應(yīng)人類的直覺、知識和創(chuàng)造性等。
第二,為人工智能的研究設(shè)立更多的準(zhǔn)則。讓經(jīng)濟(jì)、道德、法律、哲學(xué)、歷史和認(rèn)知科學(xué)等多個領(lǐng)域的人參與研究。任何單一領(lǐng)域的研究人員都不能單獨(dú)解決這個問題。
最后,除了上述操作性的建議,我認(rèn)為我們在做這些事情時,我們應(yīng)該抱著警惕和理解,同時又要將這種技術(shù)運(yùn)用到正途。
如果我們自己都不了解自己,那么計算機(jī)可能比我們更容易解釋這些決策嗎?
李飛飛:兩位數(shù)的乘法對我們來說很難,但對計算機(jī)來說很簡單。有些事情人類覺得困難的,未必難得倒機(jī)器。畢竟這些算法都是基于非常簡單的數(shù)學(xué)邏輯。對此我們采用了包含數(shù)百萬個節(jié)點(diǎn)的神經(jīng)網(wǎng)絡(luò)。誠然,決策的解釋很困難,但相關(guān)研究已經(jīng)在進(jìn)行,一旦成功它將會帶來突破性的進(jìn)展。而且有了這種技術(shù),人們就很難用人工智能去作弊。
Yuval:但是人工智能的決策邏輯可能和人類完全不同,哪怕它解釋了,我們恐怕也無法理解。例如申請銀行貸款被拒,人工智能可能會告訴你,這些數(shù)據(jù)有數(shù)萬個來源,同時進(jìn)行了加權(quán)和統(tǒng)計分析,某些數(shù)據(jù)的權(quán)重為什么是這么多……這完全可以寫一本書。
科學(xué)越來越難向公眾解釋很多理論和發(fā)現(xiàn),這也是為什么很多人對氣候變化持懷疑態(tài)度。這不是科學(xué)家的錯,而是科學(xué)技術(shù)越來越復(fù)雜,而人類社會更復(fù)雜。人類的思維無法理解它,正如它無法理解為什么要拒絕一個人的貸款申請。
我們應(yīng)該如何確保數(shù)據(jù)沒有種族傾向?
李飛飛:說實話我個人也回答不上這個問題,但機(jī)器學(xué)習(xí)系統(tǒng)存在偏見已經(jīng)是個既定的事實。但這種偏見的成因非常復(fù)雜。斯坦福大學(xué)有人專門研究這個問題,如何去除數(shù)據(jù)的偏見,讓決策更加中立,同時也有人類學(xué)家在談?wù)撌裁词瞧,什么是公平。什么情況下的偏見是好的,什么情況下是壞的。之前就有研究通過臉部識別算法發(fā)現(xiàn)好萊塢女演員的出鏡率更低。
Yuval:至于是否應(yīng)該剔除數(shù)據(jù)中的種族特征或是性別特征,還需要具體分析。這也是一個需要工程師和倫理學(xué)家、心理學(xué)家以及政治科學(xué)家合作的地方。將來還可能包括生物學(xué)家。這又回到了一個問題上,我們應(yīng)該怎么做?也許我們應(yīng)該在未來的程序員培訓(xùn)過程中加入倫理課程。在那些設(shè)計人工智能工具的大公司里,同樣也要配備倫理專家這樣的團(tuán)隊,他們需要考慮設(shè)計人員會在不經(jīng)意間加入哪些偏見,它會給政治或文化方面帶來什么樣的影響。而不是等到惡果出現(xiàn)了,才追悔莫及。
是否存在道德和人工智能預(yù)測精準(zhǔn)性的問題?與全力研發(fā)技術(shù)相比,邊研究技術(shù)邊考慮道德問題,進(jìn)度是否會更慢?
Yuval:這就是一個類似軍備競賽的問題。我覺得,這是AI目前面臨非常危險的一個問題。越來越多的國家意識到這種技術(shù)的重要性,都擔(dān)心自己會被別的國家甩在后面。避免這種軍備競賽的唯一方法,就是進(jìn)行更充分的交流。這聽起來有些虛幻,因為我們現(xiàn)在完全是在背道而馳。我們的工作就是要讓人們明白,AI的惡性競爭就類似于核戰(zhàn)爭,誰都不會成為贏家。美國人可能會說自己是好人,但這個人工智能領(lǐng)域的領(lǐng)先者,只服務(wù)于美國自己的利益,誰又能相信它的公正性?
Yuval:我認(rèn)為全球合作可能非常脆弱。核武器的軍備競賽雖然會讓一大批核彈問世,但是人們從沒使用過它,人工智能不一樣,它一直在被使用,最終孕育出一個集權(quán)政體。因此我認(rèn)為它更加危險。
如果不同的國家之間存在巨大的技術(shù)差距,那會發(fā)生什么?會像19世紀(jì)工業(yè)革命那樣,少數(shù)掌握工業(yè)力量的國家統(tǒng)治了整個世界的經(jīng)濟(jì)和政治?如何避免悲劇重演?哪怕沒有戰(zhàn)爭,全球大多數(shù)人仍然處于被剝削狀態(tài),大部分人的勞動所得最終都屬于少數(shù)幾個國家。
李飛飛:不同地區(qū)的技術(shù)研究進(jìn)度的確不同。不同于19世紀(jì)和20世紀(jì),技術(shù)正在以非?斓乃俣热蚧。任何基礎(chǔ)性的科研論文都能在網(wǎng)上查到。不同國家可能因為制度不同,在技術(shù)研究上可能存在一定差距,但我認(rèn)為你所描述的情況,還是很難發(fā)生的。
Yuval:我說的可不只是科研論文。是的,論文是全世界共享的,但如果我生活在也門、尼加拉瓜、印尼或者加沙,我沒有數(shù)據(jù)和基礎(chǔ)設(shè)施,我就算上網(wǎng)下載了論文又能如何。你要看看那些擁有所有數(shù)據(jù)的大公司來自哪里,基本只有兩個地方,其中不包括歐洲,畢竟歐洲沒有谷歌、亞馬遜、百度或者騰訊。你再看看拉美、非洲、中東和大部分東南亞地區(qū),他們也能學(xué)到這些知識,但想要借此對抗亞馬遜還遠(yuǎn)遠(yuǎn)不夠。
擁有數(shù)據(jù)和更高計算能力的人是否將獲得更多的權(quán)力,收入的不平等也會因此加劇?
Yuval:正如我所說的,這很可能還只是個開始。它在經(jīng)濟(jì)和政治方面帶來的影響將是災(zāi)難性的。那些依賴手工勞動力的國家的經(jīng)濟(jì)體系可能會因此崩潰,它們沒有足夠的教育資金去參與人工智能競爭。洪都拉斯和班加羅爾的生產(chǎn)基地將搬回美國和德國,因為人力成本不再重要,加州生產(chǎn)的襯衫可能比洪都拉斯便宜。這些國家的人又該何去何從,新生的崗位是留給軟件工程師的,洪都拉斯的孩子可沒有錢去學(xué)習(xí)編程。
李飛飛:的確,Yuval預(yù)想到了很多我們面臨的危機(jī),因此我們需要更多人來研究和思考這些問題。但目前全世界的國家、政府和公司都還有時間思考自己的數(shù)據(jù)及人工智能策略,意識到當(dāng)下是他們的國家、地區(qū)和公司的關(guān)鍵時刻。而這些潛在危機(jī)正是因為他們還沒意識到要跟上數(shù)字時代的潮流,也是時候引起他們的注意了。
Yuval:是的,這非常緊急。某種程度上講,這就是一種數(shù)字殖民:從巴西、印尼等國家搜集數(shù)據(jù),然后由美國來處理,最后生產(chǎn)出更好的設(shè)備和技術(shù),賣回殖民地。盡管它和19世紀(jì)的殖民存在差別,但這種類比值得我們留意。
人們?nèi)绾谓ㄔO(shè)AI公司,是推動數(shù)字殖民,還是改正它?又該怎么看待人工智能,以及如何去學(xué)習(xí)?
Yuval:就我個人而言,我認(rèn)為不論是否在斯坦福大學(xué)深造,是否是工程師,都一定要更加了解你自己,因為你正處于一場競爭中。這也是所有哲學(xué)書中最經(jīng)典的建議。蘇格拉底、孔夫子、釋迦摩尼都給出過類似的看法。但在釋迦摩尼或蘇格拉底的時代,你不了解自己也沒關(guān)系,你只是錯過了頓悟的機(jī)會。如今你們處于競爭中,如果不了解自己,你就完了。對于工程師或?qū)W生,我希望實驗室和工程部門出現(xiàn)兩件東西。第一,我希望出現(xiàn)一種離心化的系統(tǒng),而不是中心化的系統(tǒng),我不知道該怎么做,但我希望你們可以嘗試,我聽說區(qū)塊鏈在這方面挺有潛力的。這是對我們民主制度的保護(hù)。
第二,我希望出現(xiàn)一種專門為人服務(wù)的工具,而不是為企業(yè)或者政府服務(wù)。也許我們無法阻止人工智能了解自己,那么我希望它了解我們是為了保護(hù)我們不受其它人工智能的侵襲。就像我的身體不能對抗電腦病毒,但是我的電腦可以裝殺毒軟件。
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
-
即日-11.13立即報名>>> 【在線會議】多物理場仿真助跑新能源汽車
-
11月28日立即報名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會議
-
12月19日立即報名>> 【線下會議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會
-
即日-12.26火熱報名中>> OFweek2024中國智造CIO在線峰會
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
-
精彩回顧立即查看>> 【限時免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
推薦專題
- 高級軟件工程師 廣東省/深圳市
- 自動化高級工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市