AGI漸行漸近,該加速還是要踩剎車?
人類距離第一個(gè)AGI的出現(xiàn)已經(jīng)越來越近了!
馬斯克在今年早些時(shí)候預(yù)測(cè),AGI可能會(huì)在2026年投入使用。DeepMind聯(lián)合創(chuàng)始人、首席AGI科學(xué)家Shane Legg在一次訪談中認(rèn)為,2028年,人類有50%的概率開發(fā)出第一個(gè)AGI。然而百度CEO李彥宏的觀點(diǎn)則更加審慎,他認(rèn)為AGI還需要10年以上的時(shí)間才能出現(xiàn)。
自1956年達(dá)特茅斯會(huì)議提出“人工智能”這一概念以來,實(shí)現(xiàn)人類水平的智能一直是AI領(lǐng)域的圣杯。去年上半年,有主流研究者提出,大語言模型已經(jīng)表現(xiàn)出“通用人工智能的火花”(sparksof AGI)。這似乎表明,AGI已經(jīng)從哲學(xué)猜想變成了將來的未來。然而,關(guān)于AGI的觀點(diǎn)眾說紛紜,大語言模型也常有愚蠢行為出現(xiàn),這些都引發(fā)了對(duì)AGI的質(zhì)疑。
在此背景下,我們離實(shí)現(xiàn)真正的AGI還有多遠(yuǎn)?如何預(yù)防AGI帶來的潛在風(fēng)險(xiǎn)?
AGI,未到的黎明
從性能強(qiáng)度和通用性兩個(gè)維度,可以將人類和AI的關(guān)系劃分為6個(gè)階段:無AI、智能涌現(xiàn)、勝任、專家、大師、超人類。而現(xiàn)在大語言模型的出現(xiàn),正屬于第一個(gè)AGI的階段:AGI雛形。
AGI(Artificial General Intelligence),即通用人工智能,其目標(biāo)是實(shí)現(xiàn)人類般的通用智能,這意味著AI可以像人類一樣理解任意通用任務(wù),并以人類的智力水平執(zhí)行完成;旧,除了“自我意識(shí)”的生成,AGI就是人類對(duì)人工智能的終極夢(mèng)想了。
AGI是要讓智能體像人一樣,不僅能夠獨(dú)立感知環(huán)境、進(jìn)行思考、作出決策、學(xué)習(xí)新技能、執(zhí)行任務(wù),還能夠與人類或其他智能體進(jìn)行有效的協(xié)作。同時(shí),智能體能夠理解人類的情感,并且遵循社會(huì)倫理和道德規(guī)范。
一個(gè)完整的AGI需要具備三個(gè)基本特征:第一,必須能完成無限的任務(wù),而不是只能完成人定義的有限幾個(gè)任務(wù)。第二,要在場(chǎng)景中自主發(fā)現(xiàn)任務(wù),這是通常所說的要做到“眼里有活兒”。第三,要有自主的價(jià)值來驅(qū)動(dòng),而不是被動(dòng)的被數(shù)據(jù)所驅(qū)動(dòng)。
同時(shí),AGI還需要解決一些關(guān)鍵的技術(shù)問題,比如構(gòu)建智能體的認(rèn)知架構(gòu),讓智能體由價(jià)值驅(qū)動(dòng),在現(xiàn)實(shí)世界中進(jìn)行有效的行動(dòng),能夠與社會(huì)環(huán)境進(jìn)行互動(dòng),使智能體決策過程透明可解釋,以及建立和人類之間的信任關(guān)系等。
以O(shè)penAI的ChatGPT、谷歌Bard、Meta的Llama為代表的大模型,已經(jīng)在通用性上展示出了AGI的潛力。因?yàn)榇笳Z言模型已經(jīng)能完成范圍相當(dāng)廣的各類任務(wù),而且表現(xiàn)出了像學(xué)習(xí)新技能這樣的“元認(rèn)知”能力。
相比大模型的“鸚鵡范式”,AGI是以“小數(shù)據(jù),大任務(wù)”為架構(gòu)的“烏鴉范式”,智能體表現(xiàn)為具有自主的智能,能夠自主感知、認(rèn)知、推理、學(xué)習(xí)和執(zhí)行,不依賴于大數(shù)據(jù),基于無標(biāo)注數(shù)據(jù)進(jìn)行無監(jiān)督學(xué)習(xí),并且智能系統(tǒng)低功耗。就像烏鴉喝水這一行為,看似簡(jiǎn)單,卻屬于自主推理行為,是由價(jià)值與因果驅(qū)動(dòng)的高級(jí)智能,也是AI的未來發(fā)展趨勢(shì)。
如果單從AI的性能維度上看,“窄AI(Narrow AI)”類型的AI已經(jīng)達(dá)到了完全超越人類認(rèn)知的水平。以AlphaFold、AlphaZero為代表的專業(yè)領(lǐng)域AI,在特定領(lǐng)域已經(jīng)能發(fā)現(xiàn)人類智力無法發(fā)現(xiàn)的新事物了,此類被成為“超人類窄AI”。而在某些領(lǐng)域,AI能達(dá)到90%的人類水平,比如文書糾正AIGrammarly,DALL·E 2,Imagen等生圖AI,這被稱為“專家級(jí)窄AI”。在特定領(lǐng)域,能達(dá)到普通人的平均水平,比如Siri,谷助手這類普通智能助理,其被稱為“普通窄AI”。
所謂“窄AI”,是指那些特別擅長(zhǎng)處理單一任務(wù)或者特定范圍內(nèi)工作的系統(tǒng)。在大多數(shù)情況下,它們?cè)谔囟I(lǐng)域中的表現(xiàn)遠(yuǎn)優(yōu)于人類。不過一旦它們遇到的問題超過了適用空間,效果則急轉(zhuǎn)直下。換言之,它們無法將自己掌握的知識(shí)從一個(gè)領(lǐng)域轉(zhuǎn)移到另一個(gè)領(lǐng)域。
盡管窄AI無法全面執(zhí)行需要人類智能的任務(wù),但在特定場(chǎng)景中仍然非常實(shí)用,而且已經(jīng)在諸多應(yīng)用之內(nèi)發(fā)揮著自己的作用。谷歌搜索查詢現(xiàn)在可以利用窄AI算法回答問題,窄AI系統(tǒng)會(huì)在YouTube及Netflix中推薦用戶可能感興趣的視頻,并在Spotify中按喜好整理出周推音樂列表。
而在窄AI已經(jīng)覆蓋的能力維度上,AGI都還沒有出現(xiàn)對(duì)應(yīng)的實(shí)例,因?yàn)槟壳斑沒有出現(xiàn)真正意義上的AGI,對(duì)于AGI的定義,人類也還沒有達(dá)到統(tǒng)一的認(rèn)知。
誰會(huì)是AGI的起點(diǎn)?
從信息時(shí)代走向智能時(shí)代,“語言”成為那把開啟全新時(shí)代的鑰匙。著名的作家兼哲學(xué)家路德維希·維特根斯坦在其《邏輯哲學(xué)論》一書中提到:“我的語言的界限,意味著我的世界的界限。”
對(duì)人類而言,承載世界的知識(shí)、思考、溝通和文化靠的是語言。語言本身的發(fā)明代表著每多一個(gè)詞匯就讓世界多了一個(gè)認(rèn)知維度,詞匯之間建立的邏輯關(guān)系和表達(dá)代表了人類對(duì)世界完整的建模。這個(gè)模型不是在圖像里面,而是通過語言進(jìn)行承載,所以語言邊界就是世界邊界。AI核心就是把現(xiàn)實(shí)世界的現(xiàn)象翻譯成為數(shù)學(xué)模型,通過語言讓機(jī)器充分理解現(xiàn)實(shí)世界和數(shù)據(jù)的關(guān)系。
如今,人們已經(jīng)走出了原來物理學(xué)靠一個(gè)公式解釋世界的方法,更多是靠海量數(shù)據(jù)在不同層次單獨(dú)建模,上層建模就是由大量的數(shù)據(jù)驅(qū)動(dòng)。語言模型如此,生命建模也是如此,2021年最偉大的成就就是DeepMind的AlphaFord系統(tǒng),針對(duì)基因到蛋白質(zhì)的三維結(jié)構(gòu)建模,通過這個(gè)模型預(yù)測(cè)基因被轉(zhuǎn)錄或者表達(dá)為蛋白質(zhì)以后擁有的形態(tài),也是全世界轟動(dòng)的生命領(lǐng)域的突破,靠的也是數(shù)據(jù)和AI的驅(qū)動(dòng)。
雖然大模型已經(jīng)取得了一些驚人的進(jìn)展,但如果比較AGI的三個(gè)特征,就會(huì)發(fā)現(xiàn)大模型還不符合AGI的要求。
首先,大模型在處理任務(wù)方面的能力有限,它們只能處理文本領(lǐng)域的任務(wù),無法與物理和社會(huì)環(huán)境進(jìn)行互動(dòng)。這意味著像ChatGPT這樣的模型不能真正“理解”語言的含義,因?yàn)樗鼈儧]有身體來體驗(yàn)物理空間。
其次,大模型也不是自主的,它們需要人類來具體定義好每一個(gè)任務(wù),就像一只“鸚鵡”,只能模仿被訓(xùn)練過的話語。真正自主的智能應(yīng)該類似于“烏鴉智能”,能夠自主完成比現(xiàn)如今AI更加智能的任務(wù),當(dāng)下的AI系統(tǒng)還不具備這種潛能。
第三,雖然ChatGPT已經(jīng)在不同的文本數(shù)據(jù)語料庫(kù)上進(jìn)行了大規(guī)模訓(xùn)練,包括隱含人類價(jià)值觀的文本,但它并不具備理解人類價(jià)值或與人類價(jià)值保持一致的能力,即缺乏所謂的道德指南針。
但這并不妨礙科技巨頭對(duì)于大模型的推崇。OpenAI、谷歌在內(nèi)的科技巨頭,都將大模型視為邁向AGI的關(guān)鍵一步。OpenAI CEO Sam Altman就曾多次表示,GPT模型是朝著AGI方向發(fā)展的重要突破。
不過,Meta人工智能首席科學(xué)家楊立昆(Yann LeCun)認(rèn)為,目前的大模型路線無法通往AGI,且非常危險(xiǎn)。
他指出,現(xiàn)有的大模型盡管在自然語言處理、對(duì)話交互、文本創(chuàng)作等領(lǐng)域表現(xiàn)出色,但其仍只是一種“統(tǒng)計(jì)建模”技術(shù),通過學(xué)習(xí)數(shù)據(jù)中的統(tǒng)計(jì)規(guī)律來完成相關(guān)任務(wù),本質(zhì)上并非具備真正的“理解”和“推理”能力。
他認(rèn)為,“世界模型”更接近真正的智能,而非只學(xué)習(xí)數(shù)據(jù)的統(tǒng)計(jì)特征。以人類的學(xué)習(xí)過程為例,孩童在成長(zhǎng)過程中,更多是通過觀察、交互和實(shí)踐來認(rèn)知這個(gè)世界,而非被單純“注入”知識(shí)。而LeCun的“世界模型”路線,則是試圖通過對(duì)視頻、音頻等媒體的模擬與補(bǔ)全,讓AI也經(jīng)歷這樣一個(gè)自主學(xué)習(xí)的過程。
他也承認(rèn),實(shí)現(xiàn)“世界模型”并非易事,這一雄心勃勃的目標(biāo)可能需要耗時(shí)10年才能實(shí)現(xiàn)。
將風(fēng)險(xiǎn)控制在可控范圍內(nèi)
對(duì)于AGI所帶來的風(fēng)險(xiǎn),圖靈是最早提出警告的人之一。他在1951年說道:“一旦機(jī)器開始思考,很快就能超越我們。因此,在某個(gè)時(shí)候,我們應(yīng)該期望機(jī)器能夠被掌控。”因?yàn)楫?dāng)一個(gè)比人類更強(qiáng)大的智能體出現(xiàn)時(shí),人類很難維持權(quán)力,特別是當(dāng)這些智能體具有不正確或不完整的目標(biāo)時(shí)。
如果還有人認(rèn)為現(xiàn)在考慮這些風(fēng)險(xiǎn)是危言聳聽,那么如何回答這樣一個(gè)問題:你如何在比人類更強(qiáng)大的智能體面前永遠(yuǎn)保持權(quán)力?此外,在AI領(lǐng)域,還有一些人試圖回避這個(gè)問題,否認(rèn)AGI的可實(shí)現(xiàn)性,卻沒有提供任何證據(jù)。
OpenAI CEO Sam Altman在其文章《Planning for AGI and Beyond》里,探討了AGI對(duì)社會(huì)、技術(shù)和倫理的潛在影響,并強(qiáng)調(diào)了慎重規(guī)劃和負(fù)責(zé)任的發(fā)展的必要性。
文章指出,通過增加資源豐富度、推動(dòng)全球經(jīng)濟(jì)增長(zhǎng),以及助力新科學(xué)知識(shí)的發(fā)現(xiàn),AGI有潛力極大地提升人類生活質(zhì)量。這不僅是智力的巨大增幅,更是對(duì)人類創(chuàng)造力和想象力的極大擴(kuò)展。
然而,AGI的出現(xiàn)也可能帶來嚴(yán)重的濫用風(fēng)險(xiǎn)、意外極端事件的可能以及對(duì)社會(huì)結(jié)構(gòu)的劇烈動(dòng)蕩。因此,OpenAI提倡在發(fā)展AGI時(shí),AGI開發(fā)者以及全社會(huì)都必須找到正確的方法來實(shí)現(xiàn)和利用這一技術(shù),確保其與人類核心價(jià)值觀保持一致,并公平地分享其帶來的好處。
此外,OpenAI認(rèn)為,從長(zhǎng)遠(yuǎn)來看,AGI的出現(xiàn)僅僅是智力發(fā)展的一個(gè)節(jié)點(diǎn),而AI的進(jìn)步可能會(huì)在未來相當(dāng)長(zhǎng)一段時(shí)間內(nèi)繼續(xù)保持。OpenAI提出了一個(gè)安全的AGI發(fā)展愿景,即在較短時(shí)間內(nèi)以較慢的速度過渡到AGI,以便社會(huì)有時(shí)間適應(yīng)和調(diào)整。
盡管未來不可預(yù)知,但OpenAI表達(dá)了他們最關(guān)心的幾個(gè)原則:希望AGI能最大限度地促進(jìn)人類在宇宙中的繁榮;希望AGI帶來的好處、訪問權(quán)和治理能夠被廣泛且公平地分享,并成功應(yīng)對(duì)巨大風(fēng)險(xiǎn)。
為此,OpenAI倡導(dǎo)在短期內(nèi)進(jìn)行漸進(jìn)式過渡、繼續(xù)創(chuàng)造越來越符合目標(biāo)的模型,并在長(zhǎng)期進(jìn)行全球范圍的對(duì)話,討論如何治理這些系統(tǒng)、如何公平分配它們產(chǎn)生的好處,以及如何公平分享訪問權(quán)。在極高的風(fēng)險(xiǎn)和回報(bào)下,人類需要團(tuán)結(jié)起來,讓AGI在未來世界以一種對(duì)人類最有益的方式綻放。
對(duì)于如何預(yù)防AGI給人類帶來威脅,可以逐步放開AGI的能力空間和價(jià)值空間,一開始把它關(guān)在“籠子”里,慢慢打開權(quán)限。對(duì)于AGI,可以先其適用場(chǎng)合和行動(dòng)空間限制在特定區(qū)域內(nèi),隨著人們對(duì)機(jī)器的信任的增加,確認(rèn)AGI安全可控后,再逐步給予更大的空間。另外,應(yīng)該進(jìn)一步促進(jìn)算法決策過程的透明度。如果能夠清晰了解AGI的認(rèn)知架構(gòu),從而知道其是如何工作的,就能更好地控制它。
人類對(duì)于AGI的探索和思考才剛剛開始,我們還有很長(zhǎng)的路要走。AGI的進(jìn)步不僅代表了技術(shù)創(chuàng)新,更是對(duì)未來人機(jī)交互方式的重新想象。隨著我們逐步走向AGI未知領(lǐng)域,穩(wěn)健和有序的發(fā)展顯得更加重要,我們必須高度警醒AGI所帶來的問題,并充分重視AGI所創(chuàng)造的機(jī)會(huì)。兩千多年前,蘇格拉底說“認(rèn)識(shí)你自己”,今天在AGI技術(shù)發(fā)展的倒逼下,人類需要“重新認(rèn)識(shí)你自己”。
原文標(biāo)題 : AGI漸行漸近,該加速還是要踩剎車?
發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書》
推薦專題
- 1 【一周車話】沒有方向盤和踏板的車,你敢坐嗎?
- 2 特斯拉發(fā)布無人駕駛車,還未迎來“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 大模型“新星”開啟變現(xiàn)競(jìng)速
- 6 海信給AI電視打樣,12大AI智能體全面升級(jí)大屏體驗(yàn)
- 7 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 8 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 9 神經(jīng)網(wǎng)絡(luò),誰是盈利最強(qiáng)企業(yè)?
- 10 比蘋果偉大100倍!真正改寫人類歷史的智能產(chǎn)品降臨
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專家 廣東省/江門市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市