馬斯克、Bengio等千位大佬聯(lián)名喊停更強(qiáng)AI研發(fā),GPT-5得罪了誰(shuí)?
一項(xiàng)革命性的技術(shù)普及時(shí),必有重重阻力。
GPT-4 誕生兩周之際,美國(guó)生命未來(lái)研究所(Future of Life)向全社會(huì)發(fā)布了一封《暫停大型人工智能研究》的公開(kāi)信,呼吁所有人工智能實(shí)驗(yàn)室立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練,暫停時(shí)間至少為6個(gè)月。
這封公開(kāi)信已有1079人簽署。內(nèi)容寫(xiě)到,最近AI的迅猛發(fā)展是一場(chǎng)“失控的競(jìng)賽”,他們沒(méi)有辦法理解、預(yù)測(cè)或可靠地控制自己創(chuàng)造的大模型。人類(lèi)社會(huì)對(duì)其可能造成的影響也沒(méi)有做好準(zhǔn)備。
截至目前,特斯拉 CEO(OpenAI 聯(lián)合創(chuàng)始人)馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人 Steve Wozniak、圖靈獎(jiǎng)得主 Yoshua Bengio、《人類(lèi)簡(jiǎn)史》作者赫拉利、紐約大學(xué)名譽(yù)教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等千名科技大佬和 AI 專(zhuān)家已經(jīng)簽署公開(kāi)信。
公開(kāi)信內(nèi)容
公開(kāi)信稱(chēng),正如廣泛的研究和頂級(jí)人工智能實(shí)驗(yàn)室所承認(rèn)的,人工智能系統(tǒng)對(duì)社會(huì)和人類(lèi)構(gòu)成較大的風(fēng)險(xiǎn)。我們不應(yīng)該冒著失去對(duì)文明控制的風(fēng)險(xiǎn),將決定委托給未經(jīng)選舉的技術(shù)領(lǐng)袖。
盡管最近幾個(gè)月人工智能實(shí)驗(yàn)室掀起AI狂潮,但目前沒(méi)有人能理解、預(yù)測(cè)或可靠地控制AI系統(tǒng),也沒(méi)有相應(yīng)水平的規(guī)劃和管理。
當(dāng)代人工智能系統(tǒng)現(xiàn)在在一般任務(wù)上表現(xiàn)與人類(lèi)相當(dāng),我們必須反思——
- 我們是否應(yīng)該讓機(jī)器用宣傳和謊言充斥我們的信息渠道?
- 我們應(yīng)該自動(dòng)化所有的工作,包括令人滿意的工作嗎?
- 我們是否應(yīng)該發(fā)展最終可能超越我們并取代我們的非人類(lèi)思維?
- 我們應(yīng)該冒險(xiǎn)失去對(duì)我們文明的控制嗎?
OpenAI 最近關(guān)于人工智能的聲明指出:「在開(kāi)始訓(xùn)練未來(lái)系統(tǒng)之前,進(jìn)行獨(dú)立審查可能很重要,人們應(yīng)該在合適的時(shí)間點(diǎn)限制用于創(chuàng)建新系統(tǒng)的計(jì)算增長(zhǎng)率!宫F(xiàn)在已經(jīng)到了這個(gè)時(shí)間點(diǎn)。我們呼吁所有 AI 實(shí)驗(yàn)室立即暫停訓(xùn)練比 GPT-4 更強(qiáng)大的 AI 系統(tǒng),為期至少 6 個(gè)月。
人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)在暫停期間,共同制定和實(shí)施一套先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)的共享安全協(xié)議,由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的審查和監(jiān)督。這些工作至少應(yīng)該包括:
- 專(zhuān)門(mén)針對(duì)人工智能的新的、有能力的監(jiān)管機(jī)構(gòu);
- 對(duì)高能力的人工智能系統(tǒng)和大型計(jì)算能力池的監(jiān)督和跟蹤;
- 幫助區(qū)分真實(shí)和合成數(shù)據(jù)的溯源、水印系統(tǒng),并跟蹤模型泄露;
- 強(qiáng)大的審計(jì)和認(rèn)證生態(tài)系統(tǒng);
- 對(duì)人工智能造成的傷害的責(zé)任認(rèn)定;
- 對(duì)人工智能安全技術(shù)研究的強(qiáng)大公共資金;
- 資源豐富的機(jī)構(gòu),以應(yīng)對(duì)人工智能將造成的巨大經(jīng)濟(jì)和政治混亂。
本次聯(lián)名信最后,Let's enjoy a long AI summer, not rush unprepared into a fall(讓我們享受一個(gè)漫長(zhǎng)的 AI 盛夏,而不是毫無(wú)準(zhǔn)備的進(jìn)入深秋),這里是一個(gè)雙關(guān),秋天英文 fall 另有墜落之意。這項(xiàng)提議試圖警醒眾人不要對(duì)人工智能過(guò)度樂(lè)觀,讓我們毫無(wú)準(zhǔn)備的步入墜落的深淵。
公開(kāi)信鏈接:https://futureoflife.org/open-letter/pause-giant-ai-experiments/
大佬們?cè)趽?dān)心什么
發(fā)布公開(kāi)信的“未來(lái)生活研究所”創(chuàng)立于2014年,一直關(guān)注“開(kāi)發(fā)與人類(lèi)相當(dāng)?shù)?span id="vpdnjuj" class='hrefStyle'>人工智能技術(shù)過(guò)程中出現(xiàn)的風(fēng)險(xiǎn)”,霍金、馬斯克都是這家機(jī)構(gòu)的科學(xué)顧問(wèn);艚鹪谘芯克闪(dāng)年,通過(guò)公開(kāi)媒體發(fā)表對(duì)于AI技術(shù)最終將取代人類(lèi)的一系列“預(yù)言”。
馬斯克在麻省理工學(xué)院AeroAstro百年學(xué)術(shù)研討會(huì)上發(fā)表講話將人工智能稱(chēng)之為“我們面臨的最大威脅”。他說(shuō),“隨著人工智能的發(fā)展,我們將召喚出惡魔!比ツ12月,馬斯克也在推特上公開(kāi)表示,ChatGPT好得嚇人,我們離強(qiáng)大且危險(xiǎn)的AI不遠(yuǎn)了。上周,“人工智能教父”的 Geoffrey Hinton 受訪時(shí)表示,人工智能可能發(fā)展到對(duì)人類(lèi)構(gòu)成威脅“并非不可想象”的地步。
杰弗里·辛頓接受哥倫比亞廣播公司采訪
3月28日,AI領(lǐng)域?qū)<疑w瑞·馬庫(kù)斯發(fā)文稱(chēng),人工智能風(fēng)險(xiǎn)≠通用人工智能風(fēng)險(xiǎn),超級(jí)智能可能會(huì)也可能不會(huì)迫在眉睫,但在短期內(nèi),需要擔(dān)心“MAI(平庸人工智能)風(fēng)險(xiǎn)”。
人工智能風(fēng)險(xiǎn)與通用人工智能風(fēng)險(xiǎn)ChatGPT之父”薩姆·阿爾特曼的話比較耐人尋味。他說(shuō),GPT系列為何會(huì)出現(xiàn)推理能力,OpenAI的研究者自己搞不明白。他們只知道,在不斷測(cè)試中,人們忽然發(fā)現(xiàn)從ChatGPT開(kāi)始,GPT系列開(kāi)始出現(xiàn)了推理能力。自主意識(shí)和無(wú)序競(jìng)爭(zhēng)會(huì)把人類(lèi)卷死。
歐洲刑警組織27日對(duì)采用ChatGPT類(lèi)工具進(jìn)行犯罪的可能性進(jìn)行了討論,“大型語(yǔ)言模型檢測(cè)和重現(xiàn)語(yǔ)言模式的能力不僅有助于網(wǎng)絡(luò)釣魚(yú)和在線欺詐,而且通常還可以用來(lái)冒充特定個(gè)人或群體的講話風(fēng)格。這種能力可能會(huì)被大規(guī)模濫用,以誤導(dǎo)潛在受害者將他們的信任交給犯罪分子!
部分簽名者名單發(fā)表評(píng)論
請(qǐng)輸入評(píng)論內(nèi)容...
請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字
最新活動(dòng)更多
-
10月31日立即下載>> 【限時(shí)免費(fèi)下載】TE暖通空調(diào)系統(tǒng)高效可靠的組件解決方案
-
即日-11.13立即報(bào)名>>> 【在線會(huì)議】多物理場(chǎng)仿真助跑新能源汽車(chē)
-
11月28日立即報(bào)名>>> 2024工程師系列—工業(yè)電子技術(shù)在線會(huì)議
-
12月19日立即報(bào)名>> 【線下會(huì)議】OFweek 2024(第九屆)物聯(lián)網(wǎng)產(chǎn)業(yè)大會(huì)
-
即日-12.26火熱報(bào)名中>> OFweek2024中國(guó)智造CIO在線峰會(huì)
-
即日-2025.8.1立即下載>> 《2024智能制造產(chǎn)業(yè)高端化、智能化、綠色化發(fā)展藍(lán)皮書(shū)》
推薦專(zhuān)題
- 1 【一周車(chē)話】沒(méi)有方向盤(pán)和踏板的車(chē),你敢坐嗎?
- 2 特斯拉發(fā)布無(wú)人駕駛車(chē),還未迎來(lái)“Chatgpt時(shí)刻”
- 3 特斯拉股價(jià)大跌15%:Robotaxi離落地還差一個(gè)蘿卜快跑
- 4 馬斯克給的“驚喜”夠嗎?
- 5 海信給AI電視打樣,12大AI智能體全面升級(jí)大屏體驗(yàn)
- 6 打完“價(jià)格戰(zhàn)”,大模型還要比什么?
- 7 馬斯克致敬“國(guó)產(chǎn)蘿卜”?
- 8 神經(jīng)網(wǎng)絡(luò),誰(shuí)是盈利最強(qiáng)企業(yè)?
- 9 比蘋(píng)果偉大100倍!真正改寫(xiě)人類(lèi)歷史的智能產(chǎn)品降臨
- 10 諾獎(jiǎng)進(jìn)入“AI時(shí)代”,人類(lèi)何去何從?
- 高級(jí)軟件工程師 廣東省/深圳市
- 自動(dòng)化高級(jí)工程師 廣東省/深圳市
- 光器件研發(fā)工程師 福建省/福州市
- 銷(xiāo)售總監(jiān)(光器件) 北京市/海淀區(qū)
- 激光器高級(jí)銷(xiāo)售經(jīng)理 上海市/虹口區(qū)
- 光器件物理工程師 北京市/海淀區(qū)
- 激光研發(fā)工程師 北京市/昌平區(qū)
- 技術(shù)專(zhuān)家 廣東省/江門(mén)市
- 封裝工程師 北京市/海淀區(qū)
- 結(jié)構(gòu)工程師 廣東省/深圳市