2023年之前，恐怕誰(shuí)也沒(méi)想到，AI有一天能用如此速度，席卷全球。

?距離ChatGPT點(diǎn)燃全網(wǎng)討論熱度不到半年，GPT-4、Microsoft 365 Copilot、Midjourney V5、文心一言、Google PaLM API等眾多巨頭級(jí) AI 大模型及應(yīng)用已經(jīng)紛紛落地。

這些前沿科技成果在為大眾帶來(lái)震撼的同時(shí)，也難免讓人產(chǎn)生擔(dān)憂。一場(chǎng)“降臨派”與“拯救派”的較量在默默展開(kāi)。

近日，生命未來(lái)研究所（Future of Life）公開(kāi)發(fā)布一封名為《暫停大型人工智能研究》的公開(kāi)信，將這場(chǎng)較量放在了明面之上。公開(kāi)信中呼吁，所有人工智能實(shí)驗(yàn)室應(yīng)立即暫停比GPT-4更強(qiáng)大的人工智能系統(tǒng)的訓(xùn)練，為期至少6個(gè)月。

該機(jī)構(gòu)在信中提到：“只有當(dāng)我們確信其影響將是積極的，并且其風(fēng)險(xiǎn)是可控時(shí)，才應(yīng)該開(kāi)發(fā)強(qiáng)大的人工智能系統(tǒng)。這種信心必須有充分的理由，并隨著系統(tǒng)潛在影響的大小而增加。”

“人工智能實(shí)驗(yàn)室和獨(dú)立專(zhuān)家應(yīng)該利用這次暫停，共同制定和實(shí)施一套共享的安全協(xié)議，用于先進(jìn)的人工智能設(shè)計(jì)和開(kāi)發(fā)，這些協(xié)議由獨(dú)立的外部專(zhuān)家進(jìn)行嚴(yán)格的審計(jì)和監(jiān)督，并應(yīng)確保它們是安全的。”

特斯拉和推特的首席執(zhí)行官馬斯克、蘋(píng)果聯(lián)合創(chuàng)始人史蒂夫·沃茲尼亞克（Steve Wozniak、蒙特利爾學(xué)習(xí)算法研究所所長(zhǎng)約書(shū)亞·本吉奧（Yoshua Bengio）等眾多科技領(lǐng)域從業(yè)者和AI專(zhuān)家都在這封公開(kāi)信上留下簽名。截至發(fā)稿前，總?cè)藬?shù)已經(jīng)達(dá)到1794名，并仍在持續(xù)增加。

馬斯克與OpenAI“宮斗”始末

作為OpenAI公司的聯(lián)合創(chuàng)始人之一，馬斯克對(duì)其態(tài)度一直較為耐人尋味。過(guò)去幾個(gè)月，馬斯克對(duì) OpenAI 相關(guān)信息持續(xù)轟炸，一會(huì)兒強(qiáng)調(diào) AI 安全性的問(wèn)題，一會(huì)兒又“陰陽(yáng)” OpenAI 的代碼庫(kù)，而他作為第一位投資者，什么都沒(méi)有得到。

2015年，馬斯克和阿爾特曼一起擔(dān)任聯(lián)合主席，當(dāng)時(shí)，OpenAI的目標(biāo)是“以最有可能造福整個(gè)人類(lèi)的方式推進(jìn)數(shù)字智能，不受產(chǎn)生財(cái)務(wù)回報(bào)需求的約束”。

但他在2018年離開(kāi)了OpenAI的董事會(huì)，并撤銷(xiāo)了一大筆贊助款。雜志《財(cái)富》報(bào)道稱(chēng)，馬斯克雖然支持人工智能，但特斯拉智能駕駛技術(shù)與OpenAI之間有“潛在利益沖突”。

當(dāng)時(shí)特斯拉正在為自動(dòng)駕駛開(kāi)發(fā)自己的人工智能，并在與OpenAI競(jìng)爭(zhēng)人才。2022年離職的特斯拉自動(dòng)駕駛主管Andrej Kapathy就是其中之一。他是 OpenAI最優(yōu)秀的人才之一，且是AI界著名網(wǎng)紅，在推特和Medium上非�；钴S。

但在OpenAI，大多數(shù)員工對(duì)這個(gè)故事并不買(mǎi)賬�！禨emafor》采訪了八位熟悉內(nèi)情的人士后發(fā)現(xiàn)，馬斯克在2018年離開(kāi)的原因是奪權(quán)失敗。他認(rèn)為該公司已經(jīng)嚴(yán)重落后于Google，于是，馬斯克提出了一個(gè)可能的解決方案——他來(lái)掌控OpenAI并親自運(yùn)營(yíng)。然而，阿爾特曼和其他創(chuàng)始人拒絕了馬斯克的提議。

在這場(chǎng)權(quán)力之爭(zhēng)失敗后，馬斯克選擇離開(kāi)公司，并取消了一筆大規(guī)模的捐贈(zèng)計(jì)劃。這使得OpenAI無(wú)法支付在超級(jí)計(jì)算機(jī)上訓(xùn)練人工智能模型所需的巨額費(fèi)用。6個(gè)月后，OpenAI從微軟那里獲得了10億美元的投資，不僅是資金，還有微軟提供的基礎(chǔ)設(shè)施的專(zhuān)業(yè)知識(shí)。

這或許也就不難理解，為何在離開(kāi)OpenAI后，馬斯克就一直在批評(píng)后者，甚至矛頭直指其最大的支持者微軟。3月16日，馬斯克還在Twitter上表示，“我最早向OpenAI捐贈(zèng)了1億美元，當(dāng)時(shí)它還是非營(yíng)利的機(jī)構(gòu)，沒(méi)有所有權(quán)，也不受任何人控制。”他還抨擊微軟“將OpenAI占為己有”。

在越來(lái)越不可調(diào)和的矛盾面前，阿爾特曼也終于沒(méi)忍住爆了粗口。在最近與科技記者卡拉·斯威舍（Kara Swisher）的播客中，阿爾特曼用“混蛋”（jerk）來(lái)形容馬斯克。

有意思的是，此前阿爾特曼的名字也曾出現(xiàn)在公開(kāi)信上。后續(xù)，經(jīng)證明，此簽名為虛假簽名，很快被移除。

對(duì)于公開(kāi)信，阿爾特曼也并未做出直接回應(yīng)。但在30日早晨，他在Twitter發(fā)表了一些關(guān)于通用人工智能的觀點(diǎn)，OpenAI的另一位創(chuàng)始人格雷格·布羅克曼（Greg Brockman）也轉(zhuǎn)發(fā)了阿爾特曼的推文，并再次強(qiáng)調(diào)OpenAI的使命是“確保AGI惠及全人類(lèi)”。

都在擔(dān)憂什么？

“宮斗權(quán)謀”故事總歸令人興奮，但相比于馬斯克，名單上的大部分人則真正是對(duì)當(dāng)前突然加速的AGI（通用人工智能）發(fā)展感到擔(dān)憂——尤其是發(fā)展的速度。

在這封信的組織者之一、生命未來(lái)研究所所長(zhǎng)馬克斯·泰格馬克（Max Tegmark）看來(lái)，“把這說(shuō)成是一場(chǎng)軍備競(jìng)賽是不幸的，這更像是一場(chǎng)自殺競(jìng)賽。誰(shuí)先到達(dá)那里并不重要，它意味著人類(lèi)作為一個(gè)整體可能會(huì)失去對(duì)自己命運(yùn)的控制。”

更加具有爭(zhēng)議性的一點(diǎn)是，在這項(xiàng)新技術(shù)以光速發(fā)展的同時(shí)，大型科技公司卻一直在致力于裁減評(píng)估部署AI相關(guān)倫理問(wèn)題的團(tuán)隊(duì)員工。今年1月，微軟在萬(wàn)人級(jí)別大裁員行動(dòng)中，解散了所有的倫理道德與社會(huì)團(tuán)隊(duì)。隨后，Meta、谷歌、亞馬遜和推特等公司都裁減了其“負(fù)責(zé)任的人工智能團(tuán)隊(duì)”（Responsible AI）的成員，這些團(tuán)隊(duì)負(fù)責(zé)為使用AI的消費(fèi)產(chǎn)品提供安全建議。

頗為諷刺的是，推特的“道德人工智能（Ethical AI）”團(tuán)隊(duì)，也在裁員中全軍覆沒(méi)，彼時(shí)距離馬斯克接手推特只不過(guò)剛剛兩個(gè)月。

在AI發(fā)展堪稱(chēng)光速的當(dāng)下，這么多相關(guān)員工被解雇讓眾多業(yè)內(nèi)人士感到震驚和不解。Alphabet 旗下 DeepMind 的前倫理和政策研究員安德魯·斯科特（Andrew Strait） 表示，“在比以往任何時(shí)候都需要這樣的團(tuán)隊(duì)的時(shí)候，有這么多相關(guān)員工被解雇。”

“這些東西正在塑造我們的世界，”長(zhǎng)期以來(lái)批評(píng)AI系統(tǒng)缺陷的企業(yè)家、學(xué)者加里·馬庫(kù)斯在接受采訪時(shí)這樣說(shuō)道，“我們面臨著不負(fù)責(zé)任的企業(yè)、廣泛應(yīng)用、監(jiān)管缺失和大量未知因素引發(fā)的‘完美風(fēng)暴’。”

但同時(shí)，馬庫(kù)斯也明白，說(shuō)服更廣泛的科技界同意暫停是很困難的。

圖靈三巨頭之一楊立昆（LeCun）認(rèn)為，所謂“暫停研發(fā)”，不過(guò)就是“秘密研發(fā)”罷了，這與一些簽名者所希望的恰恰完全相反。

值得一提的是，此前由于競(jìng)爭(zhēng)立場(chǎng)關(guān)系，楊立昆一直對(duì)ChatGPT甚至聊天機(jī)器人持反對(duì)態(tài)度，他曾直言，“ChatGPT滿嘴胡謅，你們卻對(duì)它如此寬容，但我家的Galactica才出來(lái)三天，就被你們罵到下線了。”

這次因?yàn)檫@份公開(kāi)信，展露出了與OpenAI冰釋前嫌的信號(hào)，也是令人啼笑皆非。

與此同時(shí)，馬庫(kù)斯認(rèn)為，公開(kāi)信中提到的“如果不暫停，應(yīng)由政府強(qiáng)制暫停”的可能性也很小，因?yàn)榱⒎ㄕ咴诒O(jiān)管AI方面做得很少。

昨日，美國(guó)科技倫理組織人工智能與數(shù)字政策中心（CAIDP）要求美國(guó)聯(lián)邦貿(mào)易委員會(huì)（FTC）禁止 OpenAI 發(fā)布新的商業(yè)版 GPT-4，目前后者對(duì)此尚未做出回應(yīng)。

加州共和黨眾議員杰伊·奧伯諾爾特（Jay oberolte）表示，美國(guó)政界對(duì)這項(xiàng)技術(shù)了解不多，“你會(huì)驚訝于我花了多少時(shí)間向我的同事解釋人工智能的主要危險(xiǎn)不會(huì)來(lái)自邪惡的機(jī)器人，它們的眼睛里會(huì)射出紅色激光。”

2021年，歐盟政策制定者倒是提出了一項(xiàng)法律，旨在規(guī)范可能造成傷害的AI技術(shù)，包括面部識(shí)別系統(tǒng)。該措施預(yù)計(jì)最早將于今年通過(guò)，它要求公司對(duì)AI技術(shù)進(jìn)行風(fēng)險(xiǎn)評(píng)估，以確定它們的應(yīng)用將是否影響健康、安全和個(gè)人權(quán)利。

但前谷歌大腦成員、在線教育平臺(tái)Coursera的創(chuàng)始人吳恩達(dá)在政府介入方面，表示了強(qiáng)烈的反對(duì)。他認(rèn)為，讓政府暫停他們不了解的新興技術(shù)是反競(jìng)爭(zhēng)的，這會(huì)樹(shù)立一個(gè)可怕先例，是糟糕的創(chuàng)新政策。

“在推進(jìn)技術(shù)發(fā)展的同時(shí)，讓我們也對(duì)安全進(jìn)行更多的投資，而不是扼殺進(jìn)步。”吳恩達(dá)如是呼吁。

參考資料：

《The secret history of Elon Musk, Sam Altman, and OpenAI》-《Semafor》

《馬斯克們的擔(dān)憂并非空穴來(lái)風(fēng)？大型科技公司裁減了AI倫理團(tuán)隊(duì)》-華爾街見(jiàn)聞

《Elon Musk, Other AI Experts Call for Pause in Technology’s Development》-《華爾街日?qǐng)?bào)》

《AI Leaders Urge Labs to Halt Training Models More Powerful Than ChatGPT-4》-《紐約時(shí)報(bào)》

       原文標(biāo)題 : 馬斯克“宮斗”GPT-5