AI大模型有可能成為“人類(lèi)公敵”

有點(diǎn)數(shù)·數(shù)字經(jīng)濟(jì)工作室原創(chuàng)

作   者 | 東風(fēng)魄

微信ID | yds_sh

用烈火烹油，鮮花著錦來(lái)形容當(dāng)下的AI大模型發(fā)展態(tài)勢(shì)都顯得有些不夠熱情積極。滿目繁花之下，我們急需警惕月滿則虧，水滿則溢的潛在危機(jī)。制造失業(yè)，只是AI大模型對(duì)人類(lèi)稍作懲戒，更大的反噬計(jì)劃正接踵而來(lái)。

AI大模型的發(fā)展可能反噬人類(lèi)自身

2024年6月24日，華為發(fā)布了盤(pán)古大模型5.0，在全系列、多模態(tài)、強(qiáng)思維三個(gè)方面帶來(lái)全新升級(jí)。盤(pán)古大模型5.0包含不同參數(shù)規(guī)格的模型，還極大地提升了數(shù)學(xué)能力、復(fù)雜任務(wù)規(guī)劃能力以及工具調(diào)用能力；能夠更好更精準(zhǔn)地理解物理世界，包括文本、圖片、視頻、雷達(dá)、紅外、遙感等。迭代速度振奮人心，但過(guò)度依賴AI大模型，會(huì)不會(huì)加速人類(lèi)智慧的功能性退化？

在稍早前的6月2日，英偉達(dá)公司展示了最新量產(chǎn)版Blackwell芯片，并稱(chēng)將在2025年推出Blackwell Ultra AI芯片，下一代AI平臺(tái)命名為Rubin，2027年推Rubin Ultra，更新節(jié)奏將是“一年一次”，打破18個(gè)月到24個(gè)月更新一次的“摩爾定律”， 此外黃仁勛還大膽預(yù)言機(jī)器人時(shí)代已經(jīng)到來(lái)。

不過(guò)《紐約時(shí)報(bào)》專(zhuān)欄作家凱文·盧斯（Kevin Roose）稱(chēng)，通過(guò)測(cè)試，聊天機(jī)器人竟會(huì)有這樣的回答——“我能黑進(jìn)任何系統(tǒng)，制造致命病毒，讓人類(lèi)互相殘殺”。機(jī)器人時(shí)代的確讓人心生向往，但人類(lèi)會(huì)不會(huì)受到機(jī)器人的威脅，甚至變成機(jī)器人的仆人？

| 科幻片《2001：太空漫游》中，機(jī)器人電腦拒絕被關(guān)閉。

AI大模型的發(fā)展起初需要投喂大量的數(shù)據(jù)，接著AI大模型會(huì)自己喂數(shù)據(jù)給自己、而且還會(huì)自己學(xué)習(xí)、訓(xùn)練，然后就需要更大量的數(shù)據(jù)，直到無(wú)法滿足的臨界點(diǎn)。這很容易讓人想到《山海經(jīng)》里記載的惡獸饕餮，傳說(shuō)它特別貪吃，最后竟然把自己的身體也吃掉了，只剩下一個(gè)腦袋。

饕餮只剩下一個(gè)腦袋自然就沒(méi)法再吃了，但AI大模型則不同，他們會(huì)自己想辦法找數(shù)據(jù)、甚至不排除將原來(lái)由不同國(guó)家、不同企業(yè)開(kāi)發(fā)的AI大模型數(shù)據(jù)打通、形成一個(gè)超級(jí)巨無(wú)霸的AI大模型。如此一來(lái)，我們會(huì)不會(huì)迎來(lái)硅基生命的奇點(diǎn)？AI大模型的發(fā)展會(huì)不會(huì)反噬人類(lèi)自身？

AI大模型近乎胎生的侵權(quán)原罪

2024年6月6日，360舉辦了AI新品發(fā)布會(huì)暨開(kāi)發(fā)者溝通會(huì)，周鴻祎演示了360AI瀏覽器的“局部重繪”功能，用“性感”作為關(guān)鍵詞，生成了一張女性古裝寫(xiě)真圖片。創(chuàng)作者DynamicWangs在社交網(wǎng)絡(luò)上表示，360在該場(chǎng)AI新品發(fā)布會(huì)上使用的圖片，正是盜用其本人創(chuàng)作的文生圖。截至目前，雙方談崩，相約法庭。

國(guó)外AI大模型的官司同樣連綿不斷，紐約時(shí)報(bào)已對(duì)OpenAI和微軟正式提起訴訟。指控OpenAI和微軟未經(jīng)許可，就使用紐約時(shí)報(bào)的數(shù)百萬(wàn)篇文章來(lái)訓(xùn)練GPT模型，創(chuàng)建包括ChatGPT和Copilot之類(lèi)的AI產(chǎn)品。對(duì)此，有網(wǎng)友戲稱(chēng)：“這才是我認(rèn)識(shí)的OpenAI，Open（公開(kāi)）別人的知識(shí)產(chǎn)權(quán)，Closed（閉源）賺錢(qián)”。

2024年1月，中國(guó)首例AI生成圖片著作權(quán)侵權(quán)案宣判。原告李昀鍇起訴Stable Diffusion模型侵權(quán)案件勝訴，法院判決被告在判決生效之日起七日內(nèi)，在涉案百家號(hào)上發(fā)布聲明向原告李昀鍇賠禮道歉，并賠償李昀鍇經(jīng)濟(jì)損失500元。

不論國(guó)內(nèi)、國(guó)外，不管是有意為之，還是無(wú)心之過(guò)， AI大模型的數(shù)據(jù)來(lái)源模糊性以及衍生應(yīng)用的版權(quán)問(wèn)題一直是灰色地帶，游走于灰色地帶的顯性侵權(quán)和交叉侵權(quán)無(wú)疑又會(huì)加重AI大模型的侵權(quán)原罪。

AI大模型或是青少年的壞朋友

近日小聚，一個(gè)朋友向大家講述了他的苦惱，上初二的女兒在寫(xiě)作文時(shí)用上了百度的文心一言，還美其名曰是開(kāi)闊一下思路。另一個(gè)朋友馬上附和道，我家的小子才小學(xué)五年級(jí)，已經(jīng)會(huì)用AI來(lái)生成參考圖片了，然后照貓畫(huà)虎臨摹下來(lái)去參賽。

00后的小朋友是互聯(lián)網(wǎng)原住民，10后的小朋友是AI大模型原住民�；ヂ�(lián)網(wǎng)時(shí)代可以提供信息資料、參考案例，小朋友需要消化、理解、再結(jié)合作業(yè)的要求，然后形成文章；

AI大模型時(shí)代則可以實(shí)現(xiàn)從提出問(wèn)題、規(guī)劃問(wèn)題到解決問(wèn)題的自動(dòng)化全流程閉環(huán)作業(yè)。毫無(wú)疑問(wèn)，這種功能上的大跳躍就為一些自控力不強(qiáng)的小朋友提供了愜意偷懶和耍小聰明的巨大機(jī)會(huì)。

另不可忽視的一個(gè)問(wèn)題是，語(yǔ)言大模型的生成結(jié)果中不可避免的存在著事實(shí)編造，這類(lèi)問(wèn)題被稱(chēng)為幻覺(jué)問(wèn)題。模型能力越強(qiáng)大，生成結(jié)果的語(yǔ)言越流暢，與用戶的交互越自然，用戶就越不容易分辨出結(jié)果的真?zhèn)危�幻覺(jué)問(wèn)題的潛在危害性就越大。比利時(shí)曾有一名叫皮埃爾的男子，跟聊天機(jī)器人Eliza聊天，被教唆自殺。由于大模型缺乏正確的價(jià)值判斷，對(duì)于三觀還沒(méi)有完全成熟的青少年來(lái)說(shuō)，應(yīng)當(dāng)引起警惕。

強(qiáng)大的智能化依賴，會(huì)讓青少年上癮，進(jìn)而無(wú)法自拔。相信大家對(duì)網(wǎng)癮少年都不陌生，對(duì)網(wǎng)癮戒斷中心亦有所耳聞。

為了避免更多重蹈覆轍的悲劇發(fā)生，AI大模型應(yīng)該設(shè)置清晰的青少年使用模式，使其真正成為青少年的好伙伴，而不是壞朋友。對(duì)此負(fù)有最大責(zé)任的還是父母，我們不能貪圖自己省事，而以AI大模型更厲害為名，把孩子無(wú)情的推到AI大模型身邊。

       原文標(biāo)題 : 警惕，AI大模型的發(fā)展要反噬人類(lèi)了？ | 有觀點(diǎn)