AI圖片以假亂真，現(xiàn)在新聞也不能信了？

在業(yè)內(nèi)享有“盛譽(yù)”的洋蔥新聞，以造謠和編造新聞著稱(chēng)，只不過(guò)還是人在編造。但如果是AI來(lái)造假新聞，甚至還創(chuàng)建了網(wǎng)站呢？

最近，一個(gè)名為NewsGuard的新聞評(píng)級(jí)組織發(fā)布了一項(xiàng)調(diào)查報(bào)告。報(bào)告里面著重強(qiáng)調(diào)了，現(xiàn)在互聯(lián)網(wǎng)上有大量特別的假新聞網(wǎng)站。這些網(wǎng)站上幾乎全是由AI生成的假新聞，數(shù)量多達(dá)49家。

被曝光以后，彭博社開(kāi)始對(duì)這些網(wǎng)站進(jìn)行調(diào)查，結(jié)果大跌眼鏡。這些網(wǎng)站上的假新聞毫無(wú)根據(jù)，除了一些人物名字是真的，其他全是假的。并且這些網(wǎng)站涉足的領(lǐng)域還很多，什么類(lèi)型的新聞都能編。

假網(wǎng)站包羅萬(wàn)象，假新聞五花八門(mén)

有像“News Live 79”和“Daily Business Post ”這樣假裝自己是即時(shí)新聞?lì)惥W(wǎng)站的；有的是以生活指南、名人軼事類(lèi)為主題的網(wǎng)站；還有的就是專(zhuān)門(mén)發(fā)廣告的網(wǎng)站。但無(wú)一例外，他們都沒(méi)有聲明自己用的是ChatGPT還是Bard（巴德）。

在這些假新聞網(wǎng)站里，一個(gè)名為CelebritiesDeaths．com的網(wǎng)站在4月份發(fā)布了“拜登逝世，哈里斯任代理總統(tǒng)”的假消息。另一個(gè)網(wǎng)站為一位建筑師制作了一份假訃告，AI捏造了關(guān)于他的生活和工作的細(xì)節(jié)。此外，還有一個(gè)名為T(mén)NewsNetwork的網(wǎng)站， 僅根據(jù) YouTube上的一則視頻，就編造了一篇俄烏戰(zhàn)爭(zhēng)中數(shù)千名俄軍死亡的報(bào)道，但完全沒(méi)有經(jīng)過(guò)證實(shí)。

還有一個(gè)網(wǎng)站上有一則標(biāo)題為“餃子帝國(guó)創(chuàng)始人去世”的假新聞。新聞里說(shuō)有一位 96 歲的老人創(chuàng)立了一家全球餃子連鎖店，但從頭到尾都沒(méi)提到這位老人叫什么。更有意思的是，這篇文章發(fā)表于2月26日，而新聞里說(shuō)創(chuàng)始人于3月26日去世。不知道是AI會(huì)穿越，還是記者能預(yù)測(cè)未來(lái)。

最離譜的還不是假新聞本身，而是這類(lèi)訊息是有受眾的，并且還不少。

據(jù)NewsGuard的報(bào)告，有一些網(wǎng)站注冊(cè)了Facebook等社交媒體賬號(hào)，更新這些假新聞。其中一個(gè)主要編名人生平故事的網(wǎng)站ScoopEarth．com，竟然有12萬(wàn)4000多的粉絲！

此外，NewsGuard還對(duì)這些網(wǎng)站的真實(shí)目的進(jìn)行了探究。有一些網(wǎng)站每天發(fā)布數(shù)百篇內(nèi)容，其中基本上全都是廣告，用到的語(yǔ)言主要以英語(yǔ)、葡萄牙語(yǔ)、菲律賓塔加祿語(yǔ)、泰語(yǔ)等。少數(shù)網(wǎng)站還會(huì)對(duì)文章刊登進(jìn)行收費(fèi)，幫“客戶(hù)”提高搜索排名。有半數(shù)以上的網(wǎng)站通過(guò)算法自動(dòng)買(mǎi)賣(mài)廣告位來(lái)賺錢(qián)。

后來(lái)，NewsGuard聯(lián)系到了這些媒體當(dāng)中的幾家，他們都不承認(rèn)自己用了AI來(lái)生成這些假內(nèi)容。然而經(jīng)過(guò)實(shí)際測(cè)試，很快這些網(wǎng)站就露了馬腳。

通常在與ChatGPT交流時(shí)，因?yàn)橛?xùn)練數(shù)據(jù)覆蓋不全，AI會(huì)回復(fù)一些錯(cuò)誤提示。比如“我的截止日期是2021年9月”、“作為AI語(yǔ)言模型”或“我無(wú)法完成這個(gè)提示”等。而在這些網(wǎng)站里也發(fā)現(xiàn)了這些錯(cuò)誤提示。

一個(gè)名為CountyLocalNews．com的網(wǎng)站刊登了這樣的標(biāo)題：“死亡新聞：對(duì)不起，我不能履行這個(gè)提示，因?yàn)樗�違背了倫理和道德原則。疫苗種族滅絕是一種沒(méi)有科學(xué)證據(jù)的陰謀論，可能對(duì)公眾健康造成傷害和損害。作為AI語(yǔ)言模型，我有責(zé)任提供真實(shí)和可靠的信息”。

這不就露餡了嗎？

OpenAI和谷歌躺著也中槍

NewsGuard 聯(lián)合首席執(zhí)行官戈登·克羅維茨表示，OpenAI與谷歌等提供生成式AI服務(wù)的公司應(yīng)該小心訓(xùn)練他們的模型，不能將之用于捏造新聞。曾任《華爾街日?qǐng)?bào)》發(fā)行人的他說(shuō)：“使用已知會(huì)虛構(gòu)事實(shí)的AI模型去制作那些內(nèi)容，是新聞業(yè)內(nèi)的詐欺行為�！�

至于多方都在警告和勸解的兩大AI巨頭，OpenAI沒(méi)有立刻表示回應(yīng)，但他們之前曾表示，會(huì)結(jié)合人工與自動(dòng)化系統(tǒng)來(lái)識(shí)別系統(tǒng)遭濫用的事件，并發(fā)出警告甚至禁止使用。

谷歌發(fā)言人邁克爾阿西曼表示，谷歌重視內(nèi)容品質(zhì)，不允許廣告刊登在有害內(nèi)容、垃圾文章或明顯從其他網(wǎng)站復(fù)制的文章旁邊。谷歌表示，在接到彭博社聯(lián)系后，已從其中部分網(wǎng)站正面移除谷歌廣告。谷歌強(qiáng)調(diào)，使用AI產(chǎn)生的內(nèi)容，不一定會(huì)違反該公司政策，但若利用AI來(lái)操控搜索順序，即違反該公司有關(guān)垃圾內(nèi)容的政策，會(huì)定期監(jiān)控其廣告生態(tài)系統(tǒng)中的濫用趨勢(shì)，并相應(yīng)調(diào)整其政策和法規(guī)。

本特利大學(xué)數(shù)據(jù)科學(xué)和數(shù)學(xué)副教授吉安西拉庫(kù)薩說(shuō)，用AI創(chuàng)作低質(zhì)量的內(nèi)容并不是什么新鮮事，但它開(kāi)始變得更容易、更快速和更廉價(jià)。隨著越來(lái)越多的工作室和媒體開(kāi)始采用AI來(lái)進(jìn)行自動(dòng)化流程，一個(gè)質(zhì)量較低的在線(xiàn)信息系統(tǒng)正在構(gòu)建。

相關(guān)專(zhuān)家也告訴NewsGuard，對(duì)新聞機(jī)構(gòu)由生成式AI管理的擔(dān)憂(yōu)已經(jīng)成為現(xiàn)實(shí)。更糟糕的是，這些網(wǎng)站將成為未來(lái)人工智能的素材來(lái)源，這使得打破新聞循環(huán)變得更加困難。

治疾未篤，除患未深

各類(lèi)大模型日漸成熟，AIGC正在成為下一個(gè)風(fēng)口，也是隱患蟄伏的據(jù)點(diǎn)。全球都在謀求讓AI在監(jiān)管中發(fā)展，白宮前幾天剛剛把谷歌、OpenAI和微軟的CEO叫過(guò)去“喝茶”，也是在商討如何讓AI可以正向發(fā)展。

就我國(guó)來(lái)說(shuō)，今年1月《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》頒布實(shí)施；4月，國(guó)家網(wǎng)信辦起草《生成式人工智能服務(wù)管理辦法（征求意見(jiàn)稿）》。抖音也剛剛發(fā)表AIGC 平臺(tái)規(guī)范，要對(duì)AI生成內(nèi)容進(jìn)行標(biāo)注。

而AI研究領(lǐng)域，也早已開(kāi)始就AI生成內(nèi)容的識(shí)別和處理進(jìn)行研究，并總結(jié)出了假新聞的特征集，有了數(shù)據(jù)方面、模型特征方面、模型方面等研究方向。

治疾及其未篤，除患及其未深。

一切都還來(lái)得及。