01

AI騙子，防不勝防

AI進(jìn)化的速度有多快，騙術(shù)也跟著變得更狠。

福州一位科技公司的老板，某天突然接到了個好友的微信視頻，說是自己的朋友在外地競標(biāo)，需要 430 萬的保證金，想走他的公司賬戶過個賬。老郭在確認(rèn)視頻通話里的人和聲音都是他朋友之后，就同意了。

隨后，對方就給老郭發(fā)了一張銀行卡轉(zhuǎn)賬成功的截圖，說是錢已經(jīng)轉(zhuǎn)到老郭的戶頭上了，由于老郭之前已經(jīng)確認(rèn)了朋友的身份，在沒確認(rèn)錢到帳與否的情況下，直接就把 430 萬轉(zhuǎn)到了好友給的銀行卡上。

結(jié)果，這是一場騙局，還是AI操控的。雖然接到報警后，福州、包頭兩地警銀迅速啟動止付機制，成功止付攔截336.84萬元，但仍有93.16萬元被轉(zhuǎn)移。

還有利用AI進(jìn)行聲音合成實施的詐騙。騙子通過騷擾電話錄音等來提取某人聲音，獲取素材后進(jìn)行聲音合成，從而可以用偽造的聲音騙過對方。

已經(jīng)有人因為AI聲音被騙了。曾有某公司財務(wù)接到領(lǐng)導(dǎo)電話，要求立刻給供應(yīng)商轉(zhuǎn)款2萬元，并將轉(zhuǎn)賬信息以郵件形式發(fā)送，轉(zhuǎn)款理由是避免繳納滯納金，因為老板的口音十分逼真，財務(wù)也信了，在1小時內(nèi)轉(zhuǎn)款完成，轉(zhuǎn)完才發(fā)現(xiàn)被騙。

AI 換臉早已不是什么新鮮事，很多短視頻鬼畜博主都精通這種操作，但擬聲技術(shù)相對復(fù)雜一些，畢竟犯罪分子需要獲取你的聲音，然后通過軟件將聲音變成他們想要的內(nèi)容。

實際上，如今的騙子想要獲取聲音也并不難，最普遍的方法就是騷擾電話，只要你接電話后并說了幾句話，那么犯罪分子就會對你的聲音進(jìn)行錄制，并提取你聲音的信息。

有業(yè)內(nèi)人士表示，犯罪分子通過這一套流程進(jìn)行詐騙的成功率基本是 100%，尤其是面向那些并不懂AI、防范意識可能薄弱的老年群體，AI詐騙更容易發(fā)生。

類似的聲音騙局，國外也早有發(fā)生。

一個國外的詐騙公司，使用 AI 模擬了“卷福”的音頻，打電話給一家新西班牙的小電影公司，稱想要和對方合作，并要求對方先打款 20 萬英鎊才能見面，結(jié)果在電影公司付完錢之后，他們才發(fā)現(xiàn)這次事件，完完全全就是一場AI騙局。

對于AI騙局，有律師表示，使用人工智能技術(shù)手段模仿真人面容、聲音，冒充親友、熟人、領(lǐng)導(dǎo)等，很容易達(dá)到以假亂真的程度，具有極強的迷惑性。與其他類型電信詐騙相比，AI詐騙迷惑性更強，針對性更強，辨識更困難。

如今，耳聽，眼見都不一定為實，各種騙局真是讓人防不勝防。

02

AI有多強大？讓孫燕姿本人都害怕

最近，關(guān)于AI還發(fā)生了一個熱點：孫燕姿本人親自回應(yīng)AI孫燕姿。

對于熱門歌手AI，孫燕姿自己都承認(rèn)，“諷刺的是，人類再怎么快也無法超越它。”

她在回應(yīng)小作文里寫道，“人類無法超越AI技術(shù)已指日可待，凡事皆有可能，凡事皆無所謂。”就算暫時能夠辨認(rèn)出AI歌手和真人歌手的區(qū)別，很快這條護(hù)城河也將不復(fù)存在。這種被虛擬淹沒真實的感受，如今已經(jīng)在全世界蔓延。

AI不光是唱歌可以完全貼近真人，連直播帶貨的活都可以接。

最近有人在直播間里發(fā)現(xiàn)，正在賣貨的竟是當(dāng)紅女星。然而再定睛一看，這些明星居然是使用了AI實時換臉技術(shù)的普通主播。

AI實時換臉，正在直播間悄然出現(xiàn)，楊冪、迪麗熱巴、angelababy等當(dāng)紅女星，成為了AI換臉的熱門。雖然目前還沒有曝出被騙新聞，但由于明星臉的帶貨主播往往擁有更好的引流效果，消費者或明星粉絲很可能會沖著明星效應(yīng)進(jìn)行消費而被坑騙。

而這種技術(shù)門檻也并不高。有媒體報道，AI實時換臉全套模型購買價僅需3.5萬元。

買不起全套模型，還有“AI換臉特效插件”供買家選擇，售價數(shù)百元，只對電腦配置有一定要求，購買后使用者只需更換素材照片，軟件就能自己運行完成“換臉”。這款軟件不僅能對圖片進(jìn)行換臉，也能在視頻上進(jìn)行換臉。

AI換臉的風(fēng)靡，還帶來了“AI脫衣”的新問題。早在今年3月，一則“女子地鐵照被AI一鍵脫衣傳播”的新聞沖上了熱搜，一名女性搭乘地鐵時的一張照片被人用AI軟件“一鍵脫衣”，遭到惡意傳播，罪犯還廣泛散布不實信息對該女子進(jìn)行污蔑。

更可怕的是，AI深度偽造（DeepFake）內(nèi)容，可以利用互聯(lián)網(wǎng)平臺在全球范圍內(nèi)病毒式傳播。比如AI現(xiàn)在居然還能通過發(fā)布假新聞，讓股市抖三抖。

幾天前，多個經(jīng)過驗證的推特賬戶，齊刷刷分享了一張聲稱在五角大樓附近發(fā)生爆炸的假照片，頓時引起轟動，并導(dǎo)致股市短暫下跌。

這張照片雖然具有AI生成的所有特征，但是因為被許多經(jīng)過驗證并打上了藍(lán)色勾的推特賬戶分享，不少人還是信以為真，謠言一傳十十傳百，甚至有人聲稱這張照片與彭博新聞有關(guān)。

連印度一家電視臺都信了，共和國電視臺(Republic TV)報道稱五角大樓發(fā)生了爆炸，并在節(jié)目中播放了這張假圖片，后來，當(dāng)發(fā)現(xiàn)美國當(dāng)?shù)毓賳T證實沒有發(fā)生此類事件后，共和國電視臺快速撤回了這則報道，這一番操作下來也是相當(dāng)尷尬。

03

AI騙局，并非沒有破綻

隨著AI技術(shù)的不斷發(fā)展，被AI騙的人越來越多。根據(jù)殺毒軟件 McAfee 公布的最新報告，基于人工智能的語音詐騙越發(fā)猖獗，在接到 AI 詐騙電話的群體中，有 77% 的人會上當(dāng)受騙。

今年3月，一份名為《暫停大型人工智能研究》的公開信在未來生命研究所官網(wǎng)上發(fā)布，包括特斯拉CEO埃隆·馬斯克（Elon Musk）、蘋果公司聯(lián)合創(chuàng)始人史蒂夫•沃茲尼亞克（Steve Wozniak）等人在內(nèi)的千名科學(xué)家、企業(yè)高管簽字呼吁暫緩GPT-4以上版本的研發(fā)，他們矛頭所指都是強大AI技術(shù)可能的負(fù)面用途。

不過AI詐騙雖然逼真，但它并不是沒有破綻，比如AI換臉技術(shù)會導(dǎo)致臉部變形，一些主播低下頭頭頂會發(fā)黑，AI的聲音，也很難表達(dá)真實的主觀情緒。

正如不少網(wǎng)友所說，AI孫燕姿“根本不是孫燕姿的唱法。”“AI孫燕姿能模仿她的音色，但模仿不到她的感情；AI孫燕姿能模仿她的聲音，但模仿不了她的現(xiàn)場。”

與此同時，國內(nèi)與AI換臉、換聲相關(guān)的法律法規(guī)也在不斷完善。

在過去，“AI換臉”被大量使用到影視劇二度創(chuàng)作、趣味惡搞視頻、表情包制作當(dāng)中，其中隱藏的法律風(fēng)險和侵權(quán)糾紛，如今都在得到重視，不少擦邊行為已經(jīng)得到了及時的懲治。

比如近期，據(jù)企查查官網(wǎng)信息顯示，上海魚腥草信息科技有限公司就因旗下一款換臉手機APP遭多位網(wǎng)紅博主起訴，很快在監(jiān)管部門約談后，這款A(yù)pp下架，因為換臉侵犯了公民的肖像權(quán)。

去年12月，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》發(fā)布，對人臉生成、替換、操控，合成人聲、仿聲等都有明確約束。顯然，隨著制度設(shè)計更精準(zhǔn)，相關(guān)立法更健全，AI肆意換臉的空間將越來越小。

就在4月11日，國家互聯(lián)網(wǎng)信息辦公室又迅速起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)，可以說，對當(dāng)下的AI偽造都進(jìn)行了更為全面的約束。

AI究竟是天使還是魔鬼，全在于使用者的一念之差，但唯一可以確定的是，潘多拉魔盒，已經(jīng)打開。

參考資料：

《AI詐騙正在全面爆發(fā)》，紅星新聞；

《“AI換臉”詐騙防不勝防？要用“法”打敗“魔法”！》，京報網(wǎng)；

《警惕四大AI新騙術(shù)，有人10分鐘被騙430萬》，智東西

       原文標(biāo)題 : 10分鐘騙走430萬，如何堤防詐騙新技術(shù)？