作者 | 張倩茹來(lái)源 | 零壹智庫(kù)

“必須強(qiáng)調(diào)的是，安全科技并不是一個(gè)純商業(yè)范圍的議題，而是清晰的具備公共品的特征。”

隨著科技的進(jìn)步，數(shù)字化已成為越來(lái)越清晰的現(xiàn)實(shí)。不僅僅互聯(lián)網(wǎng)，幾乎所有的行業(yè)都在擁抱數(shù)字化浪潮，隨之而來(lái)的安全風(fēng)險(xiǎn)也呈現(xiàn)愈演愈烈之勢(shì)。

據(jù)Flashpoint發(fā)布的數(shù)據(jù)顯示，僅2022年，全球發(fā)生的數(shù)據(jù)泄露事件就高達(dá)4518件，數(shù)據(jù)量更是達(dá)到226.2億條。

“數(shù)字化安全風(fēng)險(xiǎn)已經(jīng)進(jìn)入到快迭代、高智能、全覆蓋的新階段。”中國(guó)社會(huì)科學(xué)院大學(xué)數(shù)字中國(guó)研究院聯(lián)合螞蟻集團(tuán)等對(duì)外發(fā)布的《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》（以下簡(jiǎn)稱“《報(bào)告》”）中指出，2023年AI大模型橫空出世，大大推進(jìn)了深度智能時(shí)代的到來(lái)，它對(duì)安全局面的影響可能是顛覆性的。當(dāng)下，我們正站在安全風(fēng)險(xiǎn)的質(zhì)變時(shí)刻。

在這個(gè)全新階段，安全科技的重要性不言而喻，對(duì)安全科技的關(guān)注與投入已刻不容緩。安全科技作為“壓艙石”和“助燃劑”，一方面要守住技術(shù)的安全底線，另一方面要讓新技術(shù)規(guī)�；�落地，推動(dòng)產(chǎn)業(yè)煥發(fā)新機(jī)。

《報(bào)告》認(rèn)為，安全科技將會(huì)是未來(lái)的通用技術(shù)之一，應(yīng)該以公共品的定位來(lái)判斷安全科技的價(jià)值，推動(dòng)其發(fā)展，而政企合作是安全科技成為公共品的核心驅(qū)動(dòng)力。

 01 

質(zhì)變時(shí)刻

“2008年以來(lái)，中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展指數(shù)呈現(xiàn)出爆發(fā)式增長(zhǎng)態(tài)勢(shì)。”零壹智庫(kù)在《中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展指數(shù)報(bào)告（2023）》中指出，2008-2022年，中國(guó)數(shù)字經(jīng)濟(jì)發(fā)展指數(shù)從100上升至572.26，年復(fù)合增長(zhǎng)率達(dá)13.27%，遠(yuǎn)高于同期9.48%的經(jīng)濟(jì)發(fā)展增速。

另?yè)?jù)中國(guó)信通院的數(shù)據(jù)，2022年我國(guó)數(shù)字經(jīng)濟(jì)規(guī)模首次突破50萬(wàn)億元大關(guān)，達(dá)到50.2萬(wàn)億元，占GDP比重提升至41.5%。

伴隨著數(shù)字經(jīng)濟(jì)的快速發(fā)展，新一代信息化數(shù)字技術(shù)與傳統(tǒng)行業(yè)快速融合，帶來(lái)了更加隱蔽、復(fù)雜的數(shù)字安全風(fēng)險(xiǎn)，數(shù)據(jù)泄漏、勒索軟件、黑客攻擊等事件層出不窮。

人工智能技術(shù)大爆發(fā)之后，“算法安全”“虛假信息”“數(shù)據(jù)歧視”等問題持續(xù)突出，數(shù)字安全風(fēng)險(xiǎn)面臨著日趨嚴(yán)峻的挑戰(zhàn)。

2023年下半年，國(guó)際身份軟件巨頭Okta業(yè)務(wù)系統(tǒng)遭到黑客攻擊，導(dǎo)致客戶敏感數(shù)據(jù)泄露；此外，《蜘蛛俠2》開發(fā)商Insomniac Games聲稱遭受攻擊，大量?jī)?nèi)部信息被泄露。

除了企業(yè)之外，政府機(jī)構(gòu)也面臨各類數(shù)字風(fēng)險(xiǎn)。2023年9月，美國(guó)國(guó)家安全委員會(huì)被報(bào)道泄露了其成員的近萬(wàn)封電子郵件和密碼，暴露了包括美國(guó)國(guó)家航空航天局和特斯拉等在內(nèi)的2000家機(jī)構(gòu)和公司。

生成式AI的出現(xiàn)導(dǎo)致新聞更加容易以假亂真。世界經(jīng)濟(jì)論壇在《2024年全球風(fēng)險(xiǎn)報(bào)告》中發(fā)出警告：在未來(lái)兩年的風(fēng)險(xiǎn)展望中，由于信息錯(cuò)誤與虛假信息所帶來(lái)的影響的嚴(yán)重程度，超過(guò)經(jīng)濟(jì)衰退等其他九項(xiàng)風(fēng)險(xiǎn)，位列十大風(fēng)險(xiǎn)的第一位。

在這樣的背景下，安全科技的發(fā)展有了“緊迫性”和“必要性”，“剛需”特質(zhì)顯現(xiàn)。

從定義來(lái)講，安全科技包含系統(tǒng)安全、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、業(yè)務(wù)安全、AI安全等范疇，它是一系列旨在保護(hù)信息、網(wǎng)絡(luò)和計(jì)算機(jī)系統(tǒng)免受未經(jīng)授權(quán)的訪問、攻擊和威脅的工具、技術(shù)和系統(tǒng)，其市場(chǎng)涵蓋了硬件、軟件和服務(wù)。

圖1：安全科技全景圖

圖片來(lái)源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》

事實(shí)上，在相當(dāng)長(zhǎng)一段時(shí)間里，網(wǎng)絡(luò)安全即安全科技。《報(bào)告》指出，隨著數(shù)字化的深入，越來(lái)越多的細(xì)分領(lǐng)域涌現(xiàn)出來(lái)，使得傳統(tǒng)的“網(wǎng)絡(luò)安全”概念難以覆蓋，而安全科技這個(gè)詞在這樣一個(gè)轉(zhuǎn)型期中被提出，用以關(guān)涉多個(gè)領(lǐng)域的技術(shù)和理念。

從時(shí)間上劃分，安全科技的發(fā)展可以大致分成三個(gè)階段：

1、本地保護(hù)階段（20世紀(jì)70年代至2000年代初期）：這一時(shí)期的安全科技主要基于密碼學(xué)和防火墻技術(shù)，其保護(hù)的對(duì)象是網(wǎng)絡(luò)相關(guān)的基礎(chǔ)設(shè)施。

2、網(wǎng)絡(luò)保護(hù)階段（2000年代中期至2010年代中期）：此時(shí)以入侵檢測(cè)、反病毒和漏洞掃描等技術(shù)為代表的網(wǎng)絡(luò)安全是主流。

3、智能保護(hù)階段（2010年代中期至今）：安全科技開始向智能化、自適應(yīng)、自愈合等方向發(fā)展，并從技術(shù)擴(kuò)展到管理，從靜態(tài)擴(kuò)展到動(dòng)態(tài)，通過(guò)各種安全技術(shù)和安全管理措施的綜合融合，構(gòu)建深度的主動(dòng)的防御體系。

“本質(zhì)上，安全科技是一種伴生技術(shù)。它永遠(yuǎn)在面向新科技，面向新發(fā)展。”浙江工業(yè)大學(xué)網(wǎng)絡(luò)空間安全研究院院長(zhǎng)宣琦接受報(bào)告調(diào)研時(shí)表示，不管是哪個(gè)新技術(shù)在推進(jìn)過(guò)程中形成了新的安全問題，比如面向人工智能，就會(huì)提出智能安全，面向生物科技，就會(huì)提出生物安全。新技術(shù)的發(fā)展有時(shí)候非�？焖�，所以安全技術(shù)的發(fā)展和創(chuàng)新也同樣在高速變動(dòng)。

這樣的變動(dòng)體現(xiàn)到市場(chǎng)發(fā)展方面，同樣是“高速”的。據(jù)IDC發(fā)布的報(bào)告，2021年全球網(wǎng)絡(luò)安全I(xiàn)T（互聯(lián)網(wǎng)技術(shù)）總投資規(guī)模為1689億美元，并有望在2026年增至2876億美元，5年復(fù)合增速為11.3%。

聚焦到中國(guó)市場(chǎng)，5年復(fù)合增速約達(dá)21.2%，接近全球平均復(fù)合增速的兩倍。具體數(shù)據(jù)顯示，2026年中國(guó)網(wǎng)絡(luò)安全I(xiàn)T支出規(guī)模將達(dá)到318.6億美元，全球占比約為11.1%。

除了市場(chǎng)規(guī)模增長(zhǎng)優(yōu)勢(shì)，我國(guó)在安全領(lǐng)域的技術(shù)優(yōu)勢(shì)也較為明顯。

根據(jù)全球權(quán)威知識(shí)產(chǎn)權(quán)機(jī)構(gòu)IPRdaily發(fā)布的《安全科技專利分析報(bào)告》顯示，中國(guó)和美國(guó)共計(jì)擁有全球77%的安全科技專利。

截至2023年4月，中國(guó)是全球安全科技發(fā)明專利的最主要布局國(guó)家，共擁有專利申請(qǐng)數(shù)20445件，為第二名美國(guó)的2.23倍。

其中，科技型骨干企業(yè)成為安全科技專利的主力軍，螞蟻集團(tuán)、華為、騰訊集團(tuán)、國(guó)家電網(wǎng)、中興、中國(guó)工商銀行、中國(guó)移動(dòng)位居全球安全科技專利申請(qǐng)前十名。螞蟻集團(tuán)憑借其在交易安全、隱私安全領(lǐng)域優(yōu)勢(shì)，以3806項(xiàng)專利數(shù)，位列全球榜首。

圖2：全球安全科技專利TOP 10申請(qǐng)主體

圖片來(lái)源：IPRdaily于2023年7月發(fā)布的《安全科技專利分析報(bào)告》

 02 

新型公共品

就像現(xiàn)代人類離不開水電氣一樣，安全科技也是數(shù)字經(jīng)濟(jì)時(shí)代不可或缺的基礎(chǔ)設(shè)施。隨著人工智能、量子計(jì)算等新技術(shù)的發(fā)展和應(yīng)用，新型風(fēng)險(xiǎn)與安全科技的攻防也將無(wú)所不在。

“必須強(qiáng)調(diào)的是，安全科技并不是一個(gè)純商業(yè)范圍的議題，而是清晰的具備公共品的特征。”

安全科技的價(jià)值，體現(xiàn)在兩個(gè)方面。一是守住技術(shù)的安全底線，防御可能存在的風(fēng)險(xiǎn)隱患，即當(dāng)好“壓艙石”；二是提高技術(shù)的安全上限，降低技術(shù)運(yùn)行的成本，讓新技術(shù)得以規(guī)模化落地，即做好“助燃劑”。

圖3：安全科技的雙重價(jià)值

圖片來(lái)源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》

《報(bào)告》指出，從產(chǎn)品運(yùn)作層面來(lái)看，防病毒軟件、入侵防御系統(tǒng)等商業(yè)安全系統(tǒng)是私有產(chǎn)品，但威脅情報(bào)、漏洞信息共享、隱私計(jì)算、基礎(chǔ)設(shè)施保護(hù)等技術(shù)和平臺(tái)，都具有明顯的公共品屬性。

雖然長(zhǎng)期以來(lái)，安全科技屬于商業(yè)和技術(shù)界的話題，個(gè)人和社會(huì)在其中缺乏足夠的表達(dá)。但安全科技的完整內(nèi)涵不只是對(duì)攻擊者的防御體系，還包括保護(hù)平等發(fā)展、社會(huì)團(tuán)結(jié)與個(gè)人尊嚴(yán)的技術(shù)與服務(wù)。

《報(bào)告》認(rèn)為安全科技成為公共品的推動(dòng)力來(lái)自四個(gè)方面：合規(guī)激勵(lì)、商業(yè)保險(xiǎn)、標(biāo)準(zhǔn)建設(shè)、安全思維。

合規(guī)激勵(lì)。當(dāng)前，大多數(shù)企業(yè)往往更傾向于把資源投入到IT研發(fā)而不是安全保障上。在大部分企業(yè)自身沒有直接動(dòng)力來(lái)投入安全時(shí)，需要政府通過(guò)合規(guī)者的角度來(lái)推動(dòng)相關(guān)的保障投入。

商業(yè)保險(xiǎn)。商業(yè)領(lǐng)域的創(chuàng)新是落實(shí)合規(guī)的重要助手。網(wǎng)絡(luò)安全保險(xiǎn)能有效幫助建立數(shù)字安全事件評(píng)估及賠償標(biāo)準(zhǔn)，這一細(xì)分賽道前景廣闊。

數(shù)據(jù)顯示，2019年，全球網(wǎng)絡(luò)安全保險(xiǎn)保費(fèi)達(dá)到73.6億美元，同比增長(zhǎng)71%。根據(jù)安聯(lián)保險(xiǎn)集團(tuán)預(yù)測(cè)，到2025年，網(wǎng)絡(luò)安全保險(xiǎn)市場(chǎng)規(guī)模將達(dá)到200億美元。

圖4：全球網(wǎng)絡(luò)安全保險(xiǎn)保費(fèi)增長(zhǎng)情況（單位：億美元）

數(shù)據(jù)來(lái)源：央行南京分行科技處課題組《網(wǎng)絡(luò)安全保險(xiǎn)發(fā)展的實(shí)踐與建議》，安聯(lián)保險(xiǎn)，零壹智庫(kù)制圖

標(biāo)準(zhǔn)建設(shè)，同樣是一個(gè)生態(tài)合作的范疇，借助政府、頭部機(jī)構(gòu)與企業(yè)的帶頭作用，為全社會(huì)的安全技術(shù)建設(shè)提供標(biāo)準(zhǔn)。

安全思維，是指以人為本的安全設(shè)計(jì)、運(yùn)維與建設(shè)并重的安全構(gòu)建。數(shù)據(jù)顯示，95%的網(wǎng)絡(luò)安全漏洞是由人為錯(cuò)誤造成的。以人為本的安全設(shè)計(jì)要求在整個(gè)安全風(fēng)險(xiǎn)的控制管理流程中，優(yōu)先考慮參與者的體驗(yàn)，而不僅僅是技術(shù)考慮。

運(yùn)維與建設(shè)并重的安全構(gòu)建，針對(duì)的是當(dāng)前我國(guó)在安全方面的一個(gè)普遍傾向，即企業(yè)和政府部門構(gòu)建信息化系統(tǒng)時(shí)，普遍存在“重建設(shè)輕運(yùn)營(yíng)”現(xiàn)象。因此，我們的安全構(gòu)建思維，要從傳統(tǒng)的硬件模式，轉(zhuǎn)向更偏重軟件的服務(wù)模式。

 03 

新形勢(shì)

“過(guò)去說(shuō)到AI應(yīng)用，都是比較‘虛’的；但現(xiàn)在AI在各個(gè)行業(yè)的應(yīng)用，變成了一個(gè)非�，F(xiàn)實(shí)的情形。”

香港科技大學(xué)副校長(zhǎng)汪揚(yáng)表示，大語(yǔ)言模型是人類的財(cái)富，它在一些垂直領(lǐng)域的應(yīng)用發(fā)展，或許會(huì)顛覆整個(gè)數(shù)字經(jīng)濟(jì)，而且會(huì)產(chǎn)生嶄新的模式，帶領(lǐng)我們進(jìn)入經(jīng)濟(jì)發(fā)展的下一段路程。

而在這一段路程上，除了機(jī)遇，還充滿了風(fēng)險(xiǎn)。

有新技術(shù)的地方，就有新的安全風(fēng)險(xiǎn)。2023年年底，杭州上城區(qū)網(wǎng)警破獲一起重大勒索病毒案件，犯罪團(tuán)伙成員均有網(wǎng)絡(luò)安防相關(guān)資質(zhì)，且有供職大型網(wǎng)絡(luò)科技公司經(jīng)歷，他們?cè)趯?shí)施犯罪過(guò)程中借助ChatGPT進(jìn)行程序優(yōu)化，犯罪手段相當(dāng)“與時(shí)俱進(jìn)”。

ChatGPT爆火了一年多，在帶動(dòng)大模型和人工智能賽道起飛的同時(shí)，也讓全球業(yè)界更加擔(dān)心日益凸顯的AI安全風(fēng)險(xiǎn)。

《報(bào)告》將AI安全風(fēng)險(xiǎn)分為三類：第一是內(nèi)生安全，像“數(shù)據(jù)偏見”“觀點(diǎn)霸權(quán)”“決策黑盒化”等問題屬于這一類。

針對(duì)“決策黑盒化”，螞蟻集團(tuán)副總裁、首席技術(shù)安全官韋韜表示，深黑盒化，也就是AI大模型分析決策出現(xiàn)不確定性和不可知性，這帶來(lái)了三大新挑戰(zhàn)：第一層是認(rèn)知一致性對(duì)齊；第二層是決策如何白盒化；第三層是如何讓交流協(xié)同演進(jìn)。

第二是衍生安全問題，即人工智能系統(tǒng)失誤可能引發(fā)一些重大安全事故。如生成虛假新聞、深度合成偽造進(jìn)行詐騙與釣魚攻擊，侵犯他人肖像權(quán)、隱私權(quán)，涉及人身安全、隱私保護(hù)、軍事與國(guó)家安全、倫理道德和法律規(guī)范等一系列與社會(huì)治理有關(guān)的挑戰(zhàn)性問題。

第三是外生安全問題，也就是面向人工智能系統(tǒng)的外部網(wǎng)絡(luò)攻擊對(duì)抗。一方面，數(shù)字化、網(wǎng)絡(luò)化程度越高，可被攻擊的部位、結(jié)點(diǎn)就越多；對(duì)數(shù)字技術(shù)的依賴程度越高，網(wǎng)絡(luò)破壞造成的后果就越嚴(yán)重。另一方面，黑灰產(chǎn)攻擊模式也隨著業(yè)務(wù)創(chuàng)新、新科技引入，逐漸呈現(xiàn)專業(yè)化、多樣化、智能化、產(chǎn)業(yè)化的特點(diǎn)。

圖5：人工智能安全的三大類別

圖片來(lái)源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》

“技術(shù)是把雙刃劍”，安全科技就是打造足夠安全的“刀鞘”。過(guò)去幾年，微軟、谷歌、螞蟻集團(tuán)、騰訊等不少科技公司紛紛投入可信AI的研究和應(yīng)用。像螞蟻集團(tuán)自2015年起研發(fā)可信AI技術(shù)，已解決了風(fēng)控場(chǎng)景中的諸多難題。

螞蟻集團(tuán)安全實(shí)驗(yàn)室首席科學(xué)家、可信AI負(fù)責(zé)人王維強(qiáng)曾表示，大模型安全既要“快”也要“慢”。在安全防御方面要“快”，要能快速檢測(cè)、查殺病毒，確保服務(wù)無(wú)毒害；在安全可信方面要“慢”，要能長(zhǎng)遠(yuǎn)地、體系化地保證整個(gè)系統(tǒng)環(huán)境的可控、可信。

大模型風(fēng)險(xiǎn)的一個(gè)可能路徑存在于預(yù)訓(xùn)練的大規(guī)模數(shù)據(jù)中，如果數(shù)據(jù)本身“有毒”，帶有在偏見和歧視，或有虛假信息等質(zhì)量問題，那么大模型輸出的內(nèi)容就存在安全問題。

另一個(gè)渠道是行業(yè)領(lǐng)域微調(diào)的過(guò)程中涉及到的一些標(biāo)注，也可能有誘導(dǎo)錯(cuò)誤的人類對(duì)齊、錯(cuò)誤價(jià)值導(dǎo)向的惡意標(biāo)注，不可靠的低質(zhì)量標(biāo)注和缺少多樣性的固化標(biāo)注，這類標(biāo)注都會(huì)帶來(lái)安全風(fēng)險(xiǎn)。

在實(shí)踐應(yīng)用中，針對(duì)大模型的安全風(fēng)險(xiǎn)，業(yè)界已有“大模型質(zhì)檢”類安全產(chǎn)品推出。2023年9月，螞蟻集團(tuán)宣布推出一項(xiàng)名為“蟻天鑒”的全新大模型安全一體化解決方案。這一解決方案包含兩個(gè)關(guān)鍵產(chǎn)品：大模型安全檢測(cè)平臺(tái)“蟻鑒2.0”和大模型風(fēng)險(xiǎn)防御平臺(tái)“天鑒”，為大規(guī)模AI模型的安全保障帶來(lái)了全新的突破。

圖6：螞蟻大模型安全實(shí)踐

圖片來(lái)源：社科院團(tuán)隊(duì)《數(shù)字時(shí)代安全科技價(jià)值報(bào)告》，螞蟻“蟻天鑒”大模型安全方案

再比如，螞蟻數(shù)科安全科技品牌“蟻盾（ZOLOZ）”與中鐵建設(shè)物資公司共建了產(chǎn)業(yè)風(fēng)控平臺(tái)，依托蟻盾提供的合規(guī)、安全的數(shù)據(jù)管道，可以一站式查詢企業(yè)資質(zhì)、經(jīng)營(yíng)信息、司法訴訟、關(guān)聯(lián)風(fēng)險(xiǎn)、新聞?shì)浨榈榷嗑S度數(shù)據(jù)，也可以了解細(xì)分行業(yè)的發(fā)展趨勢(shì)。

2023年，除了火爆的人工智能之外，我國(guó)數(shù)據(jù)要素市場(chǎng)建設(shè)也在加速，從基礎(chǔ)制度體系的建設(shè)，到交易市場(chǎng)的活躍，全方位推進(jìn)。目前，我國(guó)正處于數(shù)據(jù)產(chǎn)業(yè)發(fā)展的關(guān)鍵時(shí)期。

2024年1月1日，《企業(yè)數(shù)據(jù)資源相關(guān)會(huì)計(jì)處理暫行規(guī)定》正式施行。數(shù)據(jù)資產(chǎn)入表政策落地，意味著數(shù)據(jù)要素產(chǎn)業(yè)化大時(shí)代的開啟。

1月4日，《“數(shù)據(jù)要素×”三年行動(dòng)計(jì)劃（2024—2026年）》正式發(fā)布，從征求意見到正式發(fā)布，用時(shí)不到一個(gè)月，進(jìn)展神速。其中提出，到2026年底，數(shù)據(jù)產(chǎn)業(yè)年均增速超過(guò)20%，場(chǎng)內(nèi)交易與場(chǎng)外交易協(xié)調(diào)發(fā)展，數(shù)據(jù)交易規(guī)模倍增。

數(shù)字化背后這汪名為“數(shù)據(jù)”的巨大海洋，正在前所未有的翻滾，產(chǎn)生巨大的動(dòng)能和勢(shì)能。據(jù)國(guó)家發(fā)改委專家初步測(cè)算，全國(guó)企業(yè)數(shù)據(jù)要素支出規(guī)模約為3.3萬(wàn)億元，如果考慮數(shù)據(jù)資產(chǎn)評(píng)估、質(zhì)押、融資等衍生市場(chǎng)，整體規(guī)模可能超過(guò)30萬(wàn)億元。

而數(shù)據(jù)要素市場(chǎng)的有效運(yùn)轉(zhuǎn)，離不開數(shù)據(jù)安全合規(guī)這一基礎(chǔ)，安全科技的需求將在數(shù)據(jù)要素產(chǎn)業(yè)全面發(fā)展的過(guò)程中迎來(lái)爆發(fā)。

從趨勢(shì)上來(lái)講，伴隨著IT架構(gòu)的演進(jìn)，安全科技走向了無(wú)邊界，逐漸超越傳統(tǒng)安全的新一代技術(shù)集群，未來(lái)將呈現(xiàn)智能化、零化、彈性化、匿名化、量子化的發(fā)展趨勢(shì)。安全科技將作為方向盤，始終將各種新興科技控制在向善的道路上。

       原文標(biāo)題 : 社科大萬(wàn)字調(diào)研深度解讀：安全科技為何是新型公共產(chǎn)品？