訂閱
糾錯
加入自媒體

360何以成為大模型廠商的“安全閥門”?

大模型最重要與核心的安全問題,也因為360的入局與破局,走入了新的歷史階段。

‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍‍如果你是一個足夠關(guān)注行業(yè)新聞的科技從業(yè)者,大概率會發(fā)現(xiàn)這樣一件事——近一年來,無論是作為“KOL”的周鴻祎,還是作為行業(yè)安全大模型從業(yè)者的周鴻祎,在社交媒體“刷臉”的頻率,幾乎呈指數(shù)級增加。

最近的一次,是在4月19日。周鴻祎在社交媒體宣布,要賣掉陪伴自己多年的邁巴赫S600,換成幾十萬的國產(chǎn)智能新能源汽車。當(dāng)然,重點是在下一句——他還公開表示,“國內(nèi)做車的友商們誰愿意借這個機會,為他提供一輛體驗用車,自己也來者不拒。”

效果自然也是立竿見影,各路新能源汽車廠商無論是公開還是非公開,都跟周鴻祎“交起了朋友”,速度最快的小鵬,在當(dāng)晚就把車送到了360公司的樓下。

憑周鴻祎的實力與名望,想私下里拿到任何一款新能源汽車,都是舉手之勞,那么何必在社交媒體上做“顯眼包”?很顯然,這里同樣有公司戰(zhàn)略層面的考量。

如今的新能源汽車,其智能車機系統(tǒng)搭載生成式AI大模型,已經(jīng)不再是“做與不做”的問題,而是一個時間問題,而搭載大模型的智能車機,無論是數(shù)據(jù)還是系統(tǒng)本身,安全問題是順利上線與運營的根本前提。很顯然,這是屬于360的機會。

事實上,在過去一年的時間里,360已經(jīng)通過生成式AI深度改造了自己的業(yè)務(wù)流程與產(chǎn)品的功能服務(wù)流程,在其中盡可能多的環(huán)節(jié),通過生成式AI增效與賦能。關(guān)于這一點,在剛剛發(fā)布的財報中已然體現(xiàn)。

這不僅歸功于AI重塑了360的產(chǎn)品形態(tài)——躬身入局安全模型領(lǐng)域之后,對于國內(nèi)外最炙手可熱的大模型廠商,360端到端的安全解決方案,其意義也日漸明朗。與之相對,大模型最重要與核心的安全問題,也因為360的入局與破局,走入了新的歷史階段。

怎樣才能“降本增效”?

4月19日,三六零集團發(fā)布2023年度報告。財報數(shù)據(jù)顯示,報告期內(nèi),公司實現(xiàn)營收90.55億元,主營業(yè)務(wù)毛利率60.35%,同比提升1.76%。此外,歸屬于上市公司股東的凈利潤-4.92億元,較2022年大幅減虧77.65%。

相對于“紙面富貴”的營業(yè)收入而言,經(jīng)營性現(xiàn)金流更能體現(xiàn)一個公司實際收入的質(zhì)量變化。如果從這一點考量,360的發(fā)展可能比營收更能說明問題。報告期內(nèi),公司經(jīng)營性現(xiàn)金流凈額9.24億元,較去年同比提升65.84%,近兩年復(fù)合增速達136.26%。

這部分現(xiàn)金流的增加,一部分被360“廣積糧”。截至報告期末,公司貨幣資金為261.05億元,較上一報告期末增加33.24億元;另一部分,則用作人工智能人才和算力方面的相關(guān)投入——報告期內(nèi),公司研發(fā)費用為31.04億元,營收占比達34.28%。

如果用兩個關(guān)鍵詞概括,“人工智能”和“數(shù)字安全”無疑是過去一年360發(fā)展的兩個“主線任務(wù)”。在人工智能業(yè)務(wù)方面,360推出自研千億參數(shù)認知型通用大模型“360智腦”,并首批通過備案而向公眾開放。此外,作為大模型國家隊,360同樣參與了行業(yè)標(biāo)準(zhǔn)的制定,并在近期開源了360智腦7B參數(shù)版本。

數(shù)字安全方面,基于自身的“360智腦”,360同樣從近 20 年積累的攻防技戰(zhàn)術(shù)、漏洞庫、病毒庫等安全大數(shù)據(jù)中提取高質(zhì)量的語料進行訓(xùn)練,以大數(shù)據(jù)、高算力、強算法打造國內(nèi)首個實現(xiàn)AI 實戰(zhàn)應(yīng)用的安全行業(yè)大模型——360 安全大模型。

從功能實現(xiàn)層面來說,在搭載生成式AI之后,它不僅能高效便捷地完成安全問題咨詢,還具備傳統(tǒng)網(wǎng)安解決方案的態(tài)勢指標(biāo)分析、安全事件處理、攻擊威脅溯源等傳統(tǒng)能力。

但在互聯(lián)網(wǎng)跑步進入生成式AI時代以來,針對大模型的安全問題,已經(jīng)不能再用傳統(tǒng)的網(wǎng)安思路去解決。即便成功通過有關(guān)部門的合規(guī)檢測,得以備案和上線,但模型本身及其搭載產(chǎn)品的安全性,隨著參數(shù)量和訓(xùn)練數(shù)據(jù)的不斷迭代升級,也在發(fā)生變化。

不過,相對于傳統(tǒng)網(wǎng)安問題,大模型安全幾乎是另外一個獨立問題。

舉例來說,以GPT-4為代表的語言大模型及其衍生產(chǎn)品,其固有的缺陷之一,是生成結(jié)果的“幻覺”問題。體現(xiàn)在用戶所能直接體驗的前端,則是對于確定的輸入prompt,模型最終輸出的不一樣乃至相反的結(jié)果,俗稱“一本正經(jīng)地胡說八道。”

接入模型的API安全性問題,同樣值得重視。從數(shù)據(jù)統(tǒng)計層面來看,多數(shù)web程序受到的網(wǎng)絡(luò)攻擊均針對API,它是模型能力最主要的交付通道。也因此,對各種協(xié)議是否許可,許可到什么程度,中間的安全性差異可謂巨大。

由此可見,大模型本身的安全問題,隨著行業(yè)的飛速發(fā)展,已經(jīng)成為一個獨立課題——前述原生的大模型安全問題,在大模型安全領(lǐng)域的比重,幾乎超過80%。如果是對大模型不甚了解的網(wǎng)絡(luò)安全企業(yè),或者是僅僅停留在硬件層面的網(wǎng)安企業(yè),很難真正去解決大模型原生問題。

相對于其他大模型廠商,通用能力層面并非360的主戰(zhàn)場。但到了“大模型+安全”領(lǐng)域,已經(jīng)開始著手解決相關(guān)問題,并取得了初步成果。

大模型安全為何重要?

不過,關(guān)注大模型安全問題,只是網(wǎng)安企業(yè)的 “應(yīng)然”,躬身入局并嘗試解決,才是“實然”。想要在大模型安全領(lǐng)域,提供有效的解決方案,也具備一系列先決條件。 

在此前召開的360安全大模型3.0發(fā)布會上,360高級副總裁李博認為,如果要有效解決大模型內(nèi)部的安全問題,首先要非常了解大模型,正如解決其他業(yè)務(wù)安全問題,首先需要了解業(yè)務(wù)特性一樣。因此,只有躬身入局大模型研發(fā),才有能力解決大模型安全問題。

此外,不做大模型的傳統(tǒng)安全企業(yè),同樣難以實現(xiàn)原生的大模型安全能力。因為相當(dāng)比例的安全問題,都需要在大模型內(nèi)部深入耦合原生安全機制進行對應(yīng)解決,如果網(wǎng)安企業(yè)沒有自己的大模型“打樣”,一些安全機制很難適應(yīng)大模型的環(huán)境,最終變成“空中樓閣”。

但從現(xiàn)實層面看,多數(shù)互聯(lián)網(wǎng)企業(yè)往往將發(fā)展作為第一要務(wù),至于業(yè)務(wù)安全,相較于業(yè)務(wù)發(fā)展往往相對滯后。在李博看來,這在行業(yè)早期并無大礙。但當(dāng)業(yè)務(wù)結(jié)束發(fā)展高峰期,一旦存量業(yè)務(wù)數(shù)據(jù)受到攻擊或發(fā)生問題,損失往往在億級以上。

有基于此,在360眼中,想要保障大模型的安全,大模型的可靠性首當(dāng)其沖——網(wǎng)絡(luò)環(huán)境和數(shù)據(jù)安全,這在相當(dāng)程度上,影響和決定了大模型的穩(wěn)定性和響應(yīng)速度。

其次,大模型本身輸出的內(nèi)容,需要一定的可信度。這不僅包括內(nèi)容的完整可用,內(nèi)容可信同樣重要。

建立在內(nèi)容可信之上,大模型向善和可控同樣重要。它的內(nèi)容不僅需要符合主流價值觀和社會規(guī)范,其行為也同樣需要穩(wěn)定和可控。

有基于此,在最新的安全大模型3.0版本中,360將傳統(tǒng)網(wǎng)安大腦體系,與原生大模型安全能力相結(jié)合,進而形成了綜合性安全能力框架,即AISF。

基礎(chǔ)架構(gòu)層面,360安全框架體系通過探針采集、平臺運營、AI技術(shù)的應(yīng)用,構(gòu)建了專家服務(wù)和安全數(shù)據(jù)支撐能力。同時,基于十多年的網(wǎng)絡(luò)安全經(jīng)驗,360積累了數(shù)據(jù)泄露預(yù)警、數(shù)據(jù)清洗、數(shù)據(jù)保護等數(shù)據(jù)安全能力,這些能力共同構(gòu)成了360安全云的核心。

原生大模型安全能力方面,360構(gòu)建了一個框架、兩個平臺和三組套件,旨在從基礎(chǔ)、可信、向善、可控、效果五大方向提供保障。例如,向善能力套件包括內(nèi)容護欄、數(shù)字水印和風(fēng)控大模型,用以防范注入攻擊,確保內(nèi)容的安全性和向善性。

鑒于大模型訓(xùn)練和維護成本高昂,多數(shù)廠商依賴公有云,這增加了系統(tǒng)漏洞、網(wǎng)絡(luò)攻擊、數(shù)據(jù)竊取的風(fēng)險。360安全云通過安全即服務(wù)的形式,提供監(jiān)測、分析、響應(yīng)、防護和漏洞修復(fù),這些風(fēng)險得到有效規(guī)避。

這些流程不僅在大模型運行階段需要執(zhí)行,訓(xùn)練階段同樣需要。通過數(shù)據(jù)檢測清洗和算法矯正加密來增強安全性。在輸出內(nèi)容階段,風(fēng)控大模型能夠進行敏感內(nèi)容檢測和識別,提升推理準(zhǔn)確性,減少模型輸出的“幻覺”問題。

此外,通過首創(chuàng)的大模型紅藍對抗靶場,360通過定期攻防對抗模擬,保持安防系統(tǒng)的高戰(zhàn)備狀態(tài),確保大模型的常態(tài)化安全。

基于上述安全體系的不斷迭代優(yōu)化,也使得大模型的核心安全能力得到持續(xù)增強。

一條難而正確的路

當(dāng)然,方案歸方案,產(chǎn)品歸產(chǎn)品, 360 對于 AI 安全的諸多理解、框架與解決方案,在最終對外輸出的產(chǎn)品形態(tài)上,最終變成了大模型安全管家,一如當(dāng)年 PC 端的 360 安全衛(wèi)士,與手機上的 360 手機衛(wèi)士。 

跟前兩者一樣,這不僅僅停留在B端,而是通過大模型在C端用戶場景的不斷延伸,進而被更多的用戶注意并重視。對于“網(wǎng)安老炮”360來說,這可能是不亞于移動互聯(lián)網(wǎng)的巨大風(fēng)口。

一方面,就發(fā)展軌跡而言,生成式AI已經(jīng)走到了商業(yè)化的“深水區(qū)”。安全與合規(guī),是其商業(yè)化順利進行的充要條件,在這方面,360具備相當(dāng)強的“不可替代性”。

當(dāng)然,網(wǎng)絡(luò)安全是一個通過實踐積累經(jīng)驗的領(lǐng)域,沒有經(jīng)過長期的網(wǎng)絡(luò)安全攻防實戰(zhàn),就無360如今的行業(yè)地位。也因此,如果360希望在大模型安全領(lǐng)域取得成就,那么深入?yún)⑴c大模型的實踐是一條必經(jīng)之路。

另一方面,藉由生成式AI“飛入尋常百姓家”,其討論的全民化,讓360逐漸從移動互聯(lián)網(wǎng)時代的“隱身幕后”,通過周鴻祎持續(xù)“布道”而逐步回歸臺前。這與360業(yè)績的回暖幾乎同步發(fā)生。

不過,這并非是讓大模型行業(yè)都去使用360的安全大模型,而是通過360自身的身體力行,讓更多在大模型行業(yè)奮戰(zhàn)的企業(yè),意識到大模型原生安全問題的重要性。這不僅停留在周鴻祎的嘴上和社交媒體上,360同樣也落實到了行動上。

歸根到底,生成式AI的大潮已然不可阻擋,商業(yè)化的征程同樣呼之欲出,在此過程中,不僅需要底層大模型和應(yīng)用層廠商的不斷努力,也同樣需要相關(guān)網(wǎng)安企業(yè)持續(xù)保駕護航;蛟S有一天,大模型及其安全領(lǐng)域,或許真如周鴻祎當(dāng)年所言,不僅是“一錘子買賣”,更是細水長流的“安全即服務(wù)”。

       原文標(biāo)題 : 360何以成為大模型廠商的“安全閥門”?

聲明: 本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權(quán)或其他問題,請聯(lián)系舉報。

發(fā)表評論

0條評論,0人參與

請輸入評論內(nèi)容...

請輸入評論/評論長度6~500個字

您提交的評論過于頻繁,請輸入驗證碼繼續(xù)

暫無評論

暫無評論

人工智能 獵頭職位 更多
掃碼關(guān)注公眾號
OFweek人工智能網(wǎng)
獲取更多精彩內(nèi)容
文章糾錯
x
*文字標(biāo)題:
*糾錯內(nèi)容:
聯(lián)系郵箱:
*驗 證 碼:

粵公網(wǎng)安備 44030502002758號