近日，由國(guó)家科技部主導(dǎo)的“科技創(chuàng)新2030重大項(xiàng)目—安全大腦國(guó)家新一代人工智能開(kāi)放創(chuàng)新平臺(tái)”正式進(jìn)入實(shí)施評(píng)審階段，該項(xiàng)目由360牽頭，聯(lián)合清華大學(xué)、瑞萊智慧RealAI、中科院自動(dòng)化所、中科院信工所共同協(xié)作完成。其中“面向人工智能算法的安全對(duì)抗攻防”的課題任務(wù)將由清華大學(xué)與瑞萊智慧RealAI共同承擔(dān)研發(fā)。

人工智能安全是廣泛智能應(yīng)用的基礎(chǔ)。在推動(dòng)新一輪科技革命的同時(shí)，人工智能自身存在的嚴(yán)重安全問(wèn)題引入了全新的安全威脅，尤其是涉及國(guó)防、經(jīng)濟(jì)、民生的人工智能設(shè)施系統(tǒng)，一旦遭受攻擊，可能威脅到國(guó)防安全、企業(yè)安全、公民財(cái)產(chǎn)和生命安全。

科技創(chuàng)新2030重大項(xiàng)目是體現(xiàn)國(guó)家戰(zhàn)略意圖的重大工程，人工智能算法模型安全研究作為提升人工智能自身安全的重要課題參與其中，體現(xiàn)了國(guó)家新一代人工智能發(fā)展規(guī)劃對(duì)人工智能安全治理的重要布局。

由RealAI負(fù)責(zé)的“面向人工智能算法的安全對(duì)抗攻防”課題項(xiàng)目主要針對(duì)深度學(xué)習(xí)對(duì)抗攻防中存在的問(wèn)題，深度學(xué)習(xí)的對(duì)抗攻擊、魯棒防御和算法庫(kù)等方面進(jìn)行研究，為人工智能模型的安全性和可信賴應(yīng)用提供理論基礎(chǔ)和技術(shù)儲(chǔ)備。

本課題的開(kāi)展將本著開(kāi)源開(kāi)放的原則，技術(shù)層面圍繞人工智能算法對(duì)抗安全，強(qiáng)調(diào)功能性和安全性的有機(jī)結(jié)合，在基礎(chǔ)理論和基本算法等共性技術(shù)面向新一代人工智能“OpenI”的建設(shè)進(jìn)行開(kāi)源，服務(wù)國(guó)家新一代人工智能開(kāi)源開(kāi)放平臺(tái)的建設(shè)，為我國(guó)和全球人工智能行業(yè)發(fā)展保駕護(hù)航，也為人工智能長(zhǎng)久穩(wěn)健發(fā)展提供重要積累。

RealAI之所以能參與本次重大項(xiàng)目，與其雄厚的技術(shù)實(shí)力密不可分。作為清華大學(xué)的人工智能研究院的核心孵化企業(yè)，RealAI是國(guó)內(nèi)率先對(duì)深度學(xué)習(xí)的對(duì)抗攻擊與防御進(jìn)行深入研究的課題組之一，在人工智能的對(duì)抗安全領(lǐng)域具有深厚的積累，在ICML、NIPS、CVPR、AAAI 等頂級(jí)會(huì)議期刊發(fā)表論文數(shù)十余篇，提出多種代表性的深度學(xué)習(xí)對(duì)抗攻防算法，被主流開(kāi)源軟件收錄為標(biāo)準(zhǔn)方法，榮獲英偉達(dá)先鋒研究獎(jiǎng)。在 2017NIPS對(duì)抗攻防競(jìng)賽、2018 DEFCON CAAD CTF對(duì)抗攻防賽等多項(xiàng)國(guó)際競(jìng)賽中，RealAI戰(zhàn)勝多支頂尖參賽隊(duì)伍斬獲冠軍，在2019 國(guó)際安全極客安全大賽GeekPwn上更是一舉獲得“CAAD CTF圖像對(duì)抗樣本挑戰(zhàn)賽”及   “CAAD隱身挑戰(zhàn)賽”兩項(xiàng)冠軍。

對(duì)于項(xiàng)目的未來(lái)規(guī)劃，RealAI表示將持續(xù)強(qiáng)化對(duì)抗攻防關(guān)鍵技術(shù)的研發(fā)，同時(shí)構(gòu)建對(duì)抗攻防算法系統(tǒng)平臺(tái)和對(duì)抗安全基準(zhǔn)，打造行業(yè)應(yīng)用示范，助力建設(shè)國(guó)家級(jí)AI安全防護(hù)體系，為科技創(chuàng)新2030的實(shí)現(xiàn)貢獻(xiàn)力量。