本次“生成式 AI 服務(wù)管理辦法公布征求意見稿”的意見反饋截止時間為 2023 年 5 月 10 日。

針對爆火的生成式 AI 產(chǎn)業(yè)，各國政府和科技巨頭正在加速規(guī)范政策的出臺以應(yīng)對。

“國標”誕生始末

該國家標準是由鵬城實驗室網(wǎng)絡(luò)智能研究部副主任田永鴻教授帶領(lǐng)的云腦項目團隊牽頭制定，華為、百度、北京大學等 16 家單位共同編制。屬于該項目團隊在 AI 模型領(lǐng)域全球標準體系化布局中國內(nèi)標準推進工作的重要成果。

2017 年 12 月，鵬城實驗室云腦項目團隊正式啟動了標準研制。在標準推進策略上，云腦項目團隊采用國際國內(nèi)“兩條腿”模式，根據(jù)標準研制中不同標準化組織相關(guān)方的反饋對標準進行迭代優(yōu)化。

第一條腿邁向國際。

2022年，云腦項目團隊牽頭在 IEEE 成功發(fā)布《Standard for Artificial Intelligence （AI） Model Representation， Compression， Distribution and Management》標準（《人工智能（AI）模型表示 、壓縮 、分發(fā)和管理標準》），該標準在前期工作的基礎(chǔ)上進一步結(jié)合了全球領(lǐng)域內(nèi)更廣泛的意見，形成了更具有國際市場適配性的全球首個 AI 模型國際標準，云腦項目團隊后來還在國際電信聯(lián)盟電信標準分局 ITU－T 成功立項新一代 AI 模型表示技術(shù)標準。

第二條腿深踞國內(nèi)。

2021 年 10 月 21 日，云腦團隊在新一代人工智能產(chǎn)業(yè)技術(shù)創(chuàng)新戰(zhàn)略聯(lián)盟 AITISA 發(fā)布了《信息技術(shù) 神經(jīng)網(wǎng)絡(luò)表示與模型壓縮第一部分：卷積神經(jīng)網(wǎng)絡(luò)》團體標準，并在該團體標準的基礎(chǔ)上進行迭代優(yōu)化，最終形成了本次發(fā)布的國標。至此，首個全球 AI 模型表示與壓縮技術(shù)標準體系布局基本成型。

該系列標準根據(jù)當前 AI 產(chǎn)業(yè)界在資源受限設(shè)備和 AI 模型部署方面的需求，管理辦法涉及的生成式人工智能包括基于算法、模型、規(guī)則生成文本、圖片、聲音、視頻、代碼等內(nèi)容的技術(shù)。

該系列部分標準已在 AI 開發(fā)框架（百度）、AI 芯片（華為海思）和 AI 開放平臺（�？低�視）等領(lǐng)域得到應(yīng)用。本次發(fā)布的系列標準輻射到 AMD Xilinx 賽靈思等國際 AI 領(lǐng)軍公司。

網(wǎng)信辦公開征求意見

國家網(wǎng)信辦就《生成式人工智能服務(wù)管理辦法（征求意見稿）》公開征求意見，意見反饋截止時間為2023年5月10日。

網(wǎng)信辦稱，為促進生成式人工智能技術(shù)健康發(fā)展和規(guī)范應(yīng)用，根據(jù)《中華人民共和國網(wǎng)絡(luò)安全法》等法律法規(guī)，國家互聯(lián)網(wǎng)信息辦公室起草了《生成式人工智能服務(wù)管理辦法（征求意見稿）》，現(xiàn)向社會公開征求意見。

重要看點有——

1、國家支持人工智能算法、框架等基礎(chǔ)技術(shù)的自主創(chuàng)新、推廣應(yīng)用、國際合作，鼓勵優(yōu)先采用安全可信的軟件、工具、計算和數(shù)據(jù)資源。

2、利用生成式人工智能生成的內(nèi)容應(yīng)當體現(xiàn)社會主義核心價值觀，不得含有顛覆國家政權(quán)、推翻社會主義制度，煽動分裂國家、破壞國家統(tǒng)一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經(jīng)濟秩序和社會秩序的內(nèi)容。

3、利用生成式人工智能生成的內(nèi)容應(yīng)當真實準確，采取措施防止生成虛假信息。

4、禁止非法獲取、披露、利用個人信息和隱私、商業(yè)秘密。

5、利用生成式人工智能產(chǎn)品提供聊天和文本、圖像、聲音生成等服務(wù)的組織和個人（以下稱“提供者”）承擔該產(chǎn)品生成內(nèi)容生產(chǎn)者的責任；涉及個人信息的，承擔個人信息處理者的法定責任，履行個人信息保護義務(wù)。

6、提供者發(fā)現(xiàn)用戶利用生成式人工智能產(chǎn)品過程中違反法律法規(guī)，違背商業(yè)道德、社會公德行為時，包括從事網(wǎng)絡(luò)炒作、惡意發(fā)帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當?shù)纳虡I(yè)營銷等，應(yīng)當暫�；蛘呓K止服務(wù)。

7、提供者應(yīng)當明確并公開其服務(wù)的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內(nèi)容。

8、用生成式人工智能產(chǎn)品向公眾提供服務(wù)前，應(yīng)當向國家網(wǎng)信部門申報安全評估。

9、提供者應(yīng)當按照《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》對生成的圖片、視頻等內(nèi)容進行標識。

10、提供者在提供服務(wù)過程中，對用戶的輸入信息和使用記錄承擔保護義務(wù)。不得非法留存能夠推斷出用戶身份的輸入信息，不得根據(jù)用戶輸入信息和使用情況進行畫像，不得向他人提供用戶輸入信息。

11、提供者應(yīng)當對生成式人工智能產(chǎn)品的預(yù)訓練數(shù)據(jù)、優(yōu)化訓練數(shù)據(jù)來源的合法性負責。對標注人員進行必要培訓，明確并公開其服務(wù)的適用人群、場合、用途，對用戶的輸入信息和使用記錄承擔保護義務(wù)。

國外科技巨頭正在推進生成式AI標準出臺