前言：

近日，歐洲議會(huì)、歐盟成員國和歐盟委員會(huì)三方就《人工智能法案》達(dá)成一致，這一法案被認(rèn)為是全球首個(gè)全面監(jiān)管人工智能（AI）的法規(guī)。

在當(dāng)前人工智能技術(shù)迅速發(fā)展的背景下，國際社會(huì)對人工智能帶來的風(fēng)險(xiǎn)和挑戰(zhàn)日益關(guān)注，這一法案的出臺(tái)引起了全球廣泛關(guān)注。

作者 | 方文三

圖片來源 |  網(wǎng) 絡(luò) 

全球首份針對AI監(jiān)管的全面法規(guī)

12月8日，在經(jīng)過一周的馬拉松式談判和激烈爭論后，歐盟委員會(huì)、歐洲議會(huì)和歐盟成員國代表就《人工智能法案》達(dá)成初步協(xié)議，新法案涉及包括ChatGPT在內(nèi)的通用目的AI系統(tǒng)。

這是全球首份針對AI監(jiān)管的全面法規(guī)，意在從保護(hù)人類基本權(quán)利和不阻礙人工智能行業(yè)發(fā)展之間尋求平衡。

法案將AI系統(tǒng)分為低風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、不可接受風(fēng)險(xiǎn)、特定透明度風(fēng)險(xiǎn)等不同等級(jí)，按照風(fēng)險(xiǎn)級(jí)別制定相應(yīng)規(guī)定。

不可接受風(fēng)險(xiǎn)等級(jí)的AI應(yīng)用將被直接禁止，包括在特定情況下使用生物特征分類系統(tǒng)和人臉識(shí)別系統(tǒng)。

法案還專門針對通用AI系統(tǒng)設(shè)置規(guī)定，存在系統(tǒng)性威脅的通用AI將接受更嚴(yán)格監(jiān)管。

近日，歐盟經(jīng)過了馬拉松式的談判后，終于敲定了一項(xiàng)歷史性的AI監(jiān)管協(xié)議，這也將成為全球首個(gè)廣泛覆蓋包括生成式AI在內(nèi)的監(jiān)管法案，并且是全球?qū)�AI監(jiān)管最為嚴(yán)格的法案。

在新規(guī)則中，立法者同意嚴(yán)格限制面部識(shí)別技術(shù)的使用，并禁止利用人工智能進(jìn)行[社會(huì)評分]以及[操縱人類行為]的人工智能系統(tǒng)。

新規(guī)還禁止利用人工智能剝削那些因年齡、殘疾或經(jīng)濟(jì)狀況而處于弱勢的人。不遵守規(guī)則的公司將面臨3500萬歐元或等同于全球收入7%的罰款（二選一）。

將人工智能風(fēng)險(xiǎn)從高到低分為四類

①不可接受的風(fēng)險(xiǎn)：被認(rèn)為會(huì)威脅人們的生命、安全和權(quán)利的AI系統(tǒng)，包括公共部門使用的社會(huì)評分系統(tǒng)、鼓勵(lì)或輔助自殺等危險(xiǎn)行為的系統(tǒng)等等。

②高風(fēng)險(xiǎn)：可能會(huì)影響關(guān)鍵基礎(chǔ)設(shè)施（如交通）、教育和社會(huì)福利等公民權(quán)益的AI系統(tǒng)，包括在手術(shù)中應(yīng)用的AI輔助系統(tǒng)、信用評分系統(tǒng)中的AI系統(tǒng)等等。

③有限的風(fēng)險(xiǎn)：指特定的具有對用戶透明度義務(wù)的AI系統(tǒng)，例如聊天機(jī)器人。

④最小風(fēng)險(xiǎn)：指已經(jīng)被廣泛運(yùn)用的AI系統(tǒng)，包括垃圾郵件過濾器、電子游戲中的AI系統(tǒng)等等。

在鼓勵(lì)技術(shù)創(chuàng)新和保護(hù)人權(quán)之間找到平衡點(diǎn)

該法案的核心目的是為了在鼓勵(lì)技術(shù)創(chuàng)新和保護(hù)人權(quán)之間找到平衡點(diǎn)。

一方面，鼓勵(lì)人工智能技術(shù)的進(jìn)步和創(chuàng)新；另一方面又必須確保技術(shù)創(chuàng)新不會(huì)侵犯公眾的基本權(quán)利。

該法案規(guī)定了嚴(yán)格的前置審查程序和履行合規(guī)義務(wù)，重點(diǎn)對具有高風(fēng)險(xiǎn)的人工智能產(chǎn)品和服務(wù)實(shí)施治理，要求人工智能公司對其算法保持人為控制，向監(jiān)管機(jī)構(gòu)提供技術(shù)文件，并為[高風(fēng)險(xiǎn)]應(yīng)用建立風(fēng)險(xiǎn)管理系統(tǒng)。

在企業(yè)看來，嚴(yán)格的制約可能會(huì)打擊歐洲公司的創(chuàng)新能力。

今年6月，包括法國空客公司和德國西門子公司在內(nèi)的數(shù)十家最大的歐洲公司表示，如果政府制定的規(guī)則過于嚴(yán)格，則無法培育創(chuàng)新和幫助當(dāng)?shù)禺a(chǎn)業(yè)。

對此，歐盟出臺(tái)的規(guī)則將為人工智能技術(shù)的使用提供保障措施，同時(shí)避免給企業(yè)帶來[過度負(fù)擔(dān)]。

目前的《人工智能法案》可能會(huì)抑制人工智能技術(shù)為歐洲[重新加入技術(shù)先鋒]的機(jī)會(huì)。

批準(zhǔn)的規(guī)則過于極端，有可能破壞歐盟的技術(shù)雄心，而不是為人工智能創(chuàng)新提供合適的環(huán)境。

其監(jiān)管理念是設(shè)置一系列可變動(dòng)的監(jiān)管標(biāo)準(zhǔn)，旨在對風(fēng)險(xiǎn)最高的人工智能系統(tǒng)施加最嚴(yán)格的限制，而針對其他風(fēng)險(xiǎn)程度較小的AI工具，則必須披露內(nèi)容是由人工智能合成。

根據(jù)的解釋，此次法案的中心方法論是根據(jù)人工智能對社會(huì)造成危害的能力，遵循[基于風(fēng)險(xiǎn)]的方法來監(jiān)管人工智能：風(fēng)險(xiǎn)越高，規(guī)則越嚴(yán)。

一些人擔(dān)心，過多的監(jiān)管會(huì)損害歐洲人工智能相關(guān)企業(yè)的發(fā)展，讓歐洲的人工智能發(fā)展落后于其他地區(qū)。

歐洲目前在人工智能關(guān)鍵技術(shù)方面面臨落后的危險(xiǎn)。隨著對人工智能基礎(chǔ)模型及應(yīng)用的全面監(jiān)管，《人工智能法案》危及制造商和用戶雙方的競爭力和創(chuàng)新能力。

人工智能公司仍有很大的回旋空間

在2021年，《人工智能法案》的初步草案首次公布時(shí)，公眾的關(guān)注焦點(diǎn)主要集中在元宇宙上現(xiàn)在看來，這種關(guān)注已經(jīng)有所轉(zhuǎn)移。

在ChatGPT等先進(jìn)技術(shù)出現(xiàn)之后，立法者們意識(shí)到他們需要在監(jiān)管中考慮基礎(chǔ)模型，即那些可用于多種應(yīng)用場景的強(qiáng)大人工智能模型。

這引發(fā)了關(guān)于哪些模型應(yīng)受到監(jiān)管，以及監(jiān)管是否會(huì)抑制創(chuàng)新的熱烈討論。

《人工智能法案》將要求基礎(chǔ)模型以及基于此構(gòu)建的人工智能系統(tǒng)提供更詳細(xì)的文檔，遵守歐盟版權(quán)法，并分享更多關(guān)于模型訓(xùn)練數(shù)據(jù)的信息。

對于最強(qiáng)大的模型，還有額外的要求。例如，科技公司必須公開其人工智能模型的安全性和能效。

然而，立法者正在尋找一個(gè)折衷方案，只對最強(qiáng)大的AI模型應(yīng)用更嚴(yán)格的規(guī)則，這些規(guī)則按照其訓(xùn)練所需的計(jì)算能力進(jìn)行分類。公司將自主評估自己是否受到更嚴(yán)格規(guī)定的約束。

然而，這位官員也表示，隨著技術(shù)的進(jìn)步，歐盟可能會(huì)改變評估人工智能模型能力的方式。

結(jié)尾：

可能需要數(shù)周甚至數(shù)月的時(shí)間來觀察法案的最終版本。在技術(shù)上，該法案的具體內(nèi)容仍需經(jīng)過進(jìn)一步的修訂。

此外，在正式成為法律之前，還需經(jīng)過審批程序。一旦該法案正式生效，科技公司將有兩年的時(shí)間來遵守這些規(guī)定。

對于特定的人工智能應(yīng)用，禁令將在六個(gè)月后生效。對于開發(fā)基礎(chǔ)模型的公司，他們必須在一年內(nèi)確保其模型的合法性。

部分資料參考：界面新聞：《歐盟就全球首個(gè)AI監(jiān)管法達(dá)成初步協(xié)議，有哪些干貨？》，DeepTech深科技：《為何歐盟人工智能法案如此[難產(chǎn)]？》

       原文標(biāo)題 : AI芯天下丨熱點(diǎn)丨史上最嚴(yán)監(jiān)管法案，鎖住了歐洲大國的AI野心