歐盟朝著全球首部人工智能（AI）立法又邁出重要一步。

當(dāng)?shù)貢r(shí)間14日，歐洲議會(huì)以499票贊成、28票反對(duì)和93票棄權(quán)，高票通過(guò)了歐盟的《人工智能法案》談判授權(quán)草案。

(資料圖片)

第一財(cái)經(jīng)記者看到的草案文本顯示，歐洲議會(huì)對(duì)此前版本作出修改，譬如在如何定義人工智能方面，進(jìn)一步明確了高風(fēng)險(xiǎn)人工智能的場(chǎng)景，同時(shí)該版本也保留了此前的法案的重要內(nèi)容，包括禁止在生物識(shí)別監(jiān)控中使用人工智能技術(shù)，以及ChatGPT等生成式人工智能的披露透明度等問(wèn)題。

據(jù)悉，接下來(lái)各方將正式進(jìn)入與歐盟委員會(huì)進(jìn)行協(xié)商的程序，以確定最終版本，最快也要在今年年底才能達(dá)成共識(shí)。

“監(jiān)管中必須有不可跨越的紅線(xiàn)。歐盟的《人工智能法案》中就規(guī)定了不可發(fā)展的部分，比如不可用于社會(huì)評(píng)分。”歐洲工商管理學(xué)院（INSAED）的決策科學(xué)和技術(shù)管理教授埃夫根尼奧（Theos Evgeniou）對(duì)第一財(cái)經(jīng)記者表示："不過(guò)從某種意義上來(lái)說(shuō)，歐洲更復(fù)雜，在解決某些重大問(wèn)題時(shí)，所有成員國(guó)需要達(dá)成一致，需要考慮到不同成員國(guó)之間不同的立法流程、文化背景以及治理體系。所以歐洲的行動(dòng)相比起來(lái)較為緩慢。因此，歐洲希望從一開(kāi)始就不要在監(jiān)管上犯錯(cuò)誤。"

人工智能分級(jí)管理

歐盟于2021年首次提出《人工智能法案》，旨在制定管理使用人工智能系統(tǒng)的任何產(chǎn)品和服務(wù)的規(guī)則。

目前的該法案談判授權(quán)草案采取了分級(jí)管理的思路，即基于人工智能的四個(gè)等級(jí)（從風(fēng)險(xiǎn)最小到不可接受），進(jìn)行區(qū)別管理，風(fēng)險(xiǎn)較高的應(yīng)用程序?qū)⒚媾R更嚴(yán)格的規(guī)則，需要更高的透明度和準(zhǔn)確性。

歐洲議會(huì)認(rèn)為，對(duì)人類(lèi)安全造成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)將被嚴(yán)格禁止，包括部署潛意識(shí)或有目的操縱技術(shù)、利用人們?nèi)觞c(diǎn)或用于社會(huì)評(píng)分的系統(tǒng)。

譬如，用于預(yù)先確定犯罪發(fā)生地點(diǎn)和犯罪者的警務(wù)工具可能將被禁止，除打擊和預(yù)防特定恐怖威脅外，遠(yuǎn)程面部識(shí)別技術(shù)也將被禁止。

此次，歐洲議會(huì)就批準(zhǔn)了全面禁止警察在公共場(chǎng)所使用實(shí)時(shí)面部識(shí)別技術(shù)的立法草案文本。具體而言，此次歐洲議會(huì)議員擴(kuò)大了禁止清單，進(jìn)一步禁止了侵入性和歧視性使用人工智能，其中包括在公共場(chǎng)所的實(shí)時(shí)遠(yuǎn)程生物特征識(shí)別監(jiān)控系統(tǒng)，使用敏感特征（例如性別、種族等）的生物識(shí)別分類(lèi)系統(tǒng)，預(yù)測(cè)性警務(wù)系統(tǒng)（基于分析、位置或既往犯罪行為），執(zhí)法、邊境管理、工作場(chǎng)所和教育機(jī)構(gòu)中的情緒識(shí)別系統(tǒng)以及從互聯(lián)網(wǎng)或閉路電視錄像中無(wú)針對(duì)性地抓取面部圖像以創(chuàng)建面部識(shí)別數(shù)據(jù)庫(kù)的行為。

將立法推進(jìn)到投票階段的歐洲議會(huì)人工智能委員會(huì)的聯(lián)合報(bào)告員本尼菲（Brando Benifei）表示，在面部識(shí)別方面，法律將提供“明確的保障措施，以避免任何大規(guī)模監(jiān)控的風(fēng)險(xiǎn)”。

徹底記錄訓(xùn)練人工智能版權(quán)

需要提到的是，最初的草案并未詳細(xì)涵蓋聊天機(jī)器人，但由于在立法期間，ChatGPT橫空出世，立法者添加了一項(xiàng)修正案，將ChatGPT和類(lèi)似的生成式AI與高風(fēng)險(xiǎn)系統(tǒng)置于同一級(jí)別。

歐洲議會(huì)提出，像ChatGPT這樣的生成基礎(chǔ)模型必須遵守額外的透明度要求，比如披露內(nèi)容是由人工智能生成的，設(shè)計(jì)模型以防止其生成非法內(nèi)容，以及發(fā)布用于訓(xùn)練的受版權(quán)保護(hù)數(shù)據(jù)的摘要。

此外，歐洲議會(huì)的議員們還希望提高歐洲公民對(duì)人工智能系統(tǒng)提出投訴的權(quán)利，并獲得對(duì)基于嚴(yán)重影響其權(quán)利的高風(fēng)險(xiǎn)人工智能系統(tǒng)決策的解釋權(quán)利。

在歐盟的定義里，由于生成式人工智能沒(méi)有特定用途，因而將其劃分為通用人工智能領(lǐng)域（General Purpose AI），并強(qiáng)制披露受版權(quán)保護(hù)的人工智能訓(xùn)練數(shù)據(jù)。

根據(jù)草案文本，開(kāi)發(fā)商在歐盟市場(chǎng)上發(fā)布之前在歐盟人工智能管理數(shù)據(jù)庫(kù)中進(jìn)行登記。如ChatGPT等工具，必須披露哪些內(nèi)容是人工智能生成的，以便幫助區(qū)分所謂的深度造假圖像和真實(shí)圖像，并確保防止生成非法內(nèi)容。

同時(shí)，此次在草案中，歐洲議會(huì)要求徹底記錄任何用于訓(xùn)練人工智能系統(tǒng)如何生成類(lèi)似于人類(lèi)作品的文本、圖像、視頻和音樂(lè)的版權(quán)材料，且開(kāi)發(fā)商還必須證明他們?yōu)橛?xùn)練機(jī)器所做的一切都符合法律。

歐洲議會(huì)議員圖朵拉赫表示，如果人工智能的開(kāi)發(fā)者不這樣做，他們可能會(huì)被迫立即刪除應(yīng)用程序或被罰款，罰款最高可達(dá)其收入的 7%，這對(duì)科技巨頭來(lái)說(shuō)可能高達(dá)數(shù)億歐元。

埃夫根尼奧對(duì)第一財(cái)經(jīng)記者表示，像ChatGPT這樣的生成性AI技術(shù)是所謂“根基模型”（foundation models）。

“人們可以在這種模型的基礎(chǔ)上開(kāi)發(fā)大量產(chǎn)品，并能夠進(jìn)行微調(diào)。換言之，它們不是單純的產(chǎn)品，而是核心技術(shù)，是人們可以開(kāi)發(fā)的產(chǎn)品之核心所在。”他解釋道，“這種核心技術(shù)本身已經(jīng)非常強(qiáng)大，我們甚至無(wú)法預(yù)測(cè)人們將依靠它們開(kāi)發(fā)出什么。我們也從未仔細(xì)考慮過(guò)如何管控和規(guī)范根基模型。這是一種新概念。”

“很明顯，我們需要對(duì)其中一些部分進(jìn)行監(jiān)管。要注意的是，我們要規(guī)范和監(jiān)管的是內(nèi)容審核的過(guò)程，而非內(nèi)容本身。”他表示：“一些國(guó)家和地區(qū)已著手制定有關(guān)內(nèi)容審核的法規(guī)。例如，歐洲提出《數(shù)字服務(wù)法》（DSA），涉及規(guī)范在線(xiàn)平臺(tái)的內(nèi)容。在我看來(lái)，這是一個(gè)很好的法規(guī)，因?yàn)樗鼛?lái)了一個(gè)公平和透明的內(nèi)容審核程序。”

他并補(bǔ)充道，總之，我們需要法規(guī)來(lái)規(guī)范如何公平和透明地審核內(nèi)容，至于內(nèi)容來(lái)自人還是來(lái)自人工智能，這在某種意義上并不重要。

據(jù)悉，接下來(lái)，歐洲議會(huì)、歐盟理事會(huì)和歐盟委員會(huì)的代表將在“三方”會(huì)談中商定最終條款。在條款最終確定且該法案成為法律后，將有大約兩年的寬限期。

（記者高雅對(duì)本文亦有貢獻(xiàn)）

標(biāo)簽：