網(wǎng)上投稿
目錄
引言
一、歐盟人工智能法案的適用范圍
二、以風(fēng)險(xiǎn)等級(jí)為基礎(chǔ)的監(jiān)管模式
三、專章規(guī)制通用人工智能模型
四、法案對(duì)我國立法的重要借鑒意義
評(píng)析
引言
2024年3月13日，歐洲議會(huì)表決通過了歐盟醞釀已久的人工智能法案（Artificial Intelligence Act）（下稱“歐盟人工智能法案”），該法案被普遍視為世界上第一部較為全面用于規(guī)范新興的人工智能產(chǎn)業(yè)的綜合性法律文件。
鑒于歐盟人工智能法案規(guī)定的域外效力、分級(jí)的監(jiān)管模式、嚴(yán)厲的罰則（罰金可高達(dá)3500萬歐元或7%的全球年?duì)I收）、以及歐盟重要的市場地位，預(yù)計(jì)該法案將對(duì)全球人工智能產(chǎn)業(yè)的發(fā)展帶來實(shí)質(zhì)性的影響，并為后續(xù)各國陸續(xù)制定本國的相關(guān)規(guī)則提供重要的借鑒意義。
值得注意的是，目前歐洲議會(huì)通過的法案文本并非正式生效的最終稿。根據(jù)歐盟的立法程序，法案還需經(jīng)文本語言的校對(duì)及歐洲理事會(huì)的批準(zhǔn)，在歐盟官方公報(bào)上公布后二十天方才生效（預(yù)計(jì)將在今年的五月或六月）。此外，歐盟人工智能法案的不同部分亦將分階段施行，比如被禁止實(shí)施的人工智能相關(guān)條款將在生效日六個(gè)月后適用、行為準(zhǔn)則條款將在生效日九個(gè)月后適用、有關(guān)通用人工智能治理的條款將在生效日十二個(gè)月后適用、而高風(fēng)險(xiǎn)人工智能系統(tǒng)的合規(guī)義務(wù)則留有三十六個(gè)月的期限，為不同類型、不同風(fēng)險(xiǎn)的人工智能系統(tǒng)有針對(duì)性地預(yù)留了一定的過渡期和整改期。
本文將首先簡要介紹歐盟人工智能法案的主要立法內(nèi)容及重大亮點(diǎn)，同時(shí)思考并評(píng)述其對(duì)我國后續(xù)人工智能領(lǐng)域立法可以帶來的借鑒，供各位讀者參考、探討和交流。
一、歐盟人工智能法案的適用范圍
歐盟人工智能法案的適用范圍廣泛且具有明確的域外適用效力。對(duì)于人工智能系統(tǒng)的提供者（不限于人工智能的開發(fā)者，相關(guān)人工智能系統(tǒng)的所有方或人工智能系統(tǒng)在其名下或貼其商標(biāo)者，皆可構(gòu)成），只要在歐盟市場投放或投入使用（不論是否收費(fèi)）其人工智能系統(tǒng)或其人工智能系統(tǒng)產(chǎn)生的結(jié)果被用于歐盟境內(nèi)，無論該提供者的實(shí)體是否在歐盟境內(nèi)，都將受到歐盟人工智能法案的約束。
歐盟人工智能法案還適用于在歐盟境內(nèi)的人工智能系統(tǒng)部署者（指在其授權(quán)范圍內(nèi)并在其職業(yè)活動(dòng)中使用人工智能系統(tǒng)的主體，但自然人用于個(gè)人的非職業(yè)活動(dòng)除外）。對(duì)于處于歐盟境外的部署者，只要相關(guān)人工智能系統(tǒng)產(chǎn)生的結(jié)果被用于歐盟境內(nèi)，歐盟人工智能法案依然適用。
另外，除了上述人工智能系統(tǒng)的提供者和部署者，對(duì)于人工智能產(chǎn)業(yè)鏈上的進(jìn)口商、分銷商等主體，歐盟人工智能法案亦設(shè)定了相應(yīng)的合規(guī)義務(wù)。
二、以風(fēng)險(xiǎn)等級(jí)為基礎(chǔ)的監(jiān)管模式
歐盟人工智能法案將人工智能系統(tǒng)的風(fēng)險(xiǎn)等級(jí)細(xì)分為不可接受風(fēng)險(xiǎn)、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)及最低風(fēng)險(xiǎn)四類，對(duì)不同風(fēng)險(xiǎn)等級(jí)的人工智能系統(tǒng)差異化地提出了對(duì)應(yīng)的合規(guī)要求，而具有不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)則直接會(huì)被禁止。以下表格將分類說明：
三、專章規(guī)制通用人工智能模型
在歐盟人工智能法案立法的過程中，由于人工智能大模型快速的發(fā)展，法案專門制定一個(gè)章節(jié)對(duì)通用人工智能模型（general-purpose AI model，即經(jīng)大量數(shù)據(jù)訓(xùn)練并展現(xiàn)出實(shí)質(zhì)通用性可完成廣泛而多樣任務(wù)的人工智能模型）進(jìn)行監(jiān)管，并以是否存在系統(tǒng)性風(fēng)險(xiǎn)（systemic risk）進(jìn)行區(qū)分，對(duì)具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型提出更高的合規(guī)要求。
而衡量是否具有系統(tǒng)性風(fēng)險(xiǎn)的標(biāo)準(zhǔn)主要是基于對(duì)通用人工智能模型技術(shù)性能指標(biāo)的判斷，若通用人工智能模型達(dá)到或高于歐盟人工智能法案不時(shí)更新的技術(shù)參數(shù)（例如用來訓(xùn)練通用人工智能模型的算力總量），則將被視為具有系統(tǒng)性風(fēng)險(xiǎn)。也就是說技術(shù)性能越強(qiáng)大，越有可能構(gòu)成具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型。
通用人工智能模型的提供者在歐盟人工智能法案下需履行的義務(wù)包括：公布足夠詳盡的訓(xùn)練數(shù)據(jù)總結(jié)、遵守歐盟版權(quán)法、確保通用人工智能模型生成的結(jié)果得到恰當(dāng)?shù)臉?biāo)識(shí)等。對(duì)于具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型，其提供者則還應(yīng)履行額外的合規(guī)義務(wù)，在投放市場前對(duì)模型進(jìn)行評(píng)估從而識(shí)別和緩解可能存在的系統(tǒng)性風(fēng)險(xiǎn)、向歐盟委員會(huì)及相關(guān)國家機(jī)構(gòu)跟蹤并報(bào)告突發(fā)事件、為人工智能模型及其物理硬件提供足夠的網(wǎng)絡(luò)安全措施等。
四、法案對(duì)我國立法的重要借鑒意義
與歐盟類似，中國也正處于人工智能領(lǐng)域立法的重要關(guān)口。因此，歐盟人工智能法案的出臺(tái)也對(duì)我國后續(xù)人工智能領(lǐng)域立法具有重要借鑒意義：
1、“分級(jí)分類”風(fēng)險(xiǎn)治理理念
如本文第二節(jié)所述，歐盟人工智能法案將“分級(jí)分類”風(fēng)險(xiǎn)治理理念作為人工智能風(fēng)險(xiǎn)治理的一項(xiàng)重要基本原則，配以相應(yīng)的分級(jí)分類標(biāo)準(zhǔn)，并分別明確監(jiān)管重點(diǎn)及適用的監(jiān)管手段。
特別地，對(duì)于重點(diǎn)監(jiān)管的高風(fēng)險(xiǎn)人工智能系統(tǒng)，歐盟人工智能法案采取“清單治理”+“動(dòng)態(tài)管理”的風(fēng)險(xiǎn)治理路徑：（1）就“清單治理”，法案對(duì)屬于高風(fēng)險(xiǎn)人工智能系統(tǒng)的類型和應(yīng)用領(lǐng)域進(jìn)行列舉，并明確歐盟委員會(huì)可通過立法不斷調(diào)整高風(fēng)險(xiǎn)人工智能系統(tǒng)的清單；（2）就“動(dòng)態(tài)管理”，法案以全生命周期模式對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行監(jiān)管，對(duì)其“上市前-上市時(shí)-上市后”提出全方位的合規(guī)要求。
對(duì)我國而言，“分級(jí)分類”的監(jiān)管原則其實(shí)早在《生成式人工智能服務(wù)管理暫行辦法》即已提出，但暫行辦法中尚未詳細(xì)展開，因此歐盟人工智能法案對(duì)于我國后續(xù)將如何對(duì)人工智能技術(shù)的“分級(jí)分類”監(jiān)管體系落于紙面，尤其是如何監(jiān)管作為監(jiān)管重點(diǎn)的高風(fēng)險(xiǎn)人工智能系統(tǒng)，提供了可供參考的思路，具有相當(dāng)?shù)慕梃b意義。
2、個(gè)人隱私與數(shù)據(jù)保護(hù)
歐盟人工智能法案中強(qiáng)調(diào)了在人工智能系統(tǒng)的開發(fā)和應(yīng)用中保護(hù)個(gè)人隱私的重要性，并與歐盟《通用數(shù)據(jù)保護(hù)條例》（General Data Protection Regulation）等現(xiàn)有歐盟法律相互補(bǔ)充。
同樣地，對(duì)于人工智能領(lǐng)域中的個(gè)人信息、隱私權(quán)和數(shù)據(jù)安全保護(hù)理念在《生成式人工智能服務(wù)管理暫行辦法》中亦已有明確規(guī)定。可以預(yù)見，后續(xù)我國人工智能領(lǐng)域的立法很可能也會(huì)參照歐盟人工智能法案，尋求與《中華人民共和國網(wǎng)絡(luò)安全法》、《中華人民共和國數(shù)據(jù)安全法》、《中華人民共和國個(gè)人信息保護(hù)法》等法律法規(guī)的有機(jī)結(jié)合，在法律原則和條款上進(jìn)行援引，相互補(bǔ)充。
3、支持創(chuàng)新與中小企業(yè)發(fā)展
值得注意的是，歐盟人工智能法案中專門規(guī)定了“支持創(chuàng)新的措施”，其中提到“監(jiān)管沙盒（Regulatory Sandbox）”，一種由政府部門主導(dǎo)的監(jiān)管工具，可以由中小企業(yè)免費(fèi)參與或享受申請(qǐng)便利。該等監(jiān)管工具允許企業(yè)在監(jiān)管機(jī)構(gòu)的監(jiān)督下，在有限期間內(nèi)測試和實(shí)驗(yàn)新的創(chuàng)新產(chǎn)品、服務(wù)或業(yè)務(wù)。此外，歐盟人工智能法案還規(guī)定了一系列針對(duì)中小企業(yè)的保護(hù)措施。
目前，我國中小企業(yè)在人工智能領(lǐng)域各項(xiàng)政策中仍處于較弱勢地位，從技術(shù)及商業(yè)創(chuàng)新的角度，建議我國后續(xù)立法中可以參照歐盟人工智能法案給予中小企業(yè)更多機(jī)會(huì)和支持。
評(píng) 析
歐盟人工智能法案標(biāo)志著全球范圍內(nèi)對(duì)人工智能技術(shù)綜合性規(guī)制的重要一步，為人工智能系統(tǒng)的發(fā)展、部署與使用設(shè)定了明確的法律框架。類似地，我國也正處于人工智能領(lǐng)域立法的重要十字路口，故歐盟人工智能法案對(duì)我國加快、加強(qiáng)人工智能領(lǐng)域立法的體系化和系統(tǒng)性、細(xì)化風(fēng)險(xiǎn)分級(jí)分類制度以及通過制度設(shè)計(jì)鼓勵(lì)創(chuàng)新等方面具有相當(dāng)?shù)慕梃b意義。
同時(shí)，可以預(yù)見，隨著我國人工智能領(lǐng)域立法的不斷出臺(tái)，以及跨法域人工智能產(chǎn)品及服務(wù)的不斷涌現(xiàn)，不可避免得將出現(xiàn)歐盟人工智能法案和我國人工智能法律法規(guī)的重合適用，甚至是沖突（例如標(biāo)準(zhǔn)不同/沖突，數(shù)據(jù)存儲(chǔ)、歸屬等等），我們建議相關(guān)企業(yè)對(duì)行業(yè)法律法規(guī)及政策保持密切關(guān)注，及時(shí)聘請(qǐng)法律專業(yè)機(jī)構(gòu)協(xié)助分析和應(yīng)對(duì)相關(guān)合規(guī)風(fēng)險(xiǎn)，做到未雨綢繆、行穩(wěn)致遠(yuǎn)。
后續(xù)我們將持續(xù)關(guān)注歐盟人工智能法案通過后的不斷發(fā)展和變化，以期一窺全球人工智能領(lǐng)域立法的監(jiān)管思路及監(jiān)管趨勢，供各位讀者參考、探討和交流。