歐盟理事會(huì)5月21日正式批準(zhǔn)歐盟《人工智能法案》（以下簡(jiǎn)稱《法案》），該法案成為世界上首部對(duì)人工智能進(jìn)行全面監(jiān)管的法案。《法案》通過后，歐盟就宣布成立人工智能辦公室，依法對(duì)人工智能發(fā)展進(jìn)行監(jiān)管。

《法案》的頒布，意味著歐盟以外的組織機(jī)構(gòu)在其人工智能平臺(tái)中使用歐盟國(guó)家各領(lǐng)域的數(shù)據(jù)時(shí)，必須遵守該法。因此，該法案可能會(huì)給其他國(guó)家和地區(qū)人工智能發(fā)展帶來重要影響。對(duì)《法案》主體內(nèi)容進(jìn)行分析，可以發(fā)現(xiàn)，人工智能發(fā)展的風(fēng)險(xiǎn)控制和安全管理是永恒主題。

確保操作者和使用者有人工智能素養(yǎng)

現(xiàn)階段，人工智能技術(shù)飛速發(fā)展，同時(shí)在各大經(jīng)濟(jì)體中引發(fā)激烈競(jìng)爭(zhēng)，發(fā)展過程中容易忽視風(fēng)險(xiǎn)管控和安全管理。人工智能技術(shù)的研發(fā)和應(yīng)用不僅不得損害人類權(quán)利和尊嚴(yán)，而且要最大程度增進(jìn)人類福祉。

歐盟在《法案》第一章總則部分，闡明了出臺(tái)目的是改善歐盟內(nèi)部市場(chǎng)運(yùn)作，推動(dòng)開發(fā)值得信賴的人工智能應(yīng)用，同時(shí)確保對(duì)健康安全、民主法治和環(huán)境保護(hù)等《歐盟基本權(quán)利憲章》所規(guī)定權(quán)利的高度保護(hù)，使其免受聯(lián)盟內(nèi)人工智能系統(tǒng)的有害影響。

《法案》具體內(nèi)容表現(xiàn)出對(duì)人工智能系統(tǒng)提供者和使用者人工智能素養(yǎng)的重視，要求系統(tǒng)的提供者和部署者應(yīng)采取措施，盡最大努力確保操作和使用人工智能系統(tǒng)的人員具有足夠的人工智能素養(yǎng)。《法案》明令禁止了一系列損害人的主體地位和基本權(quán)利的行為。這些行為包括：在人工智能系統(tǒng)投入和使用過程中，采用超出個(gè)人意識(shí)范圍的潛意識(shí)技術(shù)或欺騙性技術(shù)，損害人們作出知情決定的能力，導(dǎo)致人們作出本來不會(huì)作出的決定；對(duì)年齡、殘疾或經(jīng)濟(jì)狀況處于弱勢(shì)地位群體的歧視；對(duì)個(gè)人或群體進(jìn)行評(píng)估分類或是預(yù)測(cè)他們刑事犯罪風(fēng)險(xiǎn)程度的行為。當(dāng)然，如果用戶認(rèn)為該系統(tǒng)會(huì)對(duì)其健康、安全或基本權(quán)利產(chǎn)生不利影響，則有權(quán)要求人工智能系統(tǒng)部署者作出明確解釋。

明確違反人工智能相關(guān)法律條款的問責(zé)機(jī)制

歐盟制定并通過《法案》，在一定意義上是通過框架性法律，明確當(dāng)前歐盟人工智能發(fā)展倡導(dǎo)什么、反對(duì)什么、禁止什么。人工智能發(fā)展治理，要經(jīng)過嚴(yán)格且審慎的程序，在起草、審議、簽署、正式生效等重要環(huán)節(jié)確保立法程序的嚴(yán)謹(jǐn)。

根據(jù)歐盟消息，《法案》的草擬、審議和推行也是多方利益博弈的結(jié)果。歐盟委員會(huì)在公眾咨詢期內(nèi)征集了來自不同國(guó)家、不同機(jī)構(gòu)的意見書，法案最終版本的定稿經(jīng)歷了歐盟成員國(guó)內(nèi)多輪談判和修訂。在立法準(zhǔn)備階段，歐盟先是就法案內(nèi)容征求了公眾意見，包括非政府組織、企業(yè)、商業(yè)協(xié)會(huì)等機(jī)構(gòu)，范圍不僅僅局限于歐盟內(nèi)部成員國(guó)，也擴(kuò)展到了歐盟以外的其他國(guó)家和地區(qū)。接著，歐盟內(nèi)部進(jìn)行了多次談判和意見交換，對(duì)草案提出了數(shù)千項(xiàng)修正提案。2023年12月，歐盟理事會(huì)、歐洲議會(huì)和歐盟委員會(huì)三方達(dá)成一致協(xié)議，助推《法案》最終正式通過。

在《法案》中，歐盟明確了違反法律條款的問責(zé)機(jī)制，具體形式包括罰款和警告等非經(jīng)濟(jì)措施。其中，《法案》將問責(zé)對(duì)象分為以下兩種：一是對(duì)工會(huì)組織、機(jī)構(gòu)和團(tuán)體的行政罰款，二是通用人工智能模型提供者的罰款。針對(duì)歐盟內(nèi)部行政機(jī)構(gòu)的違法行為，相關(guān)執(zhí)法人員有權(quán)對(duì)該法案適用范圍內(nèi)的聯(lián)盟機(jī)構(gòu)、團(tuán)體、辦事處和機(jī)關(guān)處以罰款。對(duì)于提供通用人工智能模型的企業(yè)或組織存在故意或過失行為，歐盟委員會(huì)可對(duì)其進(jìn)行罰款，但在罰款金額的確定上遵循有效、適度且具有懲戒力原則。對(duì)于包括初創(chuàng)企業(yè)在內(nèi)的一些中小企業(yè)，應(yīng)充分考慮他們的利益和經(jīng)濟(jì)可行性。

強(qiáng)調(diào)對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的規(guī)范和約束

歐盟認(rèn)為，對(duì)人工智能發(fā)展進(jìn)行治理，不是限制人工智能技術(shù)創(chuàng)新、數(shù)字產(chǎn)業(yè)發(fā)展，而在于通過法律手段調(diào)整各種關(guān)系，使人工智能發(fā)展的必要條件得到法律保護(hù)。

歐盟在《法案》中，將人工智能系統(tǒng)劃分為不同的等級(jí)：不可接受風(fēng)險(xiǎn)類、高風(fēng)險(xiǎn)類、有限風(fēng)險(xiǎn)類和最小風(fēng)險(xiǎn)類，風(fēng)險(xiǎn)等級(jí)越高，相應(yīng)管控越嚴(yán)格?！斗ò浮窂?qiáng)調(diào)對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的規(guī)范和約束。一是在高風(fēng)險(xiǎn)人工智能系統(tǒng)的整個(gè)生命周期中，定期對(duì)系統(tǒng)進(jìn)行審查和更新的風(fēng)險(xiǎn)管理制度。二是涉及用數(shù)據(jù)訓(xùn)練人工智能模型的技術(shù)的高風(fēng)險(xiǎn)人工智能系統(tǒng)，應(yīng)在訓(xùn)練、驗(yàn)證和測(cè)試數(shù)據(jù)集的基礎(chǔ)上開發(fā)和使用。三是應(yīng)在高風(fēng)險(xiǎn)人工智能系統(tǒng)投放市場(chǎng)或投入使用前起草技術(shù)文件，同時(shí)在系統(tǒng)投入使用過程中做好記錄保存。四是高風(fēng)險(xiǎn)人工智能系統(tǒng)的設(shè)計(jì)和開發(fā)，應(yīng)確保其運(yùn)行足夠透明，能夠解釋系統(tǒng)輸出內(nèi)容，并確保它能被適當(dāng)使用。

《法案》要求，歐盟各成員國(guó)至少建立一個(gè)人工智能監(jiān)管沙盒（AI Regulatory Sandboxes）。在新型人工智能系統(tǒng)投放市場(chǎng)或投入使用前，監(jiān)管沙盒能夠提供一個(gè)可控的環(huán)境，在有限的時(shí)間內(nèi)進(jìn)行人工智能系統(tǒng)的研發(fā)創(chuàng)新、培訓(xùn)、測(cè)試和驗(yàn)證，以便主管部門查明系統(tǒng)潛在風(fēng)險(xiǎn)，有效促進(jìn)產(chǎn)業(yè)創(chuàng)新、提升競(jìng)爭(zhēng)力，推動(dòng)人工智能生態(tài)系統(tǒng)的可持續(xù)發(fā)展。此外，《法案》明確了人工智能辦公室、歐洲人工智能委員會(huì)的設(shè)立。同時(shí)，《法案》明確表示，設(shè)立董事會(huì)，為委員會(huì)和成員國(guó)提供建議和協(xié)助；設(shè)立咨詢論壇，向理事會(huì)和委員會(huì)提供技術(shù)方面的咨詢意見；成立獨(dú)立的專家科學(xué)小組，向人工智能辦公室提供建議和支持。

歐盟對(duì)人工智能發(fā)展進(jìn)行立法，意味著歐洲內(nèi)部對(duì)人工智能的未來部署和應(yīng)對(duì)行動(dòng)，已經(jīng)達(dá)成了共識(shí)?！斗ò浮芬唤?jīng)出臺(tái)，也引發(fā)不少爭(zhēng)議，如執(zhí)行中可能陷入過度監(jiān)管或過度包容的困境，不利于人工智能發(fā)展和創(chuàng)新等。如何更好地迎接人工智能發(fā)展帶來的機(jī)遇和挑戰(zhàn)，已經(jīng)成為現(xiàn)階段和未來全球需要探討的課題。

（作者單位系浙江師范大學(xué)教育學(xué)院）

《中國(guó)教育報(bào)》2024年06月06日第9版