人工智能(AI)技術正在改變世界，也在重塑著人類社會。然而發(fā)展至今，AI技術已經(jīng)顯露出許多亟需關切的監(jiān)管問題，如數(shù)據(jù)隱私和數(shù)據(jù)安全、算法黑箱、技術濫用等，尤其是個人隱私不經(jīng)允許被互聯(lián)網(wǎng)公司泄露和濫用已經(jīng)成為當今世界一大共同難題。
歐盟委員會于4月21日正式發(fā)布一項針對AI的法律草案。這份長達81頁的草案指出，歐盟將禁止使用AI系統(tǒng)建立社會征信體系，同時將徹底禁止一些對個人隱私構成“高風險”的AI應用。這意味著未來不符合準入標準的AI系統(tǒng)，可能無法進入歐盟。如果該法案獲得通過，歐盟將有望成為全球首個對AI立法的地區(qū)，這會對其他國家和地區(qū)AI監(jiān)管法規(guī)的出臺起到示范作用。
加強AI監(jiān)管
根據(jù)歐盟委員會公布的這項草案，AI在一系列活動中的使用將受到限制，這些活動包括自動駕駛汽車、申請銀行貸款、大學招生錄取以及考試評分等。它還將涵蓋執(zhí)法系統(tǒng)和法院對AI的使用，這一領域通常被視為“高風險”，因其可能威脅到人們的安全或基本權利。
草案規(guī)定，如有公司違反歐盟規(guī)則使用被禁止的AI應用，比如使用AI應用嚴重扭曲人們的行為、剝削弱勢群體或在社會評分中使用有偏見的數(shù)據(jù)，則有可能會被處以最高3000萬歐元或相當于其全球營收6%的罰款，高于此前提議的4%。此外，企業(yè)如果要部署被視為對個人隱私構成“高風險”的AI系統(tǒng)，那么不僅需要受到審查，而且系統(tǒng)的創(chuàng)建者必須證明其是通過可追溯的方式并處于人工監(jiān)督之下。
草案的另一部分涉及支持歐盟AI發(fā)展的措施，包括推動歐盟成員國建立監(jiān)管沙箱(虛擬系統(tǒng)程序)計劃，在將AI系統(tǒng)推向市場之前，初創(chuàng)企業(yè)和中小企業(yè)可以優(yōu)先獲得開發(fā)和測試AI系統(tǒng)的支持。草案規(guī)定，主管部門“應被授權對參與沙箱實體的AI項目行使酌處權和比例杠桿，同時充分保留主管部門的監(jiān)督和糾正權力”。
歐洲議會和歐盟委員會指出，新的法律框架旨在避免歐洲在人工智能開發(fā)、部署和使用方面落后于其他國家及地區(qū)，并希望通過制定新的規(guī)則助力歐盟在這一領域的領先地位。
積極醞釀立法
近年來，歐盟不斷試圖在支持創(chuàng)新和確保AI技術不侵犯歐盟5億人口隱私兩方面尋求適當?shù)?span id="5zzz5zz" class="keyword">平衡。在發(fā)布此次草案之前，歐盟對AI監(jiān)管的計劃已經(jīng)醞釀了一段時間。
2018年4月，歐盟委員會發(fā)布了一份政策文件《歐盟人工智能》。歐盟認為，AI的發(fā)展可能會引發(fā)新的倫理和法律問題，歐盟必須確保AI在適宜的框架內發(fā)展。這個框架既能促進科技創(chuàng)新，又能尊重歐盟的價值觀、基本權利和道德原則。在歐洲價值觀的基礎上，歐盟委員會提出了一種三管齊下的方法：增加公共和私人投資，為AI帶來的社會經(jīng)濟變革做好準備，并建立適當?shù)牡赖潞头煽蚣堋?/p>
2019年4月8日，歐盟委員會發(fā)布一份AI道德準則。準則由2018年12月公布的AI道德準則草案演變而來，要求不得使用公民個人資料作出傷害或歧視他們的行為。
2020年2月，歐盟委員會發(fā)布了一份《人工智能白皮書》，提出歐洲的AI戰(zhàn)略旨在提高AI領域的創(chuàng)新能力，同時促進道德、可信賴AI技術在歐洲經(jīng)濟領域的應用。委員會沒有在此階段提供擬議的法規(guī)，而是提出了任何法規(guī)框架都必須涵蓋的法律要求，以確保AI仍然值得信賴，并尊重歐盟的價值觀和原則。
2020年10月20日，歐洲議會通過了有關歐盟如何更好地監(jiān)管AI的三份立法倡議報告，期望推動AI的立法進程，以促進創(chuàng)新、道德標準和技術信任。
此次提出的立法草案是歐盟擴大其作為全球科技執(zhí)法者角色努力的一部分。如果草案獲得通過，不僅將對亞馬遜、谷歌、臉書和微軟等大型科技公司產(chǎn)生深遠影響，同時還將對使用這一技術來研發(fā)藥物、承銷保險以及評判信用度的其他公司產(chǎn)生沖擊。
通過尚需時日
歐盟在技術行業(yè)監(jiān)管方面一直是全球最積極的，其發(fā)布的監(jiān)管政策常被其他國家用作模板。目前，全球僅有少數(shù)機構提出要針對AI制定全面的法律框架，因此歐洲議會此次對AI擬定的法律新規(guī)則意義特殊、影響深遠。
歐盟委員會執(zhí)行副總裁韋斯特格表示，這一監(jiān)管法規(guī)解決了AI在某些特殊用途方面給人類和社會帶來的風險。“我們認為這是緊急事件，我們是這個星球上首個提出這一法律框架的。”
歐洲議會認為，完善法律條款對AI的商業(yè)發(fā)展有兩大促進作用：一是為AI解決方案的開發(fā)者和部署者提供法律確定性，從而提高商業(yè)可預測性并促進投資;二是在全球范圍內創(chuàng)建公平的監(jiān)管競爭環(huán)境，促進行業(yè)發(fā)展。
全球最大的隱私保護組織IAPP協(xié)會副主席Omer Tene在社交媒體上表示：“這項立法代表了歐盟在新技術和創(chuàng)新方面的新嘗試，當人們對數(shù)據(jù)的使用邊界不清晰時，那么請用法律來監(jiān)管。”
不過，也有人指出，草案有些條款似乎過于模糊，有太多漏洞可鉆。
盡管褒貶不一，但可以肯定的是，這份草案在成為法律之前還有很長的路要走。在歐盟，此類法律必須得到代表歐盟27國政府的歐洲理事會和直接選舉產(chǎn)生的歐洲議會的批準，整個過程可能需要數(shù)年時間。如果屆時法案被采納，那么歐洲也將成為首個以法律形式規(guī)范AI數(shù)據(jù)采集使用的地區(qū)。
