當(dāng)?shù)貢r(shí)間8月1日，歐盟《人工智能法案》正式生效。作為全球首部全面監(jiān)管人工智能的法規(guī)，它的出臺意味著人工智能的規(guī)范應(yīng)用邁出重要一步。
正迎頭趕上的中國人工智能企業(yè)，會否因此受到影響？
如何監(jiān)管？
該法案采用風(fēng)險(xiǎn)分級管理的模式，將人工智能系統(tǒng)分為禁止、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)四類，并據(jù)此設(shè)定不同的合規(guī)標(biāo)準(zhǔn)。
其中，關(guān)于高風(fēng)險(xiǎn)人工智能系統(tǒng)的界定和要求成為多方關(guān)注焦點(diǎn)。根據(jù)法案，自動(dòng)駕駛汽車、醫(yī)療設(shè)備、貸款決策系統(tǒng)、教育評分和遠(yuǎn)程生物識別系統(tǒng)等均屬于高風(fēng)險(xiǎn)人工智能系統(tǒng)，涉及醫(yī)療健康、公共安全、交通運(yùn)輸?shù)汝P(guān)鍵領(lǐng)域，因此該法案對高風(fēng)險(xiǎn)人工智能系統(tǒng)規(guī)定了嚴(yán)格的透明度義務(wù)。
同時(shí)，復(fù)雜和廣泛使用的人工智能系統(tǒng)也將受到新約束。法案要求，所有人工智能生成的內(nèi)容（包括圖像、音頻或視頻等）都要有明確標(biāo)簽，能夠被檢測為人工智能生成的內(nèi)容，以解決人們對虛假信息的擔(dān)憂。
此外，該法案規(guī)定，禁止使用被認(rèn)為對用戶基本權(quán)利構(gòu)成明顯威脅的人工智能系統(tǒng)。對有違規(guī)行為的企業(yè)，歐盟最高將對其處以3500萬歐元或全球年?duì)I業(yè)額7%的罰款，取二者中的較高值。
按照計(jì)劃，該法案相關(guān)規(guī)則將分階段實(shí)施，主要是為了給企業(yè)留出一定過渡期。某些規(guī)則將在該法案通過6個(gè)月后或12個(gè)月后生效，而大部分規(guī)則將于2026年8月2日開始生效。
值得一提的是，該法案將不僅適用于歐盟境內(nèi)，其效力還擴(kuò)展至歐盟區(qū)域外運(yùn)營的相關(guān)公司，具有廣泛國際影響力。
影響幾何？
隨著法案各條款逐步實(shí)施，人工智能應(yīng)用或?qū)⒆呦蚋右?guī)范的軌道。
北京金杜律師事務(wù)所顧問方禹接受中新社國是直通車采訪時(shí)指出，歐盟《人工智能法案》從約束內(nèi)容到處罰規(guī)定，保持了一如既往的“高標(biāo)準(zhǔn)”，具有標(biāo)桿性意義，將為世界其他地區(qū)和國家立法提供參考框架。
與此同時(shí)，業(yè)內(nèi)也有很多觀點(diǎn)認(rèn)為，合規(guī)意味著成本上升，該法案實(shí)施將顯著增加人工智能相關(guān)企業(yè)的合規(guī)成本。
據(jù)早期預(yù)測，該法案可能導(dǎo)致歐盟在未來五年內(nèi)經(jīng)濟(jì)損失超300億歐元，并使人工智能領(lǐng)域的支出增加近17%的合規(guī)成本。
北京大成（上海）律師事務(wù)所合伙人彭凱認(rèn)為，《人工智能法案》對透明度、個(gè)人信息保護(hù)等方面提出了較高要求，于消費(fèi)者而言是利好的。但同時(shí)，鑒于嚴(yán)格的監(jiān)管要求，人工智能價(jià)值鏈上的參與者需要投入更多資源。部分企業(yè)可能因無法承擔(dān)高昂的合規(guī)成本，需要調(diào)整其市場進(jìn)入策略，甚至因此放棄進(jìn)入歐盟市場。
在方禹看來，中國人工智能企業(yè)若要出海歐盟市場，面臨的合規(guī)成本和壓力將不可避免增加。在合規(guī)成本之外，他還強(qiáng)調(diào)企業(yè)或?qū)⒚媾R“價(jià)值觀成本”。
方禹認(rèn)為，對出海企業(yè)而言，這部法案涉及的方面以及影響是復(fù)雜且多面的。該法案是基于風(fēng)險(xiǎn)的治理思路，但歐盟和中國彼此間對于“風(fēng)險(xiǎn)”的認(rèn)識和界定存在一定差異。中國出海企業(yè)要面臨的不單是制度上的合規(guī)，還需要在價(jià)值觀等認(rèn)識層面進(jìn)行一定調(diào)整和平衡。
中國信息通信研究院人工智能研究所人工智能治理高級主管呼娜英表示，法案生效后，中國出海企業(yè)面臨的挑戰(zhàn)，一方面在于從內(nèi)部調(diào)整自身業(yè)務(wù)與合規(guī)體系以同歐盟標(biāo)準(zhǔn)對齊，另一方面要從外部平衡好不同國家和司法區(qū)域之間的規(guī)則。
有觀點(diǎn)擔(dān)憂，由于監(jiān)管和約束趨向嚴(yán)苛，該法案可能抑制技術(shù)創(chuàng)新，尤其是對初創(chuàng)企業(yè)和高風(fēng)險(xiǎn)人工智能系統(tǒng)供應(yīng)商將構(gòu)成較大壓力。但有分析認(rèn)為，隨著合規(guī)體系完善，長遠(yuǎn)看將激發(fā)企業(yè)通過技術(shù)創(chuàng)新來降低合規(guī)成本，促進(jìn)人工智能行業(yè)規(guī)范化發(fā)展。
對此，方禹表示，法案本身只是一種工具，且不同企業(yè)有不同的合規(guī)標(biāo)準(zhǔn)，不可絕對地一概而論。但如果過多企業(yè)或類別被列入高風(fēng)險(xiǎn)等級，將可能在一定程度上影響企業(yè)創(chuàng)新力。