8月1日，歐盟《人工智能法案》（下稱《AI法案》）將在歐盟范圍內(nèi)正式生效，并將在未來三年分階段實(shí)施。這是全球第一部全面監(jiān)管人工智能的法案，影響力不可低估。

與人工智能企業(yè)切身利益相關(guān)的是，《AI法案》對(duì)多類在歐盟區(qū)域開展業(yè)務(wù)的海外公司有所約束，影響波及域外地區(qū)。這部法案已經(jīng)引起法律界和業(yè)界廣泛重視，大家都在等待歐盟對(duì)一些條例提供進(jìn)一步的詳細(xì)說明和配套設(shè)施。

以數(shù)據(jù)合規(guī)相關(guān)內(nèi)容為例，全球機(jī)器學(xué)習(xí)和增長(zhǎng)營(yíng)銷解決方案公司 Moloco亞太區(qū)產(chǎn)品總監(jiān)劉連波告訴第一財(cái)經(jīng)，“隱私政策這件事情并不是針對(duì)某個(gè)一家公司，是對(duì)所有參與其中的partner（合作方）或者所有的player（玩家）都是相關(guān)的。這個(gè)行業(yè)大家面對(duì)的挑戰(zhàn)總是一樣的，我不認(rèn)為會(huì)對(duì)出海生意的趨勢(shì)有本質(zhì)的影響，因?yàn)檫@個(gè)行業(yè)會(huì)共享這個(gè)挑戰(zhàn)。”他認(rèn)為首先重要的是合規(guī)，其次是正確收集數(shù)據(jù)而不濫用，這最終也會(huì)促使我們調(diào)整算法模型來進(jìn)行應(yīng)對(duì)。“我們會(huì)仔細(xì)跟蹤和研究該法案對(duì)我們出海客戶的具體挑戰(zhàn)，然后我們會(huì)和客戶一起去研究落實(shí)解決方案。”

“國(guó)內(nèi)出海至歐盟的企業(yè)最需要關(guān)注的是高風(fēng)險(xiǎn)系統(tǒng)AI系統(tǒng)。如果不符合規(guī)定，企業(yè)將面臨高額罰款和法律風(fēng)險(xiǎn)。” 墾丁（廣州）律師事務(wù)所創(chuàng)始合伙人、主任律師，W&W國(guó)際法律團(tuán)隊(duì)創(chuàng)始人王捷告訴第一財(cái)經(jīng)記者，參考國(guó)內(nèi)科技企業(yè)在歐盟地區(qū)開展業(yè)務(wù)的情況，主要受影響的行業(yè)包括醫(yī)療健康、人力資源、公共安全和交通運(yùn)輸?shù)取?/p>

另有業(yè)界人士告訴記者，對(duì)于《AI法案》中的一些規(guī)定，企業(yè)要遵守并不容易，且做到合規(guī)預(yù)計(jì)將帶來企業(yè)成本上升。

罰款可達(dá)3500萬歐元

ChatGPT 2022年年底意外爆火帶來了人工智能立法的急迫性。在歐盟緊鑼密鼓的籌備下，《AI法案》今年3月在歐洲議會(huì)通過，并于今年5月獲得歐盟理事會(huì)批準(zhǔn)。今年8月1日該法案正式生效。

《AI法案》在全球范圍內(nèi)的影響力不可小覷，一定程度上是因?yàn)椋禔I法案》的管轄范圍包括一些在歐盟區(qū)域外設(shè)立的相關(guān)公司。6個(gè)月后，總則和關(guān)于不可接受風(fēng)險(xiǎn)AI系統(tǒng)的禁令將適用；12個(gè)月后，高風(fēng)險(xiǎn)AI系統(tǒng)的部分章節(jié)、通用人工智能模型等章節(jié)將適用；24個(gè)月后，除高風(fēng)險(xiǎn)AI系統(tǒng)分類規(guī)則等部分內(nèi)容外，其余部分適用；36個(gè)月后，高風(fēng)險(xiǎn)AI系統(tǒng)分類規(guī)則等部分內(nèi)容也適用。

該法案規(guī)定，條例適用于將AI系統(tǒng)投放到歐盟市場(chǎng)或?yàn)闅W盟提供AI系統(tǒng)服務(wù)的提供商，或是將通用人工智能模型投放到歐盟市場(chǎng)的提供商，無論這些提供商設(shè)立地或所在地是在歐盟還是在第三國(guó)。也適用于設(shè)立地或所在地在歐盟的AI系統(tǒng)部署商，以及AI系統(tǒng)進(jìn)口商和分銷商、以自己名義或商標(biāo)將AI系統(tǒng)與產(chǎn)品一起投放市場(chǎng)或投入使用的產(chǎn)品制造商、位于歐盟的受影響人員等。

這意味著，只要海外AI相關(guān)公司將AI系統(tǒng)投放到歐盟市場(chǎng)，或帶上了自己的商標(biāo)，或影響到歐盟地區(qū)的人員，便可能在該法案規(guī)制范圍內(nèi)。違反規(guī)定的企業(yè)最高將被處以3500萬歐元或最高年收入7%的行政罰款（以較高者為準(zhǔn)）。

關(guān)于該法案的價(jià)值和后續(xù)影響，法律界和學(xué)界多有討論。

此前歐盟發(fā)布的《通用數(shù)據(jù)保護(hù)條例》（GDPR）已顯現(xiàn)“布魯塞爾效應(yīng)”，意即歐盟通過單方面市場(chǎng)規(guī)制能力將其法律制度推廣至境外，讓受監(jiān)管實(shí)體在歐盟之外也遵守歐盟法律。這種效應(yīng)能否在《AI法案》上再次體現(xiàn)，出現(xiàn)了不同的聲音。

“《AI法案》是一個(gè)‘石破天驚’的法案，在權(quán)利、義務(wù)、責(zé)任之外，它往前探了一步，抓住‘風(fēng)險(xiǎn)’這個(gè)牛鼻子。以往立法從來沒有提出對(duì)新技術(shù)的整套規(guī)制方法。”同濟(jì)大學(xué)法學(xué)院副教授陳吉棟告訴記者，歐盟通過大量問卷調(diào)查和報(bào)告來支撐法案中幾個(gè)簡(jiǎn)單的條文，投入巨大的立法成本，前期研究十分透徹。在AI發(fā)展優(yōu)先和監(jiān)管優(yōu)先兩端之間，歐盟希望在中間做平衡，監(jiān)管并沒有太早。這部法案并非一勞永逸的完美法案，還會(huì)根據(jù)AI發(fā)展改進(jìn)。《AI法案》在國(guó)內(nèi)已被學(xué)習(xí)參考。美國(guó)則體現(xiàn)了實(shí)用主義者的選擇，采取動(dòng)態(tài)監(jiān)管方案。

在金杜律師事務(wù)所合伙人趙新華看來，《AI法案》非常全面，在全球性問題治理上，歐盟立法走在前面。結(jié)合2018年的GDPR以及近年的數(shù)字服務(wù)法、數(shù)字市場(chǎng)法等，歐盟為進(jìn)入數(shù)字經(jīng)濟(jì)時(shí)代做了多年鋪墊。該法案積極的一面是對(duì)AI監(jiān)管起到很好的示范，“就像GDPR出臺(tái)后，全球監(jiān)管框架基本上都在借鑒GDPR，《AI法案》出臺(tái)也必定會(huì)對(duì)全球AI治理提供有益的借鑒和參考。”

北京師范大學(xué)法學(xué)院副教授、中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)研究中心副主任吳沈括認(rèn)為，這會(huì)對(duì)跨國(guó)企業(yè)帶來非常重大的影響，影響業(yè)務(wù)研發(fā)模式、合規(guī)流程設(shè)計(jì)、市場(chǎng)運(yùn)營(yíng)策略，其優(yōu)點(diǎn)在于明確的規(guī)則和細(xì)化的制度設(shè)計(jì)。

另有聲音認(rèn)為，《AI法案》推出可能過早過嚴(yán)，而全球不同地區(qū)對(duì)AI產(chǎn)業(yè)發(fā)展的態(tài)度并不相同。

吳沈括也認(rèn)為，短期來看《AI法案》存在阻礙當(dāng)?shù)谹I布局的這個(gè)可能性。這是監(jiān)管和產(chǎn)業(yè)企業(yè)之間互動(dòng)博弈的過程，需要一個(gè)相互增強(qiáng)認(rèn)知的過程。中長(zhǎng)期看，如果在確定性和監(jiān)管力度上有所平衡的話，可能存在反彈機(jī)會(huì)。

AI初創(chuàng)企業(yè)波形智能計(jì)劃出海歐洲，創(chuàng)始人姜昱辰曾在瑞士攻讀人工智能博士學(xué)位。她認(rèn)為，歐盟嚴(yán)監(jiān)管不是一個(gè)新問題，歐洲向來在數(shù)據(jù)隱私方面較嚴(yán)。“這次只是針對(duì)AI出了相應(yīng)的隱私條款，但隱私條款本身嚴(yán)格這件事情不這么新，是歐洲市場(chǎng)一直存在的固有挑戰(zhàn)。”

至于《AI法案》對(duì)市場(chǎng)的影響，姜昱辰認(rèn)為會(huì)有一些，但對(duì)私有化部署的影響較小，對(duì)大模型公司影響可能更大，“尤其大模型公司提供閉源的API有較大風(fēng)險(xiǎn)，但給企業(yè)做私有化部署或做保障的軟件，這個(gè)市場(chǎng)反倒更大。”當(dāng)隱私監(jiān)管較強(qiáng)時(shí)，隱私保障較好的產(chǎn)品及公司會(huì)獲益。

高風(fēng)險(xiǎn)系統(tǒng)劃分引關(guān)注

《AI法案》對(duì)企業(yè)的影響細(xì)化在“風(fēng)險(xiǎn)分級(jí)”監(jiān)管中。

具體看，《AI法案》采取“風(fēng)險(xiǎn)分級(jí)”監(jiān)管模式，將AI系統(tǒng)分為四個(gè)風(fēng)險(xiǎn)級(jí)別，分別為被禁止的、高風(fēng)險(xiǎn)、有限風(fēng)險(xiǎn)和最低風(fēng)險(xiǎn)，每個(gè)級(jí)別都有相應(yīng)合規(guī)要求。法案規(guī)定，不可接受風(fēng)險(xiǎn)的AI系統(tǒng)被徹底禁止投入市場(chǎng)，高風(fēng)險(xiǎn)AI系統(tǒng)只有在符合某些強(qiáng)制性要求的情況下才能投放歐盟市場(chǎng)、投入服務(wù)或使用，有限風(fēng)險(xiǎn)AI系統(tǒng)的規(guī)制較少。

一些法律界人士認(rèn)為，AI企業(yè)進(jìn)入歐盟市場(chǎng)最應(yīng)關(guān)注的是高風(fēng)險(xiǎn)AI系統(tǒng)的劃定和要求。

美國(guó)奧睿律師事務(wù)所巴黎辦公室合伙人Julia Apostle告訴記者，根據(jù)《AI法案》規(guī)定，高風(fēng)險(xiǎn)AI系統(tǒng)開發(fā)者有最重的合規(guī)負(fù)擔(dān)，包括需要證明符合法律的要求。任何在歐洲開發(fā)或投放AI系統(tǒng)的公司都應(yīng)該審查其AI系統(tǒng)是否為高風(fēng)險(xiǎn)。從AI實(shí)際應(yīng)用看，開發(fā)可能影響個(gè)人權(quán)利、安全和自主權(quán)的AI系統(tǒng)公司，受該法案影響較大。

“高風(fēng)險(xiǎn)AI系統(tǒng)涉及關(guān)鍵領(lǐng)域，如教育和職業(yè)培訓(xùn)、就業(yè)、重要的私人和公共服務(wù)（如醫(yī)療保健、銀行業(yè)）等，這些領(lǐng)域受到嚴(yán)格監(jiān)管和合規(guī)要求。而醫(yī)療健康、人力資源、公共安全和交通運(yùn)輸?shù)刃袠I(yè)使用的AI系統(tǒng)大多屬于高風(fēng)險(xiǎn)類別。”王捷表示。

據(jù)歐盟推動(dòng)制定《AI法案》之初的預(yù)計(jì)，高風(fēng)險(xiǎn)AI系統(tǒng)占AI系統(tǒng)的比例約5%~15%。王捷判斷，不直接影響人身安全、健康或基本權(quán)利的應(yīng)用場(chǎng)景相對(duì)影響較小，如聊天機(jī)器人、個(gè)性化內(nèi)容推薦等，一般不會(huì)被認(rèn)為是高風(fēng)險(xiǎn)系統(tǒng)。Julia Apostle認(rèn)為，多數(shù)AI系統(tǒng)不會(huì)受該法案太大影響，而對(duì)高敏感領(lǐng)域，如醫(yī)療保健、職業(yè)場(chǎng)景，將會(huì)有進(jìn)一步的立法關(guān)注。

但陳吉棟判斷，高風(fēng)險(xiǎn)AI系統(tǒng)涉及廣泛，現(xiàn)在歐盟把大多數(shù)AI系統(tǒng)都納入高風(fēng)險(xiǎn)系統(tǒng)中。例如自動(dòng)駕駛汽車、人臉識(shí)別都可能涉及高風(fēng)險(xiǎn)。

值得注意的是，《AI法案》明確了AI系統(tǒng)相關(guān)的多類主體，包括AI系統(tǒng)提供者、部署者、授權(quán)代表、進(jìn)口商和產(chǎn)品制造商。據(jù)上海段和段律師事務(wù)所律師團(tuán)隊(duì)近期發(fā)布的一篇文章，AI系統(tǒng)提供者的義務(wù)要求最繁多，大約涉及29條條例，這些義務(wù)涉及系統(tǒng)設(shè)計(jì)、開發(fā)、測(cè)試、部署、監(jiān)控等多環(huán)節(jié)，明顯多于部署者、授權(quán)代表、進(jìn)口商涉及的條例。

王捷表示，AI系統(tǒng)提供者負(fù)責(zé)開發(fā)人工智能系統(tǒng)或通用人工智能模型并將其投放市場(chǎng)，這意味著需要投入更多資源來確保合規(guī)性。AI系統(tǒng)提供者需承擔(dān)最多義務(wù)、也承擔(dān)較高合規(guī)成本。

此外，《AI法案》也對(duì)通用人工智能系統(tǒng)施以頗大關(guān)注。該法案稱，具有至少10億個(gè)參數(shù)并使用大規(guī)模自我監(jiān)督用大量數(shù)據(jù)訓(xùn)練的模型應(yīng)被視為具有顯著通用性。而當(dāng)通用人工智能模型用于訓(xùn)練的累積計(jì)算量大于10的25次方每秒浮點(diǎn)運(yùn)算次數(shù)FLOPs時(shí)，將被認(rèn)為具有高影響能力，進(jìn)而可能被認(rèn)定為具有“系統(tǒng)性風(fēng)險(xiǎn)”，需滿足一些額外要求。

大模型合規(guī)成本或超出17%

對(duì)人工智能相關(guān)企業(yè)而言，要滿足這樣一部全面且復(fù)雜的法案的要求，隨之而來的可能是合規(guī)成本上升。

海外智庫(kù)Center for Data Innovation在2021年歐盟推動(dòng)《AI法案》制定之初便預(yù)計(jì)，該法案將使未來五年內(nèi)歐盟經(jīng)濟(jì)損失310億歐元。一家部署高風(fēng)險(xiǎn)AI系統(tǒng)的歐洲中小企業(yè)將承擔(dān)高達(dá)40萬歐元的合規(guī)成本。《AI法案》將導(dǎo)致所有人工智能支出額外17%的開銷。

CEPS（歐洲政策研究中心）同年澄清，超300億歐元損失的估計(jì)被夸大，支出17% 額外開銷僅適用于未滿足任何監(jiān)管要求的公司。在CEPS的研究中，要建立一個(gè)全新的質(zhì)量管理體系（QMS）的成本可能在19.3萬歐元至33萬歐元之間，每年的維護(hù)費(fèi)用估計(jì)為7.14萬歐元，一旦QMS建立起來，成本會(huì)降低，且QMS只是針對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)提供者的要求。

以上關(guān)于合規(guī)成本的討論發(fā)生在兩三年前，當(dāng)時(shí)大模型還未成為主流，如今情況可能發(fā)生了改變。

Julia Apostle認(rèn)為，提出的17%這個(gè)數(shù)字，是基于非常低的AI系統(tǒng)基礎(chǔ)成本的估計(jì)，未反映訓(xùn)練一個(gè)基礎(chǔ)模型的成本。“合規(guī)成本還無法完全估算，因?yàn)檫€不知道全部細(xì)節(jié)。高風(fēng)險(xiǎn)AI系統(tǒng)和通用人工智能模型的提供者的成本將是最大的。法律依賴于對(duì)技術(shù)標(biāo)準(zhǔn)的采納，由公司實(shí)施這些標(biāo)準(zhǔn)，實(shí)施過程須經(jīng)過認(rèn)證。而這些標(biāo)準(zhǔn)內(nèi)容尚未正式確定，但肯定涉及政策、程序和具體產(chǎn)品要求的采納。”Julia Apostle表示，由于該法案對(duì)AI的監(jiān)管不止于歐盟，企業(yè)因該法案而離開歐盟似乎不太可能。

王捷認(rèn)為，對(duì)該法案，國(guó)內(nèi)大模型廠商若要在短期內(nèi)快速且低成本實(shí)現(xiàn)合規(guī)可能有難度，特別是對(duì)于數(shù)據(jù)復(fù)雜的大模型。大模型廠商的挑戰(zhàn)可能是適應(yīng)歐盟對(duì)于數(shù)據(jù)管理、模型透明度和可解釋性的高標(biāo)準(zhǔn)要求。

吳沈括認(rèn)為，對(duì)于風(fēng)險(xiǎn)的分類、分級(jí)，特別是關(guān)于AI研發(fā)的披露度問題，是比較大的合規(guī)挑戰(zhàn)，這與人工智能算法一定的黑箱屬性具有較強(qiáng)烈和明顯的沖突。趙新華則認(rèn)為，《AI法案》涉及一些更高的合規(guī)標(biāo)準(zhǔn)和要求，企業(yè)進(jìn)入歐盟市場(chǎng)前要考慮能不能接受合規(guī)成本，以及可能面臨的不合規(guī)責(zé)任。

“如果說歐盟完全不在乎對(duì)經(jīng)濟(jì)的限制，也不準(zhǔn)確。”趙新華表示，從《AI法案》規(guī)定范圍、內(nèi)容看，歐盟也在試圖消除規(guī)定對(duì)創(chuàng)新的影響，如對(duì)一些較少風(fēng)險(xiǎn)AI系統(tǒng)的管理相對(duì)寬松。例如支持創(chuàng)新的措施中專門設(shè)了人工智能監(jiān)管沙盒，供企業(yè)測(cè)試創(chuàng)新性產(chǎn)品、服務(wù)、商業(yè)模式和交付機(jī)制，避免企業(yè)因從事相關(guān)活動(dòng)而立即招致監(jiān)管后果，這是針對(duì)技術(shù)創(chuàng)新的柔性監(jiān)管制度，給了小企業(yè)較多發(fā)展空間。該法案有較大靈活性，風(fēng)險(xiǎn)管控循序漸進(jìn)、逐步匹配，預(yù)計(jì)對(duì)經(jīng)濟(jì)造成負(fù)面的沖擊較小。

具體條例看，業(yè)界和法律界仍在關(guān)注哪些具體要求可能增加合規(guī)成本。

《AI法案》對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的要求非常細(xì)致，涉及風(fēng)險(xiǎn)管理系統(tǒng)、數(shù)據(jù)和數(shù)據(jù)治理、技術(shù)文件、記錄保存、透明度和向部署商提供信息、人為監(jiān)督、準(zhǔn)確性、穩(wěn)健性及網(wǎng)絡(luò)安全。具體要求包括但不限于建立、實(shí)施、記錄和維護(hù)與高風(fēng)險(xiǎn)AI系統(tǒng)相關(guān)的風(fēng)險(xiǎn)管理系統(tǒng)；擬定技術(shù)文件并向國(guó)家主管部門和認(rèn)證機(jī)構(gòu)提供必要的信息；訓(xùn)練、驗(yàn)證和測(cè)試數(shù)據(jù)集的數(shù)據(jù)準(zhǔn)備處理工作包括各種注釋、清理、更新等，并采取措施發(fā)現(xiàn)、預(yù)防和減輕可能發(fā)生的某些偏差。

《AI法案》對(duì)通用人工智能模型提供商的要求則包括擬定并隨時(shí)更新技術(shù)文件、向擬集成該模型的AI系統(tǒng)提供商更新信息和文檔、制定遵守歐盟版權(quán)法的政策、起草并公開一份關(guān)于通用人工智能培訓(xùn)內(nèi)容的足夠詳細(xì)的摘要。被認(rèn)定為具有“系統(tǒng)性風(fēng)險(xiǎn)”的通用人工智能模型需額外履行一些義務(wù)。

一名國(guó)內(nèi)互聯(lián)網(wǎng)大廠研發(fā)負(fù)責(zé)人向記者表示，對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)的要求中，較可能導(dǎo)致成本增加的是對(duì)數(shù)據(jù)進(jìn)行處理、預(yù)防某些偏差，因?yàn)樯婕皩ｉT做數(shù)據(jù)處理并微調(diào)模型來避免模型輸出不合法內(nèi)容。國(guó)內(nèi)大模型在這方面肯定做過工作，但各地標(biāo)準(zhǔn)不同，要符合新標(biāo)準(zhǔn)需重新做工作。

趙新華則表示，高風(fēng)險(xiǎn)AI系統(tǒng)提供者是指AI系統(tǒng)由某個(gè)企業(yè)提供并投入歐盟市場(chǎng)，法案專章列出提供者的義務(wù)，包括編制相應(yīng)技術(shù)文件、證明符合法案要求，并對(duì)符合歐盟的相關(guān)規(guī)定做符合性聲明，還要增加CE合格證認(rèn)證。高風(fēng)險(xiǎn)AI系統(tǒng)投放市場(chǎng)前需完成合格性評(píng)估程序。

“這些規(guī)定非常具體，對(duì)提供者、部署者、進(jìn)口商和分銷主體設(shè)定不同的義務(wù)。”趙新華表示，如果大模型公司在歐盟市場(chǎng)提供服務(wù)，除了需要請(qǐng)律師在合規(guī)層面及法律方面做評(píng)估和建議外，還涉及通過第三方進(jìn)行合格性評(píng)估程序等，有些企業(yè)加CE標(biāo)志也需找第三方認(rèn)證機(jī)構(gòu)。此外，《AI法案》還要求將AI系統(tǒng)算法的主要技術(shù)數(shù)據(jù)做摘要，這可能涉及公司內(nèi)部商業(yè)、技術(shù)團(tuán)隊(duì)，及外部第三方主體。

成本之外，人工智能企業(yè)是否愿意為了進(jìn)入歐盟市場(chǎng)而滿足《AI法案》的要求也是問題。

《AI法案》對(duì)通用人工智能模型在預(yù)訓(xùn)練和訓(xùn)練中使用數(shù)據(jù)的透明度提出要求，模型提供商應(yīng)起草并公開用于訓(xùn)練通用人工智能模型內(nèi)容的足夠詳細(xì)的摘要。在適當(dāng)考慮保護(hù)商業(yè)秘密和機(jī)密商業(yè)信息必要性的同時(shí)，摘要內(nèi)容應(yīng)總體全面。

”現(xiàn)在公開的大模型技術(shù)文件對(duì)預(yù)訓(xùn)練數(shù)據(jù)方面大多一筆帶過，但其實(shí)這部分內(nèi)容應(yīng)該最多。”一名國(guó)內(nèi)頭部大模型研發(fā)人員告訴記者，大模型效果如何，80%跟訓(xùn)練數(shù)據(jù)有關(guān)。之所以不公開訓(xùn)練數(shù)據(jù)的細(xì)節(jié)，是因?yàn)橛?xùn)練數(shù)據(jù)在一定程度上是企業(yè)核心機(jī)密。同時(shí)，很多大模型的訓(xùn)練數(shù)據(jù)來自網(wǎng)上各種渠道，如果不披露可能不會(huì)有人發(fā)現(xiàn)數(shù)據(jù)來源，一旦披露則可能暴露版權(quán)問題。

以上技術(shù)人員告訴記者，需向外提交的技術(shù)文檔如果有詳細(xì)的要求，大模型公司也不一定愿意提供，這并非成本的問題，而是因?yàn)楣究赡芟Ｍ麑?duì)技術(shù)保密。

《AI法案》還將分階段實(shí)施，目前也有不少模糊或需厘清的問題。陳吉棟告訴記者，要?jiǎng)澏ǜ唢L(fēng)險(xiǎn)系統(tǒng)還是比較難，企業(yè)面對(duì)高風(fēng)險(xiǎn)AI系統(tǒng)需承擔(dān)的諸多義務(wù)時(shí)，會(huì)傾向于不把自身劃定在高風(fēng)險(xiǎn)范圍內(nèi)。歐盟或相關(guān)方還需要提供一套后臺(tái)配套基礎(chǔ)設(shè)施來支撐法律順利運(yùn)行。

吳沈括認(rèn)為，從可能的缺點(diǎn)來看，該法案對(duì)于產(chǎn)業(yè)研發(fā)和應(yīng)用的邏輯是否有足夠強(qiáng)的匹配性，還需要進(jìn)一步的觀察。

“模糊和爭(zhēng)議點(diǎn)主要集中在定義和具體合規(guī)要求上，如高風(fēng)險(xiǎn)AI系統(tǒng)精確界限、基礎(chǔ)模型和應(yīng)用模型的區(qū)分等。如何有效評(píng)估和監(jiān)控AI系統(tǒng)透明度和公平性也存在不確定性。”王捷認(rèn)為。

“我認(rèn)為國(guó)內(nèi)有些大企業(yè)已經(jīng)做好了合規(guī)的準(zhǔn)備，但大部分還沒做系統(tǒng)準(zhǔn)備，維持觀望態(tài)度。是否做好合規(guī)準(zhǔn)備，更多取決于戰(zhàn)略認(rèn)知。企業(yè)要從本質(zhì)上認(rèn)識(shí)到人類已進(jìn)入人工智能高風(fēng)險(xiǎn)時(shí)代，對(duì)其風(fēng)險(xiǎn)進(jìn)行管控已成為共識(shí)。”陳吉棟表示。