日本一区二区不卡视频,高清成人免费视频,日日碰日日摸,国产精品夜间视频香蕉,免费观看在线黄色网,国产成人97精品免费看片,综合色在线视频

隨著2024年5月21日歐盟理事會正式批準(zhǔn)歐盟《人工智能法案》（Artificial Intelligence Act，“《AI法案》”） [1] ，這部歷時三年的法案，走完歐盟立法進程，并正式生效。該法案被普遍認為是全球首部對人工智能領(lǐng)域進行全面監(jiān)管的法律，對于歐盟乃至世界都具有里程碑意義。 

《AI法案》對進入歐盟市場的人工智能（“AI”）系統(tǒng)制定了統(tǒng)一的監(jiān)管規(guī)則，旨在確保在歐盟范圍內(nèi)使用的AI系統(tǒng)的安全性、透明性、可追溯性、可解釋性和非歧視性，減少AI系統(tǒng)對人權(quán)和社會秩序的沖擊，同時鼓勵AI領(lǐng)域投資和創(chuàng)新，為AI領(lǐng)域技術(shù)發(fā)展留有空間。《AI法案》采取了“基于風(fēng)險”的分級監(jiān)管方法，對社會帶來危害的風(fēng)險越高，監(jiān)管要求就越嚴(yán)格。 

近年來，歐洲已成為中國企業(yè)的出海戰(zhàn)略高地，電動汽車、電池、光伏、智能家居設(shè)備、生物醫(yī)藥、跨境電商、人工智能等領(lǐng)域的中國企業(yè)紛紛進入歐洲市場。2024年歐洲足球錦標(biāo)賽（歐洲杯）13家官方頂級贊助商中，有5家來自中國，贊助國際賽事，是中國企業(yè)出海浪潮的一個側(cè)寫 [2] 。 

本文將介紹《AI法案》的主要內(nèi)容，并分析其對中國企業(yè)出海的影響，以期對相關(guān)中國企業(yè)在歐盟投資布局提供參考。 

一、           《AI法案》的主要內(nèi)容 

1.     適用的AI系統(tǒng)范圍 

根據(jù)《AI法案》，AI系統(tǒng)是指基于機器系統(tǒng)，能以不同程度自主運行，在部署后可能表現(xiàn)出適應(yīng)性，并且為了明確或隱含的目標(biāo)，根據(jù)輸入來推斷如何生成可能影響物理或虛擬環(huán)境的輸出，如預(yù)測、內(nèi)容、建議或決定 [3] ，廣泛涵蓋各類AI。 

但是，《AI法案》也規(guī)定了一些例外情形，包括：（1） 不適用于專門為軍事、國防或國家安全目的而投放市場、提供服務(wù)的AI系統(tǒng) [4] ；（2） 不適用于專為科學(xué)研究和開發(fā)目的而開發(fā)和提供服務(wù)的AI系統(tǒng)和模型，包括其輸出 [5] ；（3） 不適用于處于研究、測試和開發(fā)階段，尚未投放市場或提供服務(wù)的AI系統(tǒng)或模型 [6] ；以及（4） 不適用于根據(jù)免費開源許可發(fā)布的低風(fēng)險AI系統(tǒng) [7] 。 

AI系統(tǒng)往往可能同時構(gòu)成其他歐盟法規(guī)定義下的產(chǎn)品，或構(gòu)成產(chǎn)品的組件。因此，《AI法案》也特別指出，如果歐盟有其他關(guān)于消費者保護和產(chǎn)品安全的法規(guī)，《AI法案》的相關(guān)規(guī)定不妨礙該等法規(guī)的要求 [8] 。盡管歐盟其他法規(guī)具有優(yōu)先性，立法者建議，宜對該等法規(guī)適時進行修訂，考慮《AI法案》中對高風(fēng)險AI系統(tǒng)的強制性規(guī)定 [9] 。 

2.     適用主體 

《AI法案》適用于AI產(chǎn)業(yè)鏈上的各類主體，主要包括AI系統(tǒng)提供者（provider）、部署者（deployer）、進口商（importer）和分銷商（distributor）。 

AI系統(tǒng)提供者是指開發(fā)AI系統(tǒng)或通用AI模型，或擁有AI系統(tǒng)或通用AI模型，并以自己的名義或商標(biāo)在歐盟市場投放（指首次提供，下同）或在歐盟市場提供服務(wù)的主體，不論AI系統(tǒng)是否收費 [10] 。在特定情形下，部署者、進口商和分銷商將被視為高風(fēng)險AI系統(tǒng)的提供者，包括：（1） 在已投放市場或提供服務(wù)的高風(fēng)險AI系統(tǒng)上冠以自己的名稱或商標(biāo)；（2） 對已投放市場或提供服務(wù)的高風(fēng)險AI系統(tǒng)進行實質(zhì)性修改；或（3） 修改未被歸類為高風(fēng)險AI系統(tǒng)的預(yù)期目的，導(dǎo)致該AI系統(tǒng)被歸類為高風(fēng)險AI系統(tǒng) [11] 。另外，對于高風(fēng)險AI系統(tǒng)，如果其作為安全組件附加于特定產(chǎn)品之上，產(chǎn)品的生產(chǎn)者將被視為AI系統(tǒng)提供者 [12] 。AI系統(tǒng)提供者是《AI法案》下對AI系統(tǒng)的安全性負責(zé)的核心主體，需確保所提供的AI系統(tǒng)滿足《AI法案》的要求。 

AI系統(tǒng)部署者是指使用AI系統(tǒng)的主體，但不包括非職業(yè)活動使用AI系統(tǒng)的個人 [13] 。AI系統(tǒng)部署者的責(zé)任側(cè)重于保障AI系統(tǒng)在使用過程中的安全可靠，包括根據(jù)系統(tǒng)所附使用說明使用高風(fēng)險AI系統(tǒng) [14] ，在使用高風(fēng)險AI系統(tǒng)時應(yīng)指派有能力的自然人進行人工監(jiān)督 [15] 等。 

AI系統(tǒng)進口商是指在歐盟設(shè)立或位于歐盟，將標(biāo)有歐盟境外主體名稱或商標(biāo)的AI系統(tǒng)投放歐盟市場的主體 [16] 。AI系統(tǒng)進口商僅在向歐盟進口高風(fēng)險AI系統(tǒng)時需承擔(dān)《AI法案》規(guī)定的責(zé)任，包括在將高風(fēng)險AI系統(tǒng)投入歐盟市場前核實該系統(tǒng)符合《AI法案》的規(guī)定 [17] ，且如果有充分理由認為高風(fēng)險AI系統(tǒng)可能不符合《AI法案》的規(guī)定，在其符合規(guī)定前不得將其投入歐盟市場 [18] 等。 

AI系統(tǒng)分銷商是指在AI產(chǎn)業(yè)鏈中除了提供者和進口商以外，其他在歐盟市場提供AI系統(tǒng)的主體 [19] 。AI系統(tǒng)分銷商僅在分銷高風(fēng)險AI系統(tǒng)時承擔(dān)《AI法案》規(guī)定的責(zé)任，包括應(yīng)確保所分銷的高風(fēng)險AI系統(tǒng)帶有所需的CE合格性標(biāo)識及歐盟合格性聲明和使用說明的副本 [20] 等。 

3.     域外效力 

為了確保進入歐盟市場的AI系統(tǒng)符合歐盟要求，《AI法案》的效力不僅限于歐盟境內(nèi)的自然人和法人，在特定情況，《AI法案》具有域外效力，對歐盟之外的主體亦產(chǎn)生較大影響。根據(jù)《AI法案》，在以下情形下《AI法案》適用于歐盟之外的提供者、部署者或產(chǎn)品制造者： 

(1)    在歐盟境內(nèi)將AI系統(tǒng)投放市場或提供服務(wù)或?qū)⑼ㄓ?/span>AI模型投放歐盟市場的提供者，無論這些提供者是設(shè)立于（或位于）歐盟還是第三國 [21] ； 

(2)    場所位于第三國或者位于第三國的AI系統(tǒng)提供者和部署者，其系統(tǒng)產(chǎn)生的輸出用于歐盟 [22] ； 

(3)    產(chǎn)品制造者以自己的名稱或商標(biāo)將AI系統(tǒng)與其產(chǎn)品一起投放歐盟市場或向歐盟市場提供服務(wù) [23] 。 

《AI法案》并未定義何為“輸出”。從廣義理解，AI系統(tǒng)的輸出可能包括AI系統(tǒng)產(chǎn)生的任何內(nèi)容、預(yù)測、建議或決策，無論其形式。 

由此可見《AI法案》具有廣泛的域外效力，即便企業(yè)并未在歐盟設(shè)立實體或者并未直接以歐盟為目標(biāo)市場，也需考慮其是否可能受限于《AI法案》的約束，例如其AI系統(tǒng)產(chǎn)生的輸出是否可能用于歐盟。 

4.     風(fēng)險分級 

《AI法案》采取了風(fēng)險分級管理的監(jiān)管思路，將AI系統(tǒng)分為以下四個級別，分別施以不同的監(jiān)管要求： 

風(fēng)險級別	情形	監(jiān)管要求
被禁止的AI系統(tǒng)（不可接受的風(fēng)險） [24]	侵犯基本人權(quán)：例如行為或心智操控、犯罪預(yù)測、社會評分等	禁止向歐盟市場提供 [25]
高風(fēng)險AI系統(tǒng) [26]	l 根據(jù)《AI法案》附件I所列的受歐盟統(tǒng)一立法規(guī)范，作為產(chǎn)品的安全組件或本身屬于產(chǎn)品且其需要開展第三方符合性評估的AI系統(tǒng)；或者 l 用于《AI法案》附件III所列8種應(yīng)用場景的可能對自然人的健康、安全或基本權(quán)利構(gòu)成重大損害風(fēng)險的AI系統(tǒng)，包括用于生物識別和分類、關(guān)鍵基礎(chǔ)設(shè)施管理、教育和職業(yè)培訓(xùn)、就業(yè)、員工管理和獲得自營職業(yè)機會、獲得和享受基本私人服務(wù)及基本公共服務(wù)、執(zhí)法活動、移民和邊境控制管理、司法和民主程序	投放前和使用過程中相關(guān)主體需遵守廣泛的合規(guī)義務(wù)，包括確保投放市場前的合規(guī)性，履行符合性評估，進行活動記錄確保可追溯，確保透明度 [27] 等
特定類型的AI系統(tǒng)（有限風(fēng)險） [28]	與人類交互的系統(tǒng)；生成合成內(nèi)容的系統(tǒng)；情緒識別系統(tǒng)；生物特征分類系統(tǒng)；生成深度偽造內(nèi)容的系統(tǒng)	保障透明度，告知用戶其為AI系統(tǒng) [29] 等
最小風(fēng)險的AI系統(tǒng)	AI支持的游戲和垃圾郵件過濾器等低風(fēng)險的AI系統(tǒng) [30]	不做干預(yù) [31]

《AI法案》允許歐盟委員會隨著AI技術(shù)的發(fā)展根據(jù)實際情況不斷更新和補充不同類型AI系統(tǒng)的范圍 [32] ，具有靈活性。 

5.     《AI法案》下的違法責(zé)任 

《AI法案》對不遵守其規(guī)定的企業(yè)處以巨額罰款。根據(jù)違法行為涉及的AI系統(tǒng)的風(fēng)險程度，罰款分為三個層級： 

(1)    對于違反被禁止的AI系統(tǒng)的監(jiān)管要求的行為，將被處以最高3500萬歐元或該企業(yè)上一年度全球營業(yè)額7%的罰款（兩者取其高）； 

(2)    對于違反高風(fēng)險AI系統(tǒng)的監(jiān)管要求、有限風(fēng)險的AI系統(tǒng)的透明度要求和其他合規(guī)要求的行為，將被處以最高1500萬歐元或該企業(yè)上一年度全球營業(yè)額3%的罰款（兩者取其高）； 

(3)    對于向監(jiān)管機構(gòu)提供不正確、不完整或誤導(dǎo)信息的，將被處以最高750萬歐元或該企業(yè)上一年度全球營業(yè)額1%的罰款（兩者取其高）。 [33] 

相較于歐盟《通用數(shù)據(jù)保護條例》規(guī)定的兩級處罰水平，即對第一級違法行為的最高罰款為1000萬歐元或企業(yè)上一年度全球營業(yè)額的2%（兩者取其高），對第二級違法行為的最高罰款為2000萬歐元或企業(yè)上一年度全球營業(yè)額的4%（兩者取其高） [34] ，《AI法案》的處罰上限顯著提升。這體現(xiàn)了歐盟對AI治理的重視及決心，也提示相關(guān)企業(yè)應(yīng)充分關(guān)注《AI法案》的適用性及相關(guān)合規(guī)義務(wù)。 

6.     《AI法案》的實施時間 

《AI法案》將自生效起分階段、分步驟實施。總體而言，《AI法案》將于其登報生效后24個月內(nèi)全面實施，但以下內(nèi)容實施時間不同：（1） 《AI法案》生效6個月后，該法案第一章（總則）和第二章（被禁止的AI實踐）將實施 [35] ；（2） 《AI法案》生效12個月后，該法案第三章第4節(jié)（通知機關(guān)和通知機構(gòu)）、第五章（通用AI模型）、第七章（治理）、第十二章（罰則）（除第101條關(guān)于通用AI模型提供者的罰則）和第78條（保密）將實施 [36] ；（3） 《AI法案》生效36個月后，該法案第6-1條（關(guān)于特定高風(fēng)險AI系統(tǒng)分類及相應(yīng)義務(wù)的規(guī)定）及相關(guān)條款將實施 [37] 。 

二、 《AI法案》對中國企業(yè)出海的影響 

考慮到《AI法案》廣泛的適用范圍（特別是域外效力）和嚴(yán)厲的處罰，涉及出海的相關(guān)中國企業(yè)，包括但不限于下文分析的AI大模型企業(yè)、汽車企業(yè)、生物醫(yī)藥企業(yè)與電商平臺等企業(yè)，需高度關(guān)注《AI法案》及其適用性，以及在適用的情形下可能對企業(yè)自身帶來的影響。 

（一）   AI大模型企業(yè)出海 

中國的AI大模型企業(yè)正在加速出海 [38] 。一方面是為了拓展市場空間，另外相較于中國市場，一些海外市場的用戶付費意愿更高、活躍程度更好，因此，許多中國AI大模型在把握中國市場的同時，亦選擇出海布局，向海外輸出AI大模型等產(chǎn)品服務(wù) [39] 。 

1.     AI大模型企業(yè)的角色與適用 

根據(jù)《AI法案》對AI產(chǎn)業(yè)鏈上各經(jīng)營者角色的定義，判斷一家AI大模型出海企業(yè)屬于何種經(jīng)營者需結(jié)合其商業(yè)模式判斷。 

如前文所述，AI系統(tǒng)提供者是以自身名義首次將AI系統(tǒng)投放歐盟市場或在歐盟市場提供服務(wù)的主體。如果X公司開發(fā)了AI大模型，但從未向歐盟市場投放或提供服務(wù)，而Y公司調(diào)用X公司開發(fā)的AI大模型并以自身名義面向歐盟消費者提供服務(wù)，則Y公司可能構(gòu)成AI系統(tǒng)提供者。如果X公司已經(jīng)向歐盟市場以自身名義投放AI大模型，Y公司使用其AI大模型，則Y公司可能構(gòu)成AI系統(tǒng)部署者；若Y公司在調(diào)用X公司基礎(chǔ)AI大模型的基礎(chǔ)上開發(fā)了行業(yè)AI大模型，且Y公司以其自身名義首次將該行業(yè)AI大模型投放歐盟市場，則Y公司可能構(gòu)成AI系統(tǒng)提供者；若Y公司替X公司在歐盟市場分銷其AI大模型，則Y公司可能構(gòu)成AI系統(tǒng)分銷商。 

需注意，《AI法案》下的“提供者”與我國《生成式人工智能服務(wù)管理暫行辦法》下的“服務(wù)提供者”定義有所不同，《AI法案》下的“提供者”限于以自身名義首次將AI系統(tǒng)投放歐盟市場的主體，《生成式人工智能服務(wù)管理暫行辦法》下的服務(wù)提供者不限于“首次”在中國市場提供服務(wù)，也不限于“以自身名義”，因此除提供者外，其也可能包括《AI法案》下的分銷商等其他主體。 

《生成式人工智能服務(wù)管理暫行辦法》下的“技術(shù)支持者”一般指為服務(wù)提供者提供技術(shù)支持的主體，該種技術(shù)支持可能是日常運營維護，也可能是算法開發(fā)。如果此“技術(shù)支持者”開發(fā)AI算法后，以自身名義向歐盟企業(yè)售賣AI算法，并且該AI算法也符合《AI法案》下AI系統(tǒng)的定義，則此“技術(shù)支持者”有可能構(gòu)成《AI法案》下的AI系統(tǒng)提供者。 

2.     AI大模型的風(fēng)險評級 

企業(yè)除了判斷自身屬于何種經(jīng)營者，還需要判斷所經(jīng)營的AI大模型的風(fēng)險級別，方可明確自身的義務(wù)。 

對于AI大模型出海企業(yè)，需結(jié)合產(chǎn)品的應(yīng)用場景判斷風(fēng)險級別。例如，對于同一個大語言模型，如果其用于開發(fā)操控兒童心智的AI伴聊工具，則應(yīng)屬于被禁止的AI系統(tǒng)；若其用于發(fā)布有針對性的招聘廣告、分析和過濾求職申請以及評估候選人，則應(yīng)屬于高風(fēng)險AI系統(tǒng)；若用于生成小說，則應(yīng)屬于有限風(fēng)險的AI系統(tǒng)。 

3.     通用AI模型的監(jiān)管要求 

如果一種AI大模型，在使用大量數(shù)據(jù)進行大規(guī)模自我監(jiān)督訓(xùn)練時，無論該模型以何種方式投放市場，都顯示出顯著通用性，能夠勝任各種不同的任務(wù)，并可集成到各種下游系統(tǒng)或應(yīng)用中（在投放市場前用于研究、開發(fā)和原型設(shè)計活動的AI模型除外），其屬于《AI法案》中規(guī)定的通用AI模型 [40] 。 

考慮到通用AI模型的特殊性，《AI法案》專章細化了對通用AI模型的要求，通用AI模型的提供者在《AI法案》下的義務(wù)包括履行相關(guān)披露和透明度要求、公布訓(xùn)練數(shù)據(jù)總結(jié)、遵守歐盟版權(quán)法等 [41] 。 

《AI法案》將通用AI模型分為具有系統(tǒng)性風(fēng)險的通用AI模型和不具有系統(tǒng)性風(fēng)險的通用AI模型。通用AI模型的系統(tǒng)性風(fēng)險是該模型具有高度影響能力，或被歐盟委員會認定為具有高度影響能力 [42] 。當(dāng)一個通用AI模型用于訓(xùn)練的累計計算量（以FLOPs方法計算）大于10^25時，即認為具有系統(tǒng)性風(fēng)險 [43] 。具有系統(tǒng)性風(fēng)險的通用AI模型的提供者將承擔(dān)更多的義務(wù)，包括開展模型評估、評估和減輕可能的系統(tǒng)性風(fēng)險、確保足夠的網(wǎng)絡(luò)安全保護水平、向監(jiān)管機構(gòu)報告重大事件等 [44] 。 

因此，如果出海企業(yè)的AI大模型屬于通用AI模型的范圍，需關(guān)注《AI法案》對于通用AI模型的特殊監(jiān)管要求，并評估模型是否具有系統(tǒng)性風(fēng)險。 

（二）   汽車企業(yè)出海 

新能源汽車（電動汽車）、鋰電池、太陽能電池并稱為中國出口的“新三樣”。2023年，“新三樣”出口規(guī)模首破萬億元，成為我國外貿(mào)增長新亮點 [45] 。2023年，我國汽車整車出口491萬輛，同比增長57.9%，首次躍居全球第一；其中，新能源汽車出口120.3萬輛，占比約25%，同比增長77.6% [46] 。無論是燃油汽車還是新能源汽車，均在不斷加速智能化，出口車型也不例外 [47] 。汽車行業(yè)是AI大模型最重要的落地場景之一，比如將AI大模型應(yīng)用于車機系統(tǒng)和智能座艙，實現(xiàn)更高智能化的人車交互，以及和自動駕駛進行深度融合，最終實現(xiàn)高階智能駕駛甚至是無人駕駛 [48] 。 

1.     汽車企業(yè)的角色與適用 

對于中國出海車企，判斷構(gòu)成《AI法案》下的何種經(jīng)營者取決于AI系統(tǒng)的功能以及車企在供應(yīng)鏈中的角色。如果汽車搭載自研的AI系統(tǒng)，那么車企可能屬于AI系統(tǒng)提供者；當(dāng)汽車搭載技術(shù)供應(yīng)商供應(yīng)的AI系統(tǒng)并允許技術(shù)供應(yīng)商顯名，則可能技術(shù)供應(yīng)商構(gòu)成AI系統(tǒng)提供者，整車廠構(gòu)成AI系統(tǒng)部署者；當(dāng)高風(fēng)險AI系統(tǒng)構(gòu)成汽車的安全組件時，整車廠屬于車輛生產(chǎn)者，也將構(gòu)成高風(fēng)險AI系統(tǒng)提供者 [49] 。 

值得注意的是，根據(jù)《AI法案》，其與高風(fēng)險AI系統(tǒng)相關(guān)的規(guī)定尚不直接適用于汽車中的特定高風(fēng)險AI系統(tǒng)（如AI系統(tǒng)意圖用作產(chǎn)品的安全組件，或者AI系統(tǒng)本身就是歐盟統(tǒng)一立法所涵蓋的產(chǎn)品，且在投放市場或提供服務(wù)前需接受第三方合格性評估），歐盟其他相關(guān)部門立法，包括型式認證框架法規(guī)（EU 2018/858號條例）和通用安全法規(guī)（EU 2019/2144號條例）將繼續(xù)適用 [50] 。《AI法案》明確對相關(guān)AI系統(tǒng)的監(jiān)管與歐盟現(xiàn)有車輛監(jiān)管規(guī)則保持協(xié)調(diào)，并建議對相關(guān)部門立法適時進行修訂，考慮《AI法案》中對高風(fēng)險AI系統(tǒng)的強制性規(guī)定，例如將高風(fēng)險AI系統(tǒng)的監(jiān)管要求引入汽車型式認證 [51] 。 

盡管《AI法案》的相關(guān)規(guī)定分階段適用與實施，并且高風(fēng)險AI系統(tǒng)相關(guān)的監(jiān)管要求尚未直接適用于汽車，但歐盟汽車相關(guān)立法或?qū)⒁搿?/span>AI法案》中對高風(fēng)險AI系統(tǒng)的強制性規(guī)定，《AI法案》關(guān)于AI系統(tǒng)的監(jiān)管要求將以不同形式適用于汽車企業(yè)。考慮到汽車產(chǎn)品的研發(fā)與生產(chǎn)周期，對于希望出口歐盟地區(qū)的中國車企，宜盡早關(guān)注《AI法案》對出海業(yè)務(wù)的影響并制定應(yīng)對方案。 

2.     汽車應(yīng)用AI系統(tǒng)的風(fēng)險評級 

根據(jù)《AI法案》，如果某AI系統(tǒng)是產(chǎn)品中的組件，且該組件履行產(chǎn)品中的安全功能，或其失效或故障將危及人身健康或財產(chǎn)安全，則該AI系統(tǒng)構(gòu)成產(chǎn)品的安全組件 [52] ；當(dāng)一個AI系統(tǒng)構(gòu)成汽車產(chǎn)品的安全組件，且必需通過第三方合格性評估才能投放市場或提供服務(wù)，則該AI系統(tǒng)構(gòu)成高風(fēng)險AI系統(tǒng) [53] 。 

根據(jù)安全組件的定義和高風(fēng)險AI系統(tǒng)的范圍，汽車搭載的AI系統(tǒng)中，與駕駛安全高度相關(guān)的AI系統(tǒng)可能屬于高風(fēng)險AI系統(tǒng)，包括用于視覺感知（例如識別道路標(biāo)志、行人、車輛）、監(jiān)測汽車狀態(tài)（例如胎壓報警、發(fā)動機溫度監(jiān)測）、駕駛行為決策（例如自動剎車、自動拐彎）等目的的自動駕駛AI系統(tǒng)。對于一些用于娛樂或與安全相關(guān)度并不高的智能座艙AI系統(tǒng)，例如影音娛樂、聊天機器人等，則可能不會落入高風(fēng)險AI系統(tǒng)的范疇，而屬于有限風(fēng)險的AI系統(tǒng)。此外，一些能夠進行遠程生物識別的AI系統(tǒng)，例如智能座艙中的駕駛員疲勞監(jiān)測系統(tǒng)，也可能屬于高風(fēng)險AI系統(tǒng)。 

（三）   生物醫(yī)藥企業(yè)出海 

AI應(yīng)用于醫(yī)療健康行業(yè)早已不是新鮮事。在藥物研發(fā)方面，AI技術(shù)可用于藥物靶點發(fā)現(xiàn)、化合物篩選、化合物結(jié)構(gòu)設(shè)計等；在問診領(lǐng)域，AI技術(shù)可用于智能分診、分析檢查結(jié)果、輔助醫(yī)生做出醫(yī)療決策、慢病管理等；在醫(yī)療器械領(lǐng)域，AI技術(shù)也可打造高穩(wěn)定性的手術(shù)機器人、智能監(jiān)護患者數(shù)據(jù)、智能幫助患者康復(fù)理療等 [54] 。在中國企業(yè)出海熱潮中，不乏中國生物醫(yī)藥企業(yè)的身影。 

1.     生物醫(yī)藥企業(yè)的角色與適用 

中國的出海生物醫(yī)藥企業(yè)在《AI法案》下的角色，與AI系統(tǒng)在其產(chǎn)品或服務(wù)中的角色有關(guān)。例如：對于出口醫(yī)療器械的企業(yè)，如果所出口的AI系統(tǒng)本身即構(gòu)成一種醫(yī)療器械，或AI系統(tǒng)構(gòu)成了醫(yī)療器械的安全組件，則醫(yī)療器械的制造商可能構(gòu)成AI系統(tǒng)提供者；對于中國的制藥企業(yè)，如果企業(yè)僅利用AI工具輔助藥物研發(fā)或藥物生產(chǎn)，但出口產(chǎn)品是藥物，考慮到AI系統(tǒng)本身并未進入歐盟市場或向歐盟市場提供服務(wù)，制藥企業(yè)可能并不受《AI法案》約束；對于醫(yī)院而言，其部署以AI系統(tǒng)作為安全組件的醫(yī)療器械可能被視為AI系統(tǒng)部署者，而其專為醫(yī)學(xué)領(lǐng)域科學(xué)研究和開發(fā)目的而開發(fā)和提供服務(wù)的AI系統(tǒng)或AI模型，包括其輸出，則不受《AI法案》的監(jiān)管 [55] 。如果出海生物醫(yī)藥企業(yè)在歐盟已設(shè)立的研發(fā)或生產(chǎn)基地，并在研發(fā)或生產(chǎn)過程中開發(fā)或利用AI系統(tǒng)，則可能構(gòu)成AI系統(tǒng)提供者或部署者而直接受到《AI法案》的約束。 

與汽車中的高風(fēng)險AI系統(tǒng)類似，根據(jù)《AI法案》，其與高風(fēng)險AI系統(tǒng)相關(guān)的規(guī)定尚未適用于醫(yī)療器械中的特定高風(fēng)險AI系統(tǒng)（AI系統(tǒng)意圖用作產(chǎn)品的安全組件，或者AI系統(tǒng)本身就是歐盟統(tǒng)一立法所涵蓋的產(chǎn)品，且在投放市場或提供服務(wù)前需接受第三方合格性評估），而其他歐盟相關(guān)部門立法，包括歐盟醫(yī)療器械法規(guī)（EU 2017/745號條例，“MDR”）和歐盟體外診斷設(shè)備法規(guī)（EU 2017/746號條例，“IVDR”）將繼續(xù)適用 [56] 。我們注意到《AI法案》下不少對于高風(fēng)險AI系統(tǒng)的監(jiān)管要求與MDR和IVDR下現(xiàn)行嚴(yán)格的合格評定要求存在重疊。針對《AI法案》中的額外要求，MDR和IVDR等相關(guān)歐盟部門法規(guī)或?qū)⒂枰钥紤]，并引入第三方對醫(yī)療器械等產(chǎn)品進行的符合性認證程序。 

2.     生物醫(yī)藥產(chǎn)品應(yīng)用AI系統(tǒng)的風(fēng)險評級 

根據(jù)《AI法案》對高風(fēng)險AI系統(tǒng)的定義，如果AI系統(tǒng)在生物醫(yī)藥產(chǎn)品上的應(yīng)用足以影響人類安全，該AI系統(tǒng)可能構(gòu)成高風(fēng)險AI系統(tǒng)。依據(jù)《AI法案》，對于需要開展符合性認證的醫(yī)療器械（包括體外診斷醫(yī)療器械），如果該等醫(yī)療器械上應(yīng)用了AI系統(tǒng)作為安全組件，或者其本身是AI系統(tǒng)，一般應(yīng)將AI系統(tǒng)指定為高風(fēng)險AI系統(tǒng) [57] 。 

在歐盟，用于醫(yī)療目的的各類物品（包括軟件）均屬于醫(yī)療器械 [58] 。因此，如果一項AI系統(tǒng)本身用于醫(yī)療目的，其可能構(gòu)成醫(yī)療器械。歐盟法規(guī)將醫(yī)療器械由低到高分為I、IIa（如旨在提供用于診斷或治療目的的決策信息的軟件，包括用于監(jiān)測生理過程的軟件）、IIb（如果這些決定可能導(dǎo)致一個人的健康或手術(shù)受到嚴(yán)重損害）和III級（如果這些決定可能導(dǎo)致死亡或?qū)σ粋€人的健康造成不可逆轉(zhuǎn)的損害），并要求IIa類及更高級別的醫(yī)療器械均需開展符合性認證 [59] 。另外，所有體外診斷醫(yī)療器械均需要開展符合性認證 [60] 。因此，根據(jù)《AI法案》，本身屬于IIa類及更高級別的醫(yī)療器械或體外診斷醫(yī)療器械的AI系統(tǒng)，或作為安全組件的AI系統(tǒng)均可能構(gòu)成高風(fēng)險AI系統(tǒng)。實踐中，作為醫(yī)療器械的大量軟件項目屬于IIa類或更高類別。 

此外，《AI法案》在附件3中列舉的高風(fēng)險AI系統(tǒng)中包括使自然人獲得和享受基本私人服務(wù)和基本公共服務(wù)的AI系統(tǒng)，這些基本私人服務(wù)和基本公共服務(wù)覆蓋了一些基本的醫(yī)療保健相關(guān)服務(wù)，包括評估自然人是否有資格獲取公共醫(yī)療保健服務(wù)以及急診患者分診服務(wù)。 

高風(fēng)險AI系統(tǒng)認定標(biāo)準(zhǔn)的核心是該AI系統(tǒng)對人類健康和財產(chǎn)安全的風(fēng)險。對于許多用于輔助人類決策、由人類主導(dǎo)的醫(yī)療領(lǐng)域AI系統(tǒng)，可能僅構(gòu)成有限風(fēng)險的AI系統(tǒng)。這可能包括智能分診系統(tǒng)（不包括急診）、健康風(fēng)險提示軟件、檢查報告解讀軟件等。 

（四）   電商平臺企業(yè)出海 

近年來，中國電商平臺紛紛開始拓展海外業(yè)務(wù)。AI系統(tǒng)在電商平臺上的應(yīng)用較為廣泛和普遍，涵蓋了商品和廣告的個性化推薦、智能AI客服服務(wù)、繪制精準(zhǔn)用戶畫像、智能比價等多個場景，為商家和客戶均提供了不少便利。 

1.     電商平臺的角色與適用 

判斷一家電商平臺出海企業(yè)屬于《AI法案》下的何種角色需結(jié)合其商業(yè)模式進行分析。 

電商平臺企業(yè)在運營過程中，為了優(yōu)化用戶體驗，提升服務(wù)質(zhì)量，實現(xiàn)精準(zhǔn)營銷和降低運營成本，常常利用積累的用戶數(shù)據(jù)自行訓(xùn)練算法并開發(fā)AI模型。當(dāng)這些電商平臺將自研AI模型投放市場或用之提供服務(wù)時，其屬于AI系統(tǒng)的提供者；而當(dāng)其采用自研AI模型時，其同時成為AI系統(tǒng)的部署者；其他采用其自研AI模型的商家或電商平臺也屬于AI系統(tǒng)的部署者。 

2.     電商平臺應(yīng)用AI系統(tǒng)的風(fēng)險評級 

為了推廣電商平臺與推銷平臺上的商品，使消費者更愿意從其平臺上購物，電商平臺企業(yè)傾向于開發(fā)和設(shè)計對消費者有吸引力的用戶界面并采用更貼合消費者喜好的個性化推薦策略。 

在《AI法案》視角下，電商平臺企業(yè)應(yīng)注意所使用的AI系統(tǒng)不得侵犯基本人權(quán)，例如不得用于消費者行為和心智操控、社會評分等，否則，該等AI系統(tǒng)將可能構(gòu)成被禁止的AI系統(tǒng)。 

值得注意的是，并不是所有依據(jù)大數(shù)據(jù)對消費者進行打分的AI工具都屬于被禁止的AI系統(tǒng)。許多電商平臺會對信譽良好的消費者提供更便捷的服務(wù)，例如退貨時由平臺先行墊付退款、允許先買后付等。電商平臺基于消費者的歷史購買行為、支付行為、退換貨行為等對消費者進行綜合評價，本質(zhì)上不同于《AI法案》所禁止的社會評分行為。《AI法案》所禁止的社會評分行為是指利用自然人在各種社會活動中留下的數(shù)據(jù)蹤跡和呈現(xiàn)的性格特征對自然人打分，并且導(dǎo)致特定自然人或群體遭遇與其行為無關(guān)且有害的、不利的或不合理的待遇 [61] 。 

考慮到電商平臺企業(yè)所使用AI系統(tǒng)的常見目的和場景，其AI系統(tǒng)更可能僅構(gòu)成有限風(fēng)險的AI系統(tǒng)，該種情況下，經(jīng)營者應(yīng)當(dāng)履行透明度義務(wù)，包括向消費者公示其正在使用AI系統(tǒng)等 [62] 。 

三、           中國企業(yè)出海如何應(yīng)對《AI法案》挑戰(zhàn) 

當(dāng)探討《AI法案》對中國企業(yè)出海的影響時，中國企業(yè)首先需要考慮其在海外計劃開展的業(yè)務(wù)模式、產(chǎn)品或服務(wù)是否可能受到該法案的約束。 

如果企業(yè)可能受到《AI法案》的約束，企業(yè)需要評估自身在AI價值鏈中的角色，以及所使用的AI系統(tǒng)的風(fēng)險級別。根據(jù)評估結(jié)果，企業(yè)可能需要調(diào)整產(chǎn)品設(shè)計或業(yè)務(wù)模式，以確保符合《AI法案》的要求，包括若作為提供者，不得投放被禁止的AI系統(tǒng)，避免投放高風(fēng)險AI系統(tǒng)（合規(guī)義務(wù)繁重），如無法避免，需履行相應(yīng)合規(guī)義務(wù)；若作為部署者，需保障AI系統(tǒng)在使用過程中的安全可靠；若作為進口商或分銷商，需在進口或分銷前確保相關(guān)AI系統(tǒng)符合《AI法案》的相關(guān)要求。 

同時，企業(yè)需要密切關(guān)注歐盟立法和執(zhí)法機構(gòu)的動態(tài)，以便及時了解《AI法案》的最新發(fā)展和變化，并了解歐盟有關(guān)部門對《AI法案》的解釋。由于《AI法案》是跨行業(yè)的綜合性法規(guī)，企業(yè)在理解和應(yīng)用時需要結(jié)合特定行業(yè)的歐盟以及成員國法規(guī)。 

對于中國企業(yè)而言，如果其作為高風(fēng)險AI系統(tǒng)的提供者，計劃將AI系統(tǒng)投放到歐盟或在歐盟提供相關(guān)服務(wù)，歐盟的相關(guān)合作方可能會在合同中要求中方企業(yè)最終承擔(dān)由該等AI系統(tǒng)引發(fā)的賠償責(zé)任或罰款。中國企業(yè)需要與合作伙伴協(xié)商合理的賠償機制，并需與相關(guān)下游供應(yīng)商就賠償機制進行約定，盡可能降低風(fēng)險敞口。 

《AI法案》對目標(biāo)市場為歐盟的中國企業(yè)的影響不容忽視。考慮到《AI法案》在生效后將分階段逐步適用和實施，企業(yè)可盡可能利用這一緩沖時間，分析和評估現(xiàn)有和未來的產(chǎn)品與業(yè)務(wù)是否及在何種程度上受《AI法案》的影響，并制定相應(yīng)的合規(guī)方案，為出海經(jīng)營保駕護航。