網(wǎng)上投稿
AI浪潮愈發(fā)澎湃的當下，生成式人工智能技術已成為企業(yè)創(chuàng)新與效率提升的重要工具。企業(yè)對生成式人工智能產(chǎn)品（以下簡稱為“GenAI產(chǎn)品”）的應用需求日益增長，其應用場景也愈發(fā)多樣化：開展營銷活動的過程中利用AI生成創(chuàng)意文案和視覺設計素材，極大地縮短了創(chuàng)作周期并降低了成本；使用AI客服機器人處理客戶咨詢，顯著地提高了客戶滿意度和響應速度；使用AI還可以為客戶提供個性化的產(chǎn)品推薦，提高銷售轉化率等等。
然而企業(yè)在積極探索GenAI產(chǎn)品等新質生產(chǎn)力工具的同時，也不能忽視潛在的風險。我們將通過“采購篇”和“使用篇”這兩個篇章，針對企業(yè)采購GenAI產(chǎn)品和使用GenAI產(chǎn)品這兩個階段，梳理將GenAI產(chǎn)品引入企業(yè)工作流程可能涉及的風險點，并結合這些風險點，為企業(yè)如何針對不同場景下GenAI產(chǎn)品的應用制定清晰明確的指南提供建議，從而協(xié)助企業(yè)在實現(xiàn)AI轉型的同時防范相關風險。
通過本文，你將至少了解：
s 采購GenAI產(chǎn)品時，需要提前關注商業(yè)秘密泄露、個人信息保護、知識產(chǎn)權侵權等風險；
s 使用GenAI產(chǎn)品時，應當至少考慮構建完善的內部管理制度。
采購篇
在企業(yè)決定引入GenAI產(chǎn)品之前，必須對采購決策進行全面且審慎的評估，結合自身的業(yè)務開展情況以及需求，選擇最適合自身，同時合規(guī)風險也較為可控的GenAI產(chǎn)品。從控制合規(guī)風險的角度出發(fā)，我們建議企業(yè)在采購GenAI產(chǎn)品的階段至少需要考慮以下要點：
1. 采購前：這些問題考慮過沒有？
(1) 使用GenAI產(chǎn)品的目的和場景
在采購GenAI產(chǎn)品之前，企業(yè)首先應當明確使用GenAI產(chǎn)品的目的和場景，因為這將決定企業(yè)在使用GenAI產(chǎn)品過程中需要著重防范的法律風險。
例如，倘若企業(yè)將GenAI產(chǎn)品用于廣告文案、圖片、短視頻等營銷內容的生成，需要特別關注知識產(chǎn)權侵權的風險，尤其是著作權侵權的風險。GenAI產(chǎn)品生成的內容可能涉及對他人作品的復制或改編，若未經(jīng)權利人授權使用，可能引發(fā)著作權糾紛。此外，由于GenAI產(chǎn)品算法的訓練數(shù)據(jù)具有局限性、且缺乏人類的基本判斷能力，GenAI產(chǎn)品可能會生成不準確或虛假的信息，若企業(yè)在廣告文案或產(chǎn)品描述中使用GenAI產(chǎn)品生成的內容涉及夸大產(chǎn)品功效等虛假宣傳，企業(yè)還可能因構成虛假宣傳、虛假廣告需承擔違反《中華人民共和國廣告法》《中華人民共和國反不正當競爭法》的法律責任。
再如，倘若企業(yè)將GenAI產(chǎn)品用于個性化推薦（如電商平臺的商品推薦），則需要重點關注數(shù)據(jù)隱私和個人信息保護問題。個性化推薦通常依賴于對用戶行為數(shù)據(jù)的分析，若企業(yè)在數(shù)據(jù)收集、存儲和使用過程中未能遵守《中華人民共和國個人信息保護法》等相關法律法規(guī)，可能面臨行政或民事責任。
TIPS：企業(yè)在采購前應明確GenAI產(chǎn)品的使用場景，并根據(jù)場景特點定位具體的風險領域，進而制定相應的合規(guī)策略。
(2) 使用GenAI產(chǎn)品生成內容（以下簡稱“AIGC”）的目的和場景
除了使用GenAI產(chǎn)品的目的和場景以外，企業(yè)還應關注后續(xù)使用AIGC的目的和場景。
例如，若AIGC僅用于企業(yè)內部使用（如內部報告、數(shù)據(jù)分析等），由于AIGC僅在企業(yè)內部流通，不對外公開傳播，未進入公共領域，往往不會對權利人的利益造成直接損害，因此侵權風險較低。然而，若企業(yè)在商業(yè)推廣的過程中將AIGC通過互聯(lián)網(wǎng)平臺、線下媒體等各種渠道向公眾進行投放，且AIGC與現(xiàn)有作品構成實質性相似，或包含他人肖像、商標或其他受保護的元素，往往很容易就被公眾以及權利人識別，企業(yè)面臨的侵權風險將顯著提升。
TIPS：企業(yè)在采購GenAI產(chǎn)品前，還應評估AIGC的使用目的和場景，并基于AIGC的使用目的和場景選擇合適的GenAI產(chǎn)品，例如在企業(yè)后續(xù)將對外使用AIGC的情形下，建議企業(yè)優(yōu)先選擇使用授權素材庫進行模型訓練并設置侵權違規(guī)內容攔截功能的GenAI產(chǎn)品。
(3) 是否會向公眾提供GenAI產(chǎn)品
基于是否會向公眾提供GenAI產(chǎn)品，GenAI產(chǎn)品提供者以及企業(yè)自身可能構成不同類型的主體，進而導致需要履行不同的責任與義務。在我國，根據(jù)《生成式人工智能服務管理暫行辦法》等法律法規(guī)，如企業(yè)僅將GenAI產(chǎn)品提供給企業(yè)內部的員工使用，通常不屬于向公眾提供GenAI產(chǎn)品，因而不屬于生成式人工智能服務提供者，往往無需履行生成式人工智能服務提供者的合規(guī)義務。然而，若企業(yè)計劃將GenAI產(chǎn)品向公眾提供（如向一般用戶提供基于GenAI產(chǎn)品開發(fā)的應用），則企業(yè)很有可能構成生成式人工智能服務提供者，進而需要承擔算法備案、生成式人工智能服務備案/登記、網(wǎng)絡信息安全和個人信息保護、違法內容管控、未成年人保護等生成式人工智能服務提供者的合規(guī)義務，并需要避免采購可能導致企業(yè)無法履行合規(guī)義務或面臨較高的侵權或違規(guī)風險的GenAI產(chǎn)品（例如境外GenAI產(chǎn)品）。
TIPS：企業(yè)在采購GenAI產(chǎn)品前，應當針對使用的全流程進行評估，特別是最終是否會向一般用戶提供基于GenAI產(chǎn)品開發(fā)的應用。
(4) 是否會通過精調、LoRA等方式對于GenAI產(chǎn)品進行優(yōu)化
企業(yè)采購GenAI產(chǎn)品后，可能會根據(jù)自身需求對GenAI產(chǎn)品進行優(yōu)化，如通過精調（Fine Tune）或低秩適配（LoRA）等方式調整GenAI產(chǎn)品所依托的模型參數(shù)，以提升生成內容的準確性和適用性。因此，如企業(yè)后續(xù)存在以對模型的代碼、參數(shù)或架構進行修改、對于模型進行數(shù)據(jù)訓練等方式對于GenAI產(chǎn)品進行優(yōu)化的需求，在采購GenAI產(chǎn)品前，企業(yè)需特別關注GenAI產(chǎn)品提供者是否允許此類優(yōu)化行為，審查GenAI產(chǎn)品的許可協(xié)議，選擇許可協(xié)議中允許企業(yè)按照自身所計劃的方式對于GenAI產(chǎn)品進行優(yōu)化的GenAI產(chǎn)品。
TIPS：企業(yè)在采購GenAI產(chǎn)品前，應當針對使用GenAI產(chǎn)品的具體方式進行評估，如果需要對GenAI產(chǎn)品進行優(yōu)化，應當特別關注許可協(xié)議等對使用邊界進行明確的文件。
2. 采購時：這些問題關注一下？
(1) GenAI產(chǎn)品提供者是否已取得所需的合法資質？
在我國，根據(jù)《生成式人工智能服務管理暫行辦法》《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》等人工智能領域法律法規(guī)，GenAI產(chǎn)品涉及的合法資質主要包括算法備案以及生成式人工智能服務備案/登記；如GenAI產(chǎn)品未取得所需資質，可能導致GenAI產(chǎn)品被關停，進而對使用GenAI產(chǎn)品的企業(yè)造成不利影響。根據(jù)法律法規(guī)的規(guī)定以及我們與網(wǎng)信辦等監(jiān)管部門的溝通，GenAI產(chǎn)品是否需要進行算法備案、生成式人工智能服務備案/登記，主要取決于其是否面向境內公眾提供生成式人工智能服務，以及該服務是否具有輿論屬性或社會動員能力。如企業(yè)僅允許內部員工使用企業(yè)采購的GenAI產(chǎn)品，該情形下GenAI產(chǎn)品不涉及面向境內公眾提供生成式人工智能服務，因此無需進行算法備案或生成式人工智能服務備案/登記。然而，如企業(yè)會向公眾提供GenAI產(chǎn)品（例如向一般用戶提供基于GenAI產(chǎn)品開發(fā)的應用），則GenAI產(chǎn)品涉及面向境內公眾提供服務，且由于實務中對于何為“具有輿論屬性或社會動員能力”的判斷相對較為寬泛，往往涵蓋了所有具備信息共享功能的服務，GenAI產(chǎn)品提供的服務有較高概率構成“具有輿論屬性或社會動員能力”的生成式人工智能服務，企業(yè)需要確保該等GenAI產(chǎn)品已進行算法備案、生成式人工智能服務備案/登記。
TIPS：企業(yè)在采購國內開發(fā)者提供的GenAI產(chǎn)品時，尤其是在后續(xù)會向公眾提供GenAI產(chǎn)品的情況下，建議要求GenAI產(chǎn)品提供者出示相關的備案/登記證明文件，核實證明文件的真實性和有效性，并在GenAI產(chǎn)品采購協(xié)議中明確要求提供者對已取得提供GenAI產(chǎn)品所需的合法資質作出陳述與保證以及約定違反該等陳述與保證的賠償責任。
(2) GenAI產(chǎn)品為閉源產(chǎn)品還是開源產(chǎn)品？
GenAI產(chǎn)品的開源與閉源屬性直接影響企業(yè)對于GenAI產(chǎn)品的使用權限，尤其是后續(xù)是否可以對于GenAI產(chǎn)品進行優(yōu)化。開源GenAI產(chǎn)品是指將模型的權重、架構以及訓練過程向公眾開放，允許任何人自由使用、修改和分發(fā)的GenAI產(chǎn)品，其優(yōu)勢在于促進技術的快速迭代和創(chuàng)新，降低使用成本，并允許企業(yè)根據(jù)自身需求通過修改代碼、調整模型參數(shù)等方式對于GenAI產(chǎn)品進行優(yōu)化。閉源GenAI產(chǎn)品則是指模型的權重、架構和訓練細節(jié)不公開，通常由提供者控制并以“模型即服務”的形式提供服務的GenAI產(chǎn)品，其優(yōu)勢在于保護提供者的商業(yè)秘密，增強數(shù)據(jù)安全性和隱私性，使用者通常無法通過修改代碼、調整模型參數(shù)等方式對GenAI產(chǎn)品進行優(yōu)化。企業(yè)在采購GenAI產(chǎn)品時，應根據(jù)自身需求選擇開源或閉源GenAI產(chǎn)品。若企業(yè)計劃對GenAI產(chǎn)品進行優(yōu)化，開源GenAI產(chǎn)品可能更為合適，但企業(yè)在使用開源GenAI產(chǎn)品時仍需遵守開源許可證的相關規(guī)定，如在使用和分發(fā)優(yōu)化后的模型時，需保留原模型的版權聲明和許可條款；若企業(yè)更關注數(shù)據(jù)安全性和商業(yè)秘密保護，閉源GenAI產(chǎn)品則更具優(yōu)勢，但企業(yè)需嚴格按照閉源GenAI產(chǎn)品的使用條款使用GenAI產(chǎn)品，可能無法通過修改模型的代碼、參數(shù)等方式優(yōu)化GenAI產(chǎn)品。
TIPS：企業(yè)在采購GenAI產(chǎn)品時，應當做好自身需求的測評工作，并結合自身需求選擇開源或閉源GenAI產(chǎn)品。
(3) GenAI產(chǎn)品被“投喂”了哪些訓練數(shù)據(jù)？
GenAI產(chǎn)品的訓練數(shù)據(jù)是其生成內容的基礎，訓練數(shù)據(jù)的合法合規(guī)性直接影響AIGC的合法合規(guī)性，進而影響企業(yè)后續(xù)對于AIGC的使用。根據(jù)《生成式人工智能服務管理暫行辦法》第7條，生成式人工智能服務提供者使用的訓練數(shù)據(jù)應當來源合法，不得侵犯他人知識產(chǎn)權，不得違法違規(guī)使用個人信息，且應采取有效措施提高訓練數(shù)據(jù)質量，增強訓練數(shù)據(jù)的真實性、準確性、客觀性、多樣性。企業(yè)在采購GenAI產(chǎn)品時，也應基于該等要求，評估GenAI產(chǎn)品的訓練數(shù)據(jù)的合法合規(guī)性。一方面，企業(yè)應要求提供者披露訓練數(shù)據(jù)的基本信息，包括數(shù)據(jù)的來源、類型、處理方式等，并核實其是否已取得相關權利人的授權。例如，若訓練數(shù)據(jù)包含受版權保護的文本、圖像或音頻，提供者需提供著作權人的許可證明；若訓練數(shù)據(jù)涉及個人信息，提供者需證明其已取得個人信息主體的同意，并采取了必要的脫敏措施。另一方面，企業(yè)應要求提供者提供GenAI產(chǎn)品訓練數(shù)據(jù)安全評估報告，以核查GenAI產(chǎn)品語料來源、內容以及標注的安全性。
TIPS：企業(yè)在采購GenAI產(chǎn)品時，應當評估、核實GenAI產(chǎn)品的訓練數(shù)據(jù)的合法合規(guī)性。
3. 采購協(xié)議：這些條款看仔細了
GenAI產(chǎn)品采購協(xié)議是確定企業(yè)與GenAI產(chǎn)品提供者之間權利義務關系的重要法律文件，企業(yè)后續(xù)使用GenAI產(chǎn)品以及GenAI產(chǎn)品提供者提供GenAI產(chǎn)品的行為將受到該等采購協(xié)議的約束，同時，如任何一方違反采購協(xié)議的約定，另一方可以基于采購協(xié)議要求違約方承擔支付違約金、賠償損失等違約責任。因此，對于企業(yè)而言，如何通過采購協(xié)議中陳述保證、權利義務、違約責任等條款的設計保障自身權益、降低潛在法律風險至關重要。為實現(xiàn)前述目的，企業(yè)應當確保GenAI產(chǎn)品采購協(xié)議中對下述事項予以明確約定：GenAI產(chǎn)品提供者的合法資質、GenAI產(chǎn)品的提供方式、AIGC的權利歸屬和使用、數(shù)據(jù)與知識產(chǎn)權保護、企業(yè)對于GenAI產(chǎn)品優(yōu)化。關于具體應該如何設計采購協(xié)議的條款，請見《AI開拓者指南：AIGC應用協(xié)議——怎么寫怎么看》一文“模型產(chǎn)品使用者使用協(xié)議”部分。