網上投稿
引言
近日，實踐中，針對部分調用OpenAI的ChatGPT產品接口的境內平臺，部分地區的互聯網信息辦公室（即網信辦）根據《網信部門行政執法程序規定》第三十八條 [1] 、《生成式人工智能服務管理暫行辦法》（“《AIGC暫行辦法》”）第十七條 [2] 、第二十一條 [3] ，與該等境內平臺的平臺運營方進行了約談。與此同時，如我們在《大模型合規之現實初探》一文中所述，七月底以來，蘋果APP Store對中國內地中大量提供類ChatGPT服務的應用進行集中下架，其中不少亦是利用OpenAI提供的API服務所開發的應用，根據部分平臺運營方收到的蘋果官方下架通知，應用下架的主要原因在于應用與ChatGPT相關，而ChatGPT在中國沒有獲得運營所必需的許可。
該等實踐意味著在《AIGC暫行辦法》正式生效后，境內平臺利用境外技術支持方提供的服務向中國境內用戶提供生成式人工智能服務的合規要求正在逐漸全面跟上。以下，我們針對該等具體合規要求展開討論，供境內平臺的平臺運營方在與境外技術支持方進行合作的過程中進行參考。
總體而言，境內平臺使用境外生成式人工智能服務主要通過直接調用境外生成式人工智能服務、接入境外生成人工智能服務的可編程接口（即API）等方式實現。以OpenAI為例，根據OpenAI官網的說明，目前OpenAI提供的服務包括ChatGPT、DALL-E等非API服務（non-API consumer services）以及API服務這兩種類型。不過，目前OpenAI的前述兩種服務均未面向中國內地以及中國香港地區的用戶開放；實踐中，境內平臺主要借助于虛擬專用網絡（即VPN）通過中國境外IP地址使用OpenAI提供的服務，該種使用方式本身存在一定的違規風險，例如違規建立或租用虛擬專用網絡等國際聯網相關風險。
即使境外主體提供的生成式人工智能服務向中國境內用戶開放，在境內平臺使用該等服務向境內用戶提供生成式人工智能服務的情況下，如我們在《大模型合規之現實初探》一文中所述，利用生成式人工智能技術向中華人民共和國境內公眾提供生成文本、圖片、音頻、視頻等內容服務的組織、個人均屬于《AIGC暫行辦法》項下的生成式人工智能服務提供者，應當履行生成式人工智能服務提供者的責任與義務。因此，境外主體以及境內平臺的平臺運營方均屬于生成式人工智能服務提供者，應當遵守《AIGC暫行辦法》《互聯網信息服務深度合成管理規定》（“《深度合成管理規定》”）《互聯網信息服務算法推薦管理規定》（“《算法推薦管理規定》”）等中國相關法律法規的規定，倘若存在違規情況，根據《AIGC暫行辦法》，國家網信部門有權通知有關機構采取技術措施和其他必要措施對境外的技術支持方予以處置，而該等處置措施極有可能會對使用境外生成式人工智能服務的境內平臺造成較大影響。
當前，境內平臺使用境外生成式人工智能服務的合規要點主要在資質要求、數據跨境合規、數據訓練合規等方面，具體如下：
1 資質要求
1.1 算法備案
為滿足生成式人工智能服務的透明度要求，根據《AIGC管理辦法》《深度合成管理規定》《算法推薦管理規定》，平臺運營方、技術支持方均應當履行算法備案的義務。因此，在境內平臺使用境外生成式人工智能服務的場景下，境外的技術支持方以及境內的平臺運營方均應當進行算法備案，具體而言 [4] ：
? 在算法類型方面，境外的技術支持方以及境內的平臺運營方均應當選擇“生成合成類（深度合成）算法”這一算法類型進行算法備案；
? 在備案角色方面，境外的技術支持方應當作為深度合成服務技術支持者進行算法備案，境內平臺的平臺運營方應當作為深度合成服務提供者進行算法備案；
《算法推薦管理規定》進一步明確，如技術支持方以及平臺運營方未依法履行備案手續的，由網信部門和電信、公安、市場監管等有關部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停信息更新，并處一萬元以上十萬元以下罰款。
1.2 安全評估
根據《AIGC管理辦法》《深度合成管理規定》《算法推薦管理規定》《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》（“《安全評估規定》”），境外的技術支持方、境內平臺的平臺運營方還應當完成以下兩種類型的安全評估：一是按照《安全評估規定》通過全國互聯網安全管理服務平臺完成具有輿論屬性或社會動員能力的互聯網信息服務安全評估；二是針對生成式人工智能服務進行新技術新應用安全評估（即雙新評估），而關于雙新評估的具體流程以及要求仍有待監管部門進一步公開。
根據《安全評估規定》，如技術支持方、平臺運營方拒不依法開展安全評估的，網信部門和公安機關將通過全國互聯網安全管理服務平臺向公眾提示其提供的服務存在安全風險。
2 數據跨境合規
在境內平臺使用境外生成式人工智能服務的場景下，中國境內用戶在境內平臺的輸入端口提出問題后，該問題會傳輸到位于境外的技術支持方，技術支持方模型給出相應回答后，該回答便會傳輸到境內平臺的用戶端口以實現對問題的反饋。按照該服務模式，境內平臺的平臺運營方向境外技術支持方傳輸用戶輸入數據的過程中，平臺運營方有可能涉及將中國境內用戶的個人信息傳輸至境外。
在此種情形下，對于平臺運營方而言，平臺運營方應當按照《中華人民共和國個人信息保護法》（“《個人信息保護法》”）《數據出境安全評估辦法》《個人信息出境標準合同辦法》等相關法律法規履行個人信息跨境傳輸相關的合規要求，包括數據出境安全評估/個人信息保護影響評估、個人信息出境標準合同簽訂和備案、用戶告知等。
對于境外技術支持方而言，在技術支持方與平臺運營方簽訂個人信息出境標準合同的情形下，技術支持方應當履行該等標準合同項下境外接受方的義務，例如確保個人信息的保存期限為實現處理目的所必要的最短時間，保存期限屆滿的，應當刪除個人信息（包括所有備份）。同時，技術支持方還應當按照標準合同的約定，結合其所在國家或者地區的個人信息保護政策和法規，對于該等政策和法規對于技術支持方履行標準合同約定義務的影響進行評估。
根據《個人信息保護法》，如平臺運營方、技術支持方違反上述要求，平臺運營方、技術支持方將被中國境內的主管部門處以責令改正、給予警告、沒收違法所得、罰款等行政處罰；違法處理個人信息的應用程序，將被責令暫停或者終止提供服務；直接負責的主管人員和其他直接責任人員將被處以一萬元以上十萬元以下罰款。此外，平臺運營方、技術支持方還可能因違反技術支持方所在國家或者地區可適用的個人信息保護政策和法規面臨相應的處罰風險。
3 數據訓練合規
如我們在《大模型合規之現實初探》一文中所述，數據是大模型最底層的“原料”，而數據訓練是對“原料的使用”，數據訓練合規是滿足服務生成內容合規的重要前提，技術支持方、平臺運營方應當按照《AIGC暫行辦法》 [5] 的要求，開展預訓練、優化訓練等訓練數據處理活動。
在境內平臺使用境外生成式人工智能服務的場景下，境內平臺運營方應當特別關注數據和基礎模型來源合法、知識產權合規以及個人信息保護等方面的要求。具體而言，
3.1 數據和基礎模型的來源合法
關于數據和基礎模型，一般由境外技術支持方提供基礎模型以及該等基礎模型的訓練數據。為滿足相應的合規要求，平臺運營方應對于境外技術支持方提供的基礎模型和數據來源的合法性進行必要的審查，對技術支持方數據安全保護能力開展盡職調查。在平臺運營方與技術支持方簽署的相關技術服務合同中，平臺運營方可以要求技術支持方對數據和基礎模型來源的合法合規性進行陳述保證，明確雙方的權利義務，避免因技術支持方所提供的基礎模型和/或數據來源合法性問題影響平臺運營方業務的持續開展。
3.2 知識產權合規
如我們在《ChatGPT許可應用，知識產權和數據怎么看？》一文中所述，在模型訓練的過程中，在數據收集階段、數據預處理階段、結果生成階段分別可能涉及對于數據的復制、翻譯、改編、匯編、信息網絡傳播等受到著作權法等知識產權相關法律法規規制的行為。而在模型的訓練數據庫涉及未經授權使用他人享有知識產權的數據及內容的情形下，天然具有知識產權侵權風險。以ChatGPT為例，ChatGPT的數據源包括用戶輸入內容和訓練數據庫。其中，用戶輸入內容包括用戶使用ChatGPT等非API服務提供的數據；訓練數據庫則包括以下三種類型的數據：公有領域內容、通過簽訂合同獲得合法授權的內容、未經授權的信息及內容。倘若技術支持方提供的模型的訓練數據庫涉及未經授權的信息及內容，在境內平臺生成內容與該等信息及內容存在實質性相似的情形下，技術支持方、平臺運營方往往并不屬于合理使用，從而均有可能承擔相應的侵權責任。為降低前述侵權風險，在要求技術支持方確保數據來源合法合規性的同時，我們也建議技術支持方、平臺運營方對于生成內容進行一定程度的審核，確保生成內容在表達方面與原始的信息及內容在存在顯著區分。
3.3 個人信息保護
如前文所述，在部分情形下，用戶輸入內容將成為技術支持方模型的訓練數據。例如，根據OpenAI官網的說明，用戶通過ChatGPT、DALL-E等非API服務提供的數據將成為ChatGPT的訓練數據，除非用戶選擇關閉訓練模式；而用戶通過API提供的數據將不會作為ChatGPT的訓練數據，除非用戶另行進行授權 [6] 。而該等用戶輸入內容中可能包含用戶的個人信息。參考全國信息安全標準化技術委員會發布的《信息安全技術 機器學習算法安全評估規范（征求意見稿）》的要求 [7] ，我們建議平臺運營方針對將用戶個人信息用于數據訓練取得用戶同意（針對人臉信息等敏感個人信息還應取得用戶的單獨同意），并向用戶提供不使用個人信息用于數據訓練的選項；此外，平臺運營方、技術支持方還可以考慮對于收集的個人信息進行必要的匿名化處理，以降低數據訓練活動對于用戶個人權益的影響。
如技術支持方、平臺運營方未按照《AIGC暫行辦法》的規定開展訓練數據處理活動，除《個人信息保護法》《中華人民共和國著作權法》等法律法規明確規定的法律責任以外，技術支持方、平臺運營方還可能被處以警告、通報批評、責令限期改正、責令暫停提供相關服務等行政處罰。
結語
相較于中國境內的技術支持方，境外的技術支持方在落實相關合規要求的過程中面臨更高的不確定性。同時，在涉及境外主體的情況下，技術支持方、平臺運營方還可能需要滿足其他國家或地區更為嚴苛的合規要求。因此，我們建議，境內平臺與境外的技術支持方開展生成式人工智能服務相關合作時，厘清各方的責任與義務，及時關注所涉國家和地區的監管動態，在合法合規的前提下開展跨境業務合作。
[1] 《網信部門行政執法程序規定》第三十八條規定，網信部門對當事人作出行政處罰決定前，可以根據有關規定對其實施約談，談話結束后制作執法約談筆錄。
[2] 《生成式人工智能服務管理暫行辦法》第十七條規定，提供具有輿論屬性或者社會動員能力的生成式人工智能服務的，應當按照國家有關規定開展安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
[3] 《生成式人工智能服務管理暫行辦法》第二十一條規定，提供者違反本辦法規定的，由有關主管部門依照《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》、《中華人民共和國科學技術進步法》等法律、行政法規的規定予以處罰；法律、行政法規沒有規定的，由有關主管部門依據職責予以警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫停提供相關服務。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。
[4] 詳見《互聯網信息服務深度合成管理規定》備案填報指南，鏈接地址：https://beian.cac.gov.cn/api/file/fileDownLoad?noticeId=notice_4b62813c-b5cd-4bf0-b1ff-5c140decda7f。
[5] 《AIGC暫行辦法》第七條規定，生成式人工智能服務提供者（以下稱提供者）應當依法開展預訓練、優化訓練等訓練數據處理活動，遵守以下規定：（一）使用具有合法來源的數據和基礎模型；（二）涉及知識產權的，不得侵害他人依法享有的知識產權；（三）涉及個人信息的，應當取得個人同意或者符合法律、行政法規規定的其他情形；（四）采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性；（五）《中華人民共和國網絡安全法》、《中華人民共和國數據安全法》、《中華人民共和國個人信息保護法》等法律、行政法規的其他有關規定和有關主管部門的相關監管要求。
[6] How your data is used to improve model performance，鏈接地址：https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance。
[7] 《信息安全技術 機器學習算法安全評估規范（征求意見稿）》第6.1條第g）項規定，相關組織和個人在開發或運營機器學習算法時，應確保所開發或運營的機器學習算法的隱私性，確保處理數據遵守法律和法規要求，保護個人信息和隱私，避免存儲、泄漏敏感數據，包括但不限于：1） 未經個人同意，不應使用其個人信息開展機器學習算法相關活動。法律法規規定無需同意的情況除外；2） 對個人信息采用必要的數據脫敏措施。