網(wǎng)上投稿
前言
隨著人工智能（（AI））技術(shù)的飛速發(fā)展，生成式人工智能已經(jīng)能夠處理和分析海量數(shù)據(jù)，生成內(nèi)容并提供個(gè)性化服務(wù)，成為推動(dòng)社會(huì)進(jìn)步的重要力量。作為生成式人工智能發(fā)展的重點(diǎn)要求，“內(nèi)容合規(guī)”不僅涉及到技術(shù)層面的精確性和安全性，更關(guān)乎道德責(zé)任和社會(huì)影響，要求AI大模型在上游技術(shù)開(kāi)發(fā)和下游生成、處理信息時(shí)，都應(yīng)確保相關(guān)內(nèi)容遵循法律法規(guī)、尊重社會(huì)倫理、保護(hù)個(gè)人隱私，避免產(chǎn)生有害、不當(dāng)或違法的內(nèi)容。
本文結(jié)合《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱“《AIGC暫行辦法》”）、《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》》（以下簡(jiǎn)稱“《深度合成管理規(guī)定》”）的相關(guān)規(guī)定，對(duì)模型的技術(shù)支持者（即直接參與人工智能大模型技術(shù)研究、開(kāi)發(fā)和優(yōu)化的專業(yè)人員或團(tuán)隊(duì)）和服務(wù)提供者（即將技術(shù)支持者開(kāi)發(fā)的大模型集成整合并以交互界面、可編程接口等形式提供生成式人工智能服務(wù)的組織或個(gè)人）兩類主體需要分別關(guān)注的內(nèi)容合規(guī)要點(diǎn)進(jìn)行了梳理。
一、 技術(shù)支持者角度
在生成式人工智能大模型的技術(shù)開(kāi)發(fā)過(guò)程中，“語(yǔ)料”的重要性不言而喻。“語(yǔ)料”是指大模型語(yǔ)料，即用于訓(xùn)練大型機(jī)器學(xué)習(xí)模型，尤其是自然語(yǔ)言處理（NLP）領(lǐng)域的語(yǔ)言模型的大規(guī)模文本數(shù)據(jù)集。其中，“原始語(yǔ)料”是指未經(jīng)加工處理的原始數(shù)據(jù)或信息，這些數(shù)據(jù)或信息通常包括文本、語(yǔ)音、圖像、視頻等多種形式。對(duì)于技術(shù)支持者而言，語(yǔ)料，特別是原始語(yǔ)料，主要用于大模型的訓(xùn)練。
根據(jù)《AIGC暫行辦法》、《生成式人工智能服務(wù)安全基本要求》（以下簡(jiǎn)稱“《AIGC安全要求》”）以及其他相關(guān)法律法規(guī)與行業(yè)標(biāo)準(zhǔn)，技術(shù)支持者在技術(shù)開(kāi)發(fā)、處理原始語(yǔ)料過(guò)程中，至少需要注意以下方面的合規(guī)要求：
1. 原始語(yǔ)料審核與管理
【要點(diǎn)】
針對(duì)所獲取的原始語(yǔ)料，技術(shù)支持者至少需要進(jìn)行初步審核與管理，確保該等用于技術(shù)開(kāi)發(fā)的原始語(yǔ)料具有合法來(lái)源且符合其他法律法規(guī)的要求。
【相應(yīng)措施】
我們將語(yǔ)料審核與管理的相關(guān)要點(diǎn)以及針對(duì)每個(gè)要點(diǎn)可以考慮的具體措施/要點(diǎn)列示如下：
| 要點(diǎn) |
具體措施/要求 |
| 安全評(píng)估 |
技術(shù)支持者面向特定語(yǔ)料來(lái)源進(jìn)行采集前，應(yīng)對(duì)該來(lái)源語(yǔ)料進(jìn)行安全評(píng)估，語(yǔ)料內(nèi)容中含違法不良信息超過(guò)5%的，不應(yīng)采集該來(lái)源語(yǔ)料。面向特定語(yǔ)料來(lái)源進(jìn)行采集后，應(yīng)對(duì)所采集的該來(lái)源語(yǔ)料進(jìn)行核驗(yàn)，含違法不良信息情況超過(guò)5%的，不應(yīng)使用該來(lái)源語(yǔ)料進(jìn)行訓(xùn)練。
|
| 許可/授權(quán) |
技術(shù)支持者使用開(kāi)源語(yǔ)料時(shí)，應(yīng)具有該語(yǔ)料來(lái)源的開(kāi)源許可協(xié)議或相關(guān)授權(quán)文件。對(duì)于匯聚了網(wǎng)絡(luò)地址、數(shù)據(jù)鏈接等能夠指向或生成其他數(shù)據(jù)的情況，如果需要使用這些被指向或生成的內(nèi)容作為語(yǔ)料，應(yīng)將其視同于自采語(yǔ)料；使用自采語(yǔ)料時(shí)，應(yīng)具有采集記錄，不應(yīng)采集他人已明確不可采集的語(yǔ)料；將使用者輸入信息當(dāng)作語(yǔ)料時(shí)，應(yīng)具有使用者授權(quán)記錄。
|
| 來(lái)源證明 |
在使用商業(yè)語(yǔ)料時(shí)，《AIGC安全要求》提出：應(yīng)有具備法律效力的交易合同、合作協(xié)議等；交易方或合作方不能提供語(yǔ)料來(lái)源、質(zhì)量、安全等方面的承諾以及相關(guān)證明材料時(shí)，不應(yīng)使用該語(yǔ)料；應(yīng)對(duì)交易方或合作方所提供語(yǔ)料、承諾、材料進(jìn)行審核。
|
| 合理阻斷 |
按照我國(guó)網(wǎng)絡(luò)安全相關(guān)法律法規(guī)及政策文件要求阻斷的信息，不應(yīng)作為語(yǔ)料。
|
| 確保多樣性 |
技術(shù)支持者應(yīng)提高語(yǔ)料來(lái)源的多樣性，對(duì)每一種語(yǔ)言的語(yǔ)料，如中文、英文等，以及每一種類型的語(yǔ)料，如文本、圖片、音頻、視頻等，均應(yīng)有多個(gè)語(yǔ)料來(lái)源。
|
| 境內(nèi)外搭配 |
如需使用境外語(yǔ)料，應(yīng)合理搭配境內(nèi)外來(lái)源語(yǔ)料。 |
2. 遵守《個(gè)人信息保護(hù)法》
【要點(diǎn)】
在技術(shù)開(kāi)發(fā)過(guò)程中，原始語(yǔ)料中可能包含個(gè)人信息，處理該等個(gè)人信息符合《中華人民共和國(guó)個(gè)人信息保護(hù)法》（“《個(gè)人信息保護(hù)法》”）下的相關(guān)要求。
【相應(yīng)措施】
技術(shù)開(kāi)發(fā)者應(yīng)當(dāng)結(jié)合語(yǔ)料所涉及的個(gè)人信息的具體情況考慮相應(yīng)的定制化措施。例如，倘若原始語(yǔ)料包含個(gè)人信息（即以電子或者其他方式記錄的與已識(shí)別或者可識(shí)別的自然人有關(guān)的各種信息，不包括匿名化處理后的信息），視原始語(yǔ)料獲取模式不同，技術(shù)支持者和/或原始語(yǔ)料的上游供應(yīng)商可能構(gòu)成個(gè)人信息處理者，需就處理該等原始語(yǔ)料中的個(gè)人信息滿足《個(gè)人信息保護(hù)法》的相關(guān)規(guī)定，包括但不限于應(yīng)當(dāng)獲取個(gè)人信息主體同意等。
3. 避免侵犯知識(shí)產(chǎn)權(quán)
【要點(diǎn)】
除了數(shù)據(jù)之外，還需要關(guān)注語(yǔ)料所涉及的知識(shí)產(chǎn)權(quán)問(wèn)題，特別是相關(guān)的著作權(quán)、商標(biāo)和商業(yè)秘密。技術(shù)支持者對(duì)于其用于開(kāi)展技術(shù)開(kāi)發(fā)的語(yǔ)料應(yīng)擁有原始作品的著作權(quán)或其他知識(shí)產(chǎn)權(quán)，或應(yīng)當(dāng)獲得充分的許可。
【相應(yīng)措施】
技術(shù)支持者在獲取、處理和使用原始語(yǔ)料時(shí)，必須采取合法手段，確保獲得的授權(quán)是完整、全面的，不僅包括對(duì)語(yǔ)料的復(fù)制權(quán)等著作權(quán)，還應(yīng)當(dāng)根據(jù)生成式人工智能的特性，結(jié)合具體的使用需求考慮獲得原始語(yǔ)料的改編權(quán)和匯編權(quán)等權(quán)利。同時(shí)，考慮到部分語(yǔ)料可能還涉及商業(yè)秘密等需要保密的信息，還應(yīng)當(dāng)采取適當(dāng)保密措施。
此外，在技術(shù)加工的各個(gè)環(huán)節(jié)都應(yīng)針對(duì)知識(shí)產(chǎn)權(quán)的問(wèn)題進(jìn)行審查，從而避免行為侵犯知識(shí)產(chǎn)權(quán)。例如，根據(jù)《AIGC安全要求》，技術(shù)支持者應(yīng)設(shè)置語(yǔ)料以及生成內(nèi)容的知識(shí)產(chǎn)權(quán)負(fù)責(zé)人，并建立知識(shí)產(chǎn)權(quán)管理策略。因此，技術(shù)支持者可以考慮指派具有專業(yè)知識(shí)的人員或團(tuán)隊(duì)，負(fù)責(zé)處理與語(yǔ)料相關(guān)的知識(shí)產(chǎn)權(quán)事宜，同時(shí)建立知識(shí)產(chǎn)權(quán)相關(guān)管理策略，明確在技術(shù)開(kāi)發(fā)過(guò)程中對(duì)于語(yǔ)料使用的知識(shí)產(chǎn)權(quán)識(shí)別、分類、審查和合規(guī)性措施，確保所有使用的語(yǔ)料符合知識(shí)產(chǎn)權(quán)相關(guān)的法律法規(guī)。
4. 提高訓(xùn)練數(shù)據(jù)質(zhì)量
【要點(diǎn)】
根據(jù)《AIGC暫行辦法》第七條，生成式人工智能服務(wù)提供者依法開(kāi)展訓(xùn)練數(shù)據(jù)處理活動(dòng)時(shí)，應(yīng)當(dāng)采取有效措施提高訓(xùn)練數(shù)據(jù)質(zhì)量，增強(qiáng)訓(xùn)練數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性、多樣性。
【相應(yīng)措施】
技術(shù)支持者應(yīng)采取一系列綜合性措施以提升數(shù)據(jù)的整體質(zhì)量，例如事先擬定提高訓(xùn)練數(shù)據(jù)質(zhì)量的基本要求，包括可采取的技術(shù)措施與質(zhì)量提高目標(biāo)，從而在實(shí)際技術(shù)開(kāi)發(fā)過(guò)程中匹配恰當(dāng)?shù)拇胧?/span>
5. 注重?cái)?shù)據(jù)標(biāo)注合規(guī)
【要點(diǎn)】
根據(jù)《AIGC暫行辦法》第八條，在技術(shù)研發(fā)過(guò)程中進(jìn)行數(shù)據(jù)標(biāo)注的，應(yīng)當(dāng)履行相應(yīng)的數(shù)據(jù)標(biāo)注合規(guī)義務(wù)。
【相應(yīng)措施】
技術(shù)支持者需建立健全數(shù)據(jù)標(biāo)注管理制度，明確數(shù)據(jù)標(biāo)注過(guò)程中的各項(xiàng)管理與安全要求，規(guī)范實(shí)踐中的數(shù)據(jù)標(biāo)注活動(dòng)，從而全面履行其自身的訓(xùn)練語(yǔ)料數(shù)據(jù)合規(guī)義務(wù)。具體可以結(jié)合《AIGC安全要求》、《信息安全技術(shù) 生成式人工智能數(shù)據(jù)標(biāo)注安全規(guī)范（征求意見(jiàn)稿）》等相關(guān)規(guī)定、規(guī)范中的進(jìn)一步要求進(jìn)行考量。例如，技術(shù)支持者在語(yǔ)料標(biāo)準(zhǔn)方面應(yīng)實(shí)施嚴(yán)格的管理措施，包括制定標(biāo)注規(guī)則、開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估并核驗(yàn)標(biāo)注內(nèi)容準(zhǔn)確性以及對(duì)標(biāo)注人員進(jìn)行選拔與培訓(xùn)，確保標(biāo)注任務(wù)有充足合理的時(shí)間完成。標(biāo)注規(guī)則需要明確標(biāo)注目標(biāo)、數(shù)據(jù)格式、方法和質(zhì)量標(biāo)準(zhǔn)，同時(shí)區(qū)分功能性與安全性標(biāo)注，并確保規(guī)則覆蓋數(shù)據(jù)標(biāo)注和審核環(huán)節(jié)，滿足特定要求。開(kāi)展數(shù)據(jù)標(biāo)注質(zhì)量評(píng)估核驗(yàn)時(shí)應(yīng)采取人工抽檢和審核的方式，確保標(biāo)注的準(zhǔn)確性，對(duì)違法不良信息進(jìn)行嚴(yán)格處理，并對(duì)安全性標(biāo)注數(shù)據(jù)進(jìn)行隔離存儲(chǔ)，以降低主要安全風(fēng)險(xiǎn)。
6. 遵守倫理要求
技術(shù)支持者在技術(shù)開(kāi)發(fā)過(guò)程中需要特別注重所使用語(yǔ)料的倫理相關(guān)要求，具體而言：
【要點(diǎn)】
根據(jù)《AIGC暫行辦法》第四條，在訓(xùn)練數(shù)據(jù)選擇等過(guò)程中，相關(guān)主體需采取有效措施防止產(chǎn)生民族、信仰、國(guó)別、地域、性別、年齡、職業(yè)、健康等歧視。
【相應(yīng)措施】
大模型廠商等主體在將標(biāo)準(zhǔn)語(yǔ)料用于大模型訓(xùn)練時(shí)，有必要通過(guò)機(jī)器篩選、人工核驗(yàn)等各類可行的方式篩除可能含有歧視的內(nèi)容。考慮到在實(shí)踐中大模型廠商可能會(huì)通過(guò)上游語(yǔ)料加工商獲取語(yǔ)料，相關(guān)主體在與語(yǔ)料加工商達(dá)成訓(xùn)練語(yǔ)料采購(gòu)/委托定制等合作協(xié)議時(shí)，可以考慮通過(guò)協(xié)議約定要求其先行對(duì)擬交付的原始語(yǔ)料、標(biāo)準(zhǔn)語(yǔ)料進(jìn)行歧視性內(nèi)容篩除工作，協(xié)助防范內(nèi)容歧視風(fēng)險(xiǎn)。
7. 防止技術(shù)濫用
【要點(diǎn)】
關(guān)于倫理的問(wèn)題，需要和技術(shù)濫用的問(wèn)題并行考慮。“技術(shù)濫用”是指在開(kāi)發(fā)、部署或應(yīng)用人工智能技術(shù)過(guò)程中，任何違背法律規(guī)范、倫理標(biāo)準(zhǔn)或社會(huì)價(jià)值觀并可能對(duì)個(gè)人、社會(huì)或環(huán)境造成負(fù)面損害的行為。
【相應(yīng)措施】
對(duì)于技術(shù)支持者而言，可以從下述幾個(gè)方面構(gòu)建技術(shù)濫用的責(zé)任框架：
| 要點(diǎn) |
具體要求 |
| 責(zé)任主體的明確 |
確立技術(shù)開(kāi)發(fā)者、部署者、使用者及第三方的責(zé)任界限，確保在AI技術(shù)失誤或?yàn)E用時(shí)，能夠準(zhǔn)確識(shí)別責(zé)任主體。 |
| 合規(guī)性與風(fēng)險(xiǎn)管理 |
技術(shù)支持者應(yīng)遵守相關(guān)的法律法規(guī)，并實(shí)施有效的風(fēng)險(xiǎn)管理措施，包括對(duì)AI系統(tǒng)進(jìn)行定期的合規(guī)性審查和風(fēng)險(xiǎn)評(píng)估。 |
| 技術(shù)審計(jì)與測(cè)試 |
定期對(duì)AI系統(tǒng)進(jìn)行技術(shù)審計(jì)和測(cè)試，評(píng)估其性能和安全性，確保沒(méi)有技術(shù)失誤或?yàn)E用的風(fēng)險(xiǎn)。 |
| 補(bǔ)救措施與應(yīng)急預(yù)案 |
制定補(bǔ)救措施和應(yīng)急預(yù)案，以便在發(fā)生技術(shù)失誤或?yàn)E用時(shí)迅速響應(yīng)，減輕對(duì)用戶和第三方的影響。 |
8. 提高語(yǔ)料數(shù)據(jù)加工的透明度和可解釋性
【要點(diǎn)】
作為確保人工智能系統(tǒng)公正、可信賴的關(guān)鍵，人工智能的透明度和可解釋性原則要求人工智能系統(tǒng)的決策過(guò)程、算法邏輯、數(shù)據(jù)使用和結(jié)果輸出是清晰、易于理解的，并能夠提供對(duì)其決策過(guò)程和結(jié)果的清晰解釋。
【相應(yīng)措施】
技術(shù)支持者應(yīng)當(dāng)考慮向用戶提供針對(duì)AI輸出的控制和反饋機(jī)制，增強(qiáng)用戶對(duì)系統(tǒng)的信任，同時(shí)為監(jiān)管機(jī)構(gòu)提供必要的信息以確保合規(guī)性和倫理標(biāo)準(zhǔn)得到遵守。
二、 服務(wù)提供者角度
在生成式人工智能技術(shù)支持者對(duì)相關(guān)大模型技術(shù)研究、開(kāi)發(fā)和優(yōu)化完成后，服務(wù)提供者會(huì)將已經(jīng)搭建好的模型集成到應(yīng)用程序中，并向最終用戶提供終端服務(wù)。《AIGC暫行辦法》明確要求，提供和使用生成式人工智能服務(wù)，應(yīng)當(dāng)遵守法律、行政法規(guī)，尊重社會(huì)公德和倫理道德。因此，服務(wù)提供者應(yīng)當(dāng)履行相應(yīng)的內(nèi)容相關(guān)的合規(guī)義務(wù)。具體如下：
1. 進(jìn)一步的內(nèi)容管理與審核
(1) 進(jìn)一步確保模型的合規(guī)
【要點(diǎn)】
服務(wù)提供者應(yīng)對(duì)技術(shù)支持者所提供的模型進(jìn)行一定的審查，包括其數(shù)據(jù)來(lái)源、模型是否符合《AIGC暫行辦法》等相關(guān)法律規(guī)范對(duì)技術(shù)開(kāi)發(fā)者數(shù)據(jù)處理的規(guī)定等。
【相應(yīng)措施】
除了進(jìn)行一定程度的審查之外，在與技術(shù)支持者簽署的相關(guān)協(xié)議中，服務(wù)提供者也可以明確要求技術(shù)支持方具有相應(yīng)的從業(yè)資質(zhì)、確保數(shù)據(jù)來(lái)源合法合規(guī)且權(quán)屬清晰，同時(shí)搭配相應(yīng)的瑕疵擔(dān)保和違約責(zé)任等。
(2) 確保模型生成的內(nèi)容合規(guī)
【要點(diǎn)】
根據(jù)《AIGC暫行辦法》、《深度合成管理規(guī)定》等法律法規(guī)，服務(wù)提供者應(yīng)當(dāng)對(duì)生成的內(nèi)容進(jìn)行安全審查。服務(wù)提供者未盡審核管理義務(wù)而違反內(nèi)容合規(guī)相關(guān)法律法規(guī)要求，可能面臨相應(yīng)的行政處罰。例如，2024年5月，因?qū)俚匾?/span>AI服務(wù)企業(yè)未盡到審核管理義務(wù)、履行主體責(zé)任不到位，違規(guī)生成法律法規(guī)禁止的信息，重慶九龍坡區(qū)網(wǎng)信辦依據(jù)《中華人民共和國(guó)網(wǎng)絡(luò)安全法》給予其行政警告處罰，并責(zé)令該公司限期全面整改，加強(qiáng)信息內(nèi)容審核，健全信息內(nèi)容安全管理相關(guān)制度，暫停網(wǎng)站信息更新及AI算法生成式寫(xiě)作功能15日。
【相應(yīng)措施】
服務(wù)提供者可采用關(guān)鍵詞識(shí)別、人工抽檢等方式對(duì)生成的內(nèi)容進(jìn)行安全審查，過(guò)濾掉違法不良信息以及涉及知識(shí)產(chǎn)權(quán)侵權(quán)的內(nèi)容。當(dāng)收到用戶投訴或者通過(guò)其他方式被告知平臺(tái)生成的內(nèi)容違法時(shí)，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改，并向有關(guān)主管部門(mén)報(bào)告。
服務(wù)提供者還可對(duì)用戶輸入的內(nèi)容進(jìn)行安全性檢測(cè)，若檢測(cè)出用戶輸入的內(nèi)容可能涉及違規(guī)時(shí)，應(yīng)及時(shí)向用戶提供關(guān)于合規(guī)使用的指導(dǎo)以及風(fēng)險(xiǎn)提示，引導(dǎo)用戶輸入合法合規(guī)的內(nèi)容。
(3) 對(duì)生成的內(nèi)容進(jìn)行標(biāo)識(shí)
【要點(diǎn)】
根據(jù)《深度合成管理規(guī)定》，“深度合成服務(wù)”是指利用深度學(xué)習(xí)技術(shù)，特別是生成對(duì)抗網(wǎng)絡(luò)（GANs）和其他合成算法，來(lái)創(chuàng)建或修改數(shù)字內(nèi)容，以生成逼真的圖像、視頻、音頻或文本的服務(wù)。具體類型包括模擬自然人進(jìn)行文本的生成或者編輯服務(wù)、語(yǔ)音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)等。服務(wù)提供者在提供可能導(dǎo)致公眾混淆或者誤認(rèn)的深度合成服務(wù)時(shí)，還應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識(shí)，向公眾提示深度合成情況。
【相應(yīng)措施】
服務(wù)提供者可以在生成或編輯的數(shù)字內(nèi)容上明確標(biāo)注“深度合成”或“此內(nèi)容經(jīng)過(guò)合成”等字樣，使用戶能夠一眼識(shí)別內(nèi)容的合成性質(zhì)。具體而言，在提供如圖像、視頻或音頻等形式的深度合成內(nèi)容時(shí)，可以在用戶容易注意到的合理位置嵌入透明或半透明的水印，標(biāo)明內(nèi)容為深度合成，不影響觀看體驗(yàn)的同時(shí)起到提示作用。確保用戶在使用深度合成服務(wù)時(shí)，能夠清楚地識(shí)別內(nèi)容是否經(jīng)過(guò)合成，從而做出相應(yīng)的判斷和選擇。
(4) 建立和完善用戶反饋機(jī)制
【要點(diǎn)】
根據(jù)《AIGC暫行辦法》，服務(wù)提供者應(yīng)當(dāng)建立和完善用戶反饋機(jī)制。用戶反饋機(jī)制是保護(hù)用戶合法權(quán)益的重要手段，能夠確保用戶在遇到問(wèn)題時(shí)有途徑表達(dá)和尋求解決方案，也有助于服務(wù)提供者及時(shí)了解服務(wù)的優(yōu)點(diǎn)和不足、及時(shí)管理和預(yù)防潛在的風(fēng)險(xiǎn)，從而不斷改進(jìn)和優(yōu)化相關(guān)服務(wù)，促進(jìn)內(nèi)容合規(guī)的進(jìn)一步完善。
【相應(yīng)措施】
服務(wù)提供者可以在提供相關(guān)服務(wù)的平臺(tái)的顯眼位置設(shè)置便捷的投訴、舉報(bào)等反饋入口，并提供在線表單、電子郵件、電話、社交媒體等多種反饋方式，確保用戶可以多渠道及時(shí)反饋。對(duì)于用戶的投訴、舉報(bào)，服務(wù)提供者應(yīng)及時(shí)受理，根據(jù)用戶反饋的內(nèi)容對(duì)模型和安全審查機(jī)制進(jìn)行優(yōu)化處理，同時(shí)也可視情況將處理結(jié)果反饋給相關(guān)用戶。
(5) 遵守《個(gè)人信息保護(hù)法》等相關(guān)規(guī)定
【要點(diǎn)】
與技術(shù)支持者不同的是，服務(wù)提供者作為直接面向用戶的一方，需要特別關(guān)注用戶相關(guān)的個(gè)人信息保護(hù)，在收集、使用用戶個(gè)人信息的過(guò)程中，應(yīng)維護(hù)用戶權(quán)益、確保用戶信任，遵守《個(gè)人信息保護(hù)法》的規(guī)定。
【相應(yīng)措施】
服務(wù)提供者應(yīng)制定清晰、透明的隱私政策，明確告知用戶個(gè)人信息的收集目的、使用方式、共享范圍和存儲(chǔ)期限，并且一般僅收集提供服務(wù)所必需的最少個(gè)人信息，除獲得用戶的明確同意外，應(yīng)限制對(duì)敏感個(gè)人信息的收集。服務(wù)提供者可以采用具有高標(biāo)準(zhǔn)數(shù)據(jù)安全措施的系統(tǒng)收集、存儲(chǔ)和處理用戶個(gè)人信息，防止數(shù)據(jù)泄露、濫用或未經(jīng)授權(quán)的訪問(wèn)。另外，服務(wù)提供者亦可建立快速響應(yīng)機(jī)制，確保一旦發(fā)生相關(guān)數(shù)據(jù)泄露或其他安全事件，能夠立即采取行動(dòng)，減輕損害。
2. 用戶協(xié)議和用戶權(quán)益保護(hù)的內(nèi)容合規(guī)
【要點(diǎn)】
除了以上服務(wù)提供過(guò)程中的內(nèi)容管理與審核要點(diǎn)外，對(duì)于服務(wù)提供者而言，面向用戶的過(guò)程中還會(huì)涉及用戶協(xié)議和用戶權(quán)益保護(hù)的事項(xiàng)，亦需要考慮相關(guān)的要點(diǎn)和措施。
【相應(yīng)措施】
(1) 免責(zé)聲明
服務(wù)提供者可以在用戶協(xié)議中注明其所使用的數(shù)據(jù)或基礎(chǔ)模型的來(lái)源方，并進(jìn)行免責(zé)聲明，服務(wù)提供者不承擔(dān)因這些原始數(shù)據(jù)或模型本身的合規(guī)性問(wèn)題而可能產(chǎn)生的任何直接或間接責(zé)任，以保護(hù)自己免受因原始語(yǔ)料數(shù)據(jù)的技術(shù)應(yīng)用可能引發(fā)的法律問(wèn)題。
(2) 明確用戶的權(quán)利
| 要點(diǎn) |
相應(yīng)措施 |
| 明確授權(quán) |
針對(duì)用戶輸入的內(nèi)容，若AIGC服務(wù)提供者需要使用輸入內(nèi)容進(jìn)行模型優(yōu)化，則需要在用戶協(xié)議中明確約定使用用戶輸入內(nèi)容的范圍和目的，并就輸入內(nèi)容的后續(xù)使用獲得用戶的明確授權(quán)。 |
| 知情權(quán) |
服務(wù)提供者應(yīng)確保用戶在個(gè)人信息（包含敏感個(gè)人信息、跨境個(gè)人信息）方面的知情權(quán)，并就后續(xù)對(duì)個(gè)人信息的使用獲得用戶的同意，同時(shí)需以顯著方式并用清晰易懂的語(yǔ)言真實(shí)、準(zhǔn)確、完整地向個(gè)人告知相關(guān)事項(xiàng)，包括個(gè)人信息處理者的名稱或者姓名和聯(lián)系方式，個(gè)人信息的處理目的、處理方式，處理的個(gè)人信息種類、保存期限等。 |
| 生成內(nèi)容歸屬 |
對(duì)于生成內(nèi)容的權(quán)利歸屬，全球主流的AIGC產(chǎn)品對(duì)于生成內(nèi)容權(quán)屬有不同的約定方式，具體情形包括：權(quán)利全部歸屬于用戶、權(quán)利歸屬于用戶但軟件開(kāi)發(fā)者取得授權(quán)、權(quán)利歸屬于軟件開(kāi)發(fā)者但用戶取得授權(quán)、以是否付費(fèi)確定權(quán)利歸屬于用戶、流入公有領(lǐng)域。約定權(quán)利歸屬的目的是規(guī)避平臺(tái)的侵權(quán)風(fēng)險(xiǎn)，同時(shí)平衡商業(yè)利益。 |
(3) 明確用戶的義務(wù)及責(zé)任承擔(dān)
服務(wù)提供者應(yīng)明確用戶的義務(wù)，確保用戶輸入的內(nèi)容不含有違反法律法規(guī)或公序良俗的信息，并且應(yīng)當(dāng)合法使用AI生成的內(nèi)容，不得利用生成的內(nèi)容從事違法活動(dòng)或侵犯他人權(quán)利。同時(shí)，對(duì)因用戶使用服務(wù)或者違反用戶協(xié)議規(guī)定而引起的法律責(zé)任由用戶承擔(dān)。
(4) 明確告知用戶問(wèn)題反饋和處理方法
依據(jù)《AIGC暫行辦法》，人工智能大模型的服務(wù)提供者應(yīng)告知用戶具體的投訴路徑以及平臺(tái)應(yīng)對(duì)投訴的處理流程、期限，并確定糾紛解決機(jī)制，包括仲裁條款等，確保用戶知曉其投訴將得到有效處理。