網上投稿
（本指引于 2025年8月12日上海市律師協會業務研究指導委員會通訊表決通過，試行一年。試行期間如有任何修改建議，請點擊此處反饋）
第一章 總則
為推動居（村）法律顧問等公共法律服務均衡性、可及性目標實現，進一步發揮AI智慧助理和隨身法學院作用，提升本市律師AI使用水平，防范AI使用重大風險，根據《中華人民共和國律師法》《中華人民共和國個人信息保護法》《律師執業管理辦法》《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》《人工智能生成合成內容標識辦法》以及《上海市公共法律服務辦法》等法律法規和規范的規定，制定本指引。
本指引旨在為上海律師運用AI工具提供居（村）法律顧問服務提供借鑒和參考。
本指引適用于上海律師在提供法治宣傳、法律咨詢、文書起草等居（村）法律顧問服務時各類AI工具的使用。上海律師在公共法律服務的其它場景中使用AI工具可參考本指引的意見。
本指引制定的基準日為2025年6月1日，以該基準日公開市場常見的AI工具的相關特性和表現作為制定背景和依據。鑒于AI高速迭代的特點，本指引的部分觀點和意見存在時空局限性，使用者應根據使用AI工具時的實際情況作相應調整。
4.1 公共法律服務
本指引所稱公共法律服務，指由司法行政機關統籌提供，旨在保障公民基本權利，維護人民群眾合法權益，實現社會公平正義和保障人民安居樂業所必需的法律服務。
4.2 居（村）法律顧問服務
本指引所稱居（村）法律顧問服務，指在司法行政部門的統籌組織下，由律師提供的法治宣傳、法律咨詢、糾紛調解等公益性法律服務。
4.3 當事人
本指引所稱當事人，指居（村）法律顧問服務的服務對象，主要包括居（村）基層組織、居（村）民以及法律法規規定的其他組織。
4.4 AI工具
本指引所稱AI工具，指基于人工智能技術開發，能夠模擬、延伸和擴展人類智能，輔助或替代人類完成特定任務的軟件、硬件或系統，其核心功能是通過算法和數據處理，實現自動化決策、問題解決、模式識別、語言理解、圖像分析等功能，提升效率、優化流程或提供智能化服務。
4.5 AI幻覺
本指引所稱AI幻覺，指AI工具在缺乏充分事實依據或驗證機制的情況下，生成表面合理、可信但實際錯誤、虛構或矛盾的信息。在公共法律服務領域，AI幻覺主要表現為AI工具編造虛假不存在的法律條文或案例。
4.6 算法偏見
本指引所稱算法偏見，指AI系統因訓練數據、設計或其他原因導致的歧視性輸出，其在種族、性別、年齡或其他受保護特征上的偏見可能對個人或群體造成不公平影響。
4.7本地化部署
本指引所稱本地化部署，指將AI系統、數據及相關應用程序部署在用戶自有或控制支配的物理服務器上，系統運行、數據的存儲和處理完全在本地環境內完成。此模式適用于對數據安全性、延遲率、合規性或定制化有嚴格要求的場景。
4.8脫敏
本指引所稱脫敏，指對可以定位或識別出具體當事人的信息進行刪除、遮蔽或替代等保護性處理，使其無法精確關聯到特定當事人。
AI工具普遍采用云端部署模式，當事人的信息數據經由輸入接口即被AI服務商采集存儲，存在因系統設計缺陷、存儲介質管理不善、管理疏漏、黑客攻擊等原因造成的信息數據安全風險。部分AI服務商制定的用戶協議中約定其對用戶數據享有使用權、第三方共享權及內容審查權，存在當事人隱私、信息數據泄露和不當使用的風險。
律師提供居（村）法律顧問服務過程中，未經當事人同意，擅自將包含當事人隱私或信息數據的文件資料上傳至云端的，可能導致權利人隱私、信息數據的泄露和不當使用。
AI工具可能存在數據滯后和數據源不可靠等問題，導致其錯誤地引用已廢止、已修訂甚至錯誤的法律法規，進而導致輸出結果不準確。目前AI工具尚難以及時、全面、準確地反映司法實踐的變化，可能造成其輸出結果與當前主流裁判結論相背離。AI工具可能存在虛構法律法規或案例等AI幻覺問題，導致其輸出結果錯誤或失準。
律師作為專業服務人員，不應輕信和過分依賴AI工具。律師在提供居（村）法律顧問服務過程中未盡合理審核義務的，可能需承擔相應的法律責任。
AI工具訓練數據偏差、算法設計缺陷、代理數據偏見、評估偏差以及AI討好迎合使用者的設計邏輯均可能導致算法偏見。AI算法的復雜性與不透明性可能造成算法偏見無法被有效識別和及時糾正，可能影響相關人員對公共法律服務公平性、正當性的信賴。
律師在提供居（村）法律顧問服務過程中應公正、公平地對待他人，尊重當事人、司法程序和司法人員，律師不加審核地直接使用包含算法偏見的AI輸出結論，存在執業風險。
AI工具的輸出成果若未能體現律師的獨創性智力投入，則該輸出成果可能因缺乏獨創性而難以獲得著作權保護。部分AI服務商的用戶協議對輸出成果的知識產權歸屬可能另有約定。
AI訓練數據中若涉及未經授權的內容，律師使用此類工具生成輸出成果，存在侵犯他人合法權利的風險。
第九條 【技術依賴與專業能力退化】
長期過度依賴AI工具，可能導致律師忽視自身專業知識積累和技能提升，削弱律師法律分析、邏輯推理和溝通協調等核心專業能力，降低律師專業服務水平，導致律師淪為AI工具的“發聲器”和“傳聲筒”。
第十條 【合法合規原則】
律師在居（村）法律顧問服務過程中使用 AI 工具，應遵守法律、行政法規，尊重社會公德和倫理道德，并遵循以下原則：
（一） 律師應堅持社會主義核心價值觀，不得利用、引導AI工具檢索、生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容；
（二） 在訓練數據選擇、模型生成和服務提供過程中，律師應采取有效措施防止產生民族、信仰、國別、地域、性別、年齡、職業、健康等歧視或偏見；
（三） 律師應尊重他人合法權益，不得利用AI工具實施侵權行為或不正當競爭行為。
律師使用AI工具，應遵守職業道德，在法律法規允許的范圍內最大限度維護當事人的合法權益。律師應對AI工具輸出結果的使用效果進行分析評估，發現輸出結果對當事人不利的，應如實告知當事人。未經當事人同意，不得將可能對當事人產生不利后果的AI工具輸出結果直接用于法律服務。
律師使用AI工具，應采取合理必要措施防止個人隱私、商業秘密、國家秘密的泄露。鼓勵有條件的律師事務所、律師通過AI工具的本地化部署等方式加強對當事人隱私、個人信息、商業秘密等信息數據的保護。
第十三條 【專業負責原則】
律師應堅持AI工具僅作為法律服務輔助工具的定位，應對AI工具生成的輸出結果進行專業審核，應采取必要措施防范AI幻覺和算法偏見，律師應對其向當事人交付的服務成果負責。
律師應使用已按《互聯網信息服務算法推薦管理規定》等法律法規規定履行備案手續的AI工具。
律師使用AI工具前，應核對AI工具服務商提供的用戶協議，確認AI工具使用過程中所獲取的相關信息的權利歸屬和披露規則，不輕信AI工具在人機對話過程中給予的承諾。
律師應審慎地處理當事人提供的各類信息，并遵守以下規范：
(一) 向部署在云端的AI工具提供當事人信息的，應事先征得當事人的同意，已在合理的范圍內由當事人自行公開或者經其他合法途徑公開的除外；
(二) 向部署在云端的AI工具上傳相關案件信息和資料的，應事先對標識信息作脫敏處理；
(三) 生物識別、宗教信仰、特定身份、醫療健康、金融賬戶、行蹤軌跡等信息以及不滿十四周歲未成年人的個人信息屬于敏感個人信息，即便有當事人的同意，律師也不宜向部署在云端的AI工具提供。
鼓勵律師使用本地化的脫敏工具。非本地化部署的脫敏工具仍然存在信息泄露風險，律師應謹慎使用聯機模式下的第三方脫敏工具。
AI工具輸出結果前，律師可從以下兩個方面加強質量控制：
（一） 通過信息源限定、重新生成結果、更換提示詞、預設審查清單、多輪指令交互、結合使用多個AI工具等方式提高輸出結果的準確性。
（二） 有條件的律師事務所、律師可建立公共法律服務專項知識庫，通過限制AI工具僅可引用專項知識庫內容等方式來提升AI工具輸出結果的準確性，最大程度減少AI幻覺。
AI工具輸出結果后，律師可從以下三個方面加強質量控制：
（一） 通過官方數據庫或權威法律檢索平臺交叉驗證AI工具引用的法律條文或案例，確保法律條文和案例的真實性、有效性和時效性，防范AI幻覺。
（二） 依據公序良俗和執業經驗對AI工具所輸出的結果進行分析判斷，防范算法偏見和價值觀背離。
（三） 對AI工具輸出結果的表達方式進行審核，確保用語和格式規范。
第十七條 【記錄與存檔】
律師應記錄AI工具的使用情況，包括但不限于輸入信息、生成結果、審查修改過程等信息，妥善保存相關電子數據和文件，以便核查追溯。
律師應不斷加強自主學習，避免過度依賴AI工具導致自身專業能力退化。
鼓勵律師在法治宣傳中充分發揮AI工具制作培訓PPT、宣傳海報、漫畫手冊、思維導圖、信息圖（一圖讀懂）等宣傳教育資料的優勢，生成合成符合居（村）法律顧問服務需求特點的可視化內容，提升法治宣傳教育效果。
律師使用網絡信息內容傳播服務或在公開場合發布AI工具生成合成的法治宣傳可視化內容的，應按《人工智能生成合成內容標識辦法》第十條的規定，主動聲明并使用服務提供者提供的標識功能進行標識，避免公眾混淆或者誤認，不得惡意刪除、篡改、偽造、隱匿生成合成內容標識，不得為他人實施上述惡意行為提供工具或者服務，不得通過不正當標識手段損害他人合法權益。
律師應在人機對話指令中明確要求AI工具不得杜撰法律條文和案例。律師可向AI工具提供規范準確的法律條文并要求AI工具嚴格按照所提供的條文進行可視化內容的生成合成。
律師使用AI工具生成合成可視化內容的，應從以下方面對AI工具的輸出成果進行復核：
（一）可視化成果不宜直接展現真實人物的面部信息，避免引發與容貌相似者的混淆，確需展現人物面部信息的，可通過卡通、漫畫等虛擬方式實現；
（二）可視化內容應避免產生任何與民族、宗教、地域、性別、職業偏見有關的誤解，不得制造和激化矛盾；
（三）應對AI工具自行搜索生成合成的法律法規條文和案例的真實性、準確性、時效性進行復核，防范AI幻覺；
（四）AI工具生成合成的可視化內容易產生亂碼和錯別字，需加以復核修正。
律師以可視化方式提供法治宣傳服務的，應將可視化內容事先提交活動組織方審核備案。
鼓勵律師充分發揮AI工具在政策法規沿革梳理、新舊法條對比分析、關聯案例檢索以及大文件快速處理等方面的優勢，提升咨詢服務效能和當事人滿意度。
律師應結合自身專業和經驗為當事人提供咨詢服務。律師對當事人所咨詢的問題無法當場給予答復的，可與當事人另行約定服務時間。律師可圍繞當事人咨詢問題的爭議焦點和需求目的，合理設定AI工具的問答提示詞，在AI工具的幫助下盡快形成答復意見，及時回復當事人，提升當事人滿意度。
律師可圍繞以下五個方面進行問答提示詞的設定，以便AI工具全面、準確理解咨詢問題和咨詢目的，進而輸出高質量的問答結果：
（一）明確提問者的角色定位，便于AI了解其是作為何種身份解答咨詢問題，基于特定身份設定的思考邏輯和角度會有所區別；
（二）明確AI使用的地域范圍、具體場景、服務對象和服務目的；
（三）明確所涉及的法律專業領域；
（四）律師基于自身經驗已形成關于爭議焦點問題的初步歸納或懷疑的，可要求AI工具圍繞該焦點問題開展對抗性檢索和分析；
（五）明確輸出結果的體例、字數和形式。
律師可使用AI工具搭建AI提示詞智能體，通過提前設置的程序，結合當事人咨詢的具體問題，快速輸出高質量的問答提示詞。
律師可參考本指引第二十五條內容，按角色、任務、目標、背景、困境、格式、關聯條款七個維度設置智能體搭建指標，并對每個維度的輸出結果提出具體要求。
鼓勵律師充分發揮AI工具在標準化文件閱讀、文件模板調用、行業知識檢索以及文字處理輸出方面的優勢，提升文書起草服務的效能和當事人滿意度。
律師使用AI工具生成各類文書時，可根據自身專業和經驗先行歸納爭議焦點或核心觀點，再要求AI工具圍繞爭議焦點或核心觀點進行補充完善，以提升文書生成結果的質量。
律師向AI工具提供文書起草所需的文件資料時，應保護當事人的隱私、信息數據和商業秘密。未經當事人同意，律師不得實施以下行為：
（一）將未經脫敏的判決書、裁定書、裁決書等司法文件直接提供給非本地化部署的AI工具，由非本地化部署的AI工具直接生成上訴狀、執行申請書、異議申請書等法律文書；
（二）將未經脫敏的身份證、產權證、機動車行駛證等信息資料直接提供給非本地化部署的AI工具，由非本地化部署的AI工具生成相關協議；
（三）將未經脫敏的聊天記錄、視頻照片直接提供給非本地化部署的AI工具，由非本地化部署的AI工具生成起訴狀、證據目錄等法律文書；
（四）未經當事人同意，將包含當事人隱私、個人信息、商業秘密的其它資料上傳至非本地化部署的AI工具；
（五）其它可能侵害當事人隱私、信息數據和商業秘密的情形。
律師應從以下四個方面對AI工具生成的文書成果進行審核并改進：
（一）AI工具生成的文書內容不利于當事人甚至可能損害當事人合法權益的，律師應及時告知當事人，未經當事人同意，不得擅自使用上述文書成果；
（二）律師可使用AI工具幫助查明當事人訴請的請求權基礎，發生請求權競合的情況時，律師應運用自身專業知識和執業經驗，充分告知當事人不同請求權基礎的利弊并給予建議，確保當事人的知情權和決定權；
（三）律師應審查當事人的訴訟請求是否超過訴訟時效或者仲裁申請時效，并主動對當事人進行風險提示；
（四）對AI工具生成的各類數字（金額）計算結果，律師需進行復核，防止計算錯誤。
在滿足隱私和信息數據保護的前提下，鼓勵律師使用AI工具為當事人的訴訟（仲裁）文書制作提供可視化服務，方便人民法院、仲裁機構查明案件事實。
本指引由上海市律師協會社會公共服務專業委員會起草，并非強制性或規范性規定，僅供本市律師執業參考。
1、 《司法部關于推進公共法律服務體系建設的意見》（2014年1月20日 司發〔2014〕5號），https://www.moj.gov.cn/policyManager/policy_index.html?showMenu=false&showFileType=2&pkid=0d43fc9ce5a54177b6dc0df0995a430a，最后訪問于2025年6月19日。
2、 《司法部關于進一步加強和規范村（居）法律顧問工作的意見》（2018年6月15日 司發〔2018〕5號），https://www.moj.gov.cn/policyManager/policy_index.html?showMenu=false&showFileType=2&pkid=2ac14879334e4ac0acbe32a950ac8f39，最后訪問于2025年6月19日。
3、 司法部關于印發《公共法律服務事項清單》的通知（2019年9月27日 司發通〔2019〕97號），https://www.moj.gov.cn/policyManager/policy_index.html?showMenu=false&showFileType=2&pkid=90e1c74916724e3f8421337e4f4f166d，最后訪問于2025年6月19日。
4、 關于印發《關于推進本市居村（社區）法律顧問工作的意見》的通知 （滬司發〔2017〕93號），https://sfj.sh.gov.cn/2020xxgkml_zdgkml/20201102/17e949ae0cb343858ea890bd7e4ffa43.html，最后訪問于2025年6月19日。
5、 《什么是AI幻覺？》，IBM，https://www.ibm.com/cn-zh/think/topics/ai-hallucinations，最后訪問于2025年6月19日。
6、 《什么是算法偏見？》，IBM，https://www.ibm.com/cn-zh/think/topics/ai-hallucinations，最后訪問于2025年6月19日。
7、 歐盟《人工智能法案》，https://artificialintelligenceact.eu/the-act/，最后訪問于2025年6月19日。
8、 國際標準化組織（ISO）與國際電工委員會（IEC）《ISO/IEC 22989:2022 人工智能 概念和術語》，https://www.iso.org/standard/74296.html，最后訪問于2025年6月19日。
9、 美國國家標準與技術研究院《人工智能風險管理框架》，https://www.nist.gov/itl/ai-risk-management-framework，最后訪問于2025年6月19日。
10、 歐盟《通用數據保護條例》，https://gdpr-info.eu/，最后訪問于2025年6月19日。
11、 美國律師協會道德和專業責任常設委員會《關于生成式人工智能使用的正式意見》，https://www.americanbar.org/news/abanews/aba-news-archives/2024/07/aba-issues-first-ethics-guidance-ai-tools/，最后訪問于2025年6月19日。
萬妍伶 上海市光大律師事務所
于崇洋 北京盈科（上海）律師事務所
馬曉偉 上海市聯合律師事務所
王秋峰 上海申同律師事務所
毛小剛 上海四維樂馬律師事務所
車穩前 北京金誠同達（上海）律師事務所
任 珺 上海星圖律師事務所
朱雨辰 北京國楓（上海）律師事務所
呂璇璇 上海大邦律師事務所
孫 靜 上海市申航律師事務所
陳 莉 上海吉里律師事務所
陳 怡 上海中島律師事務所
陳春陽 上海大邦律師事務所
張 磊 北京觀韜（上海）律師事務所
邵文利 上海正策律師事務所
金 瑋 上海邦信陽律師事務所
龐亦翡 上海市光大律師事務所
胡 燕 上海功承瀛泰律師事務所
凌劍華 北京觀韜（上海）律師事務所
夏 冉 北京盈科（上海）律師事務所
袁佳婕 北京觀韜（上海）律師事務所
虞 峰 上海市捷華律師事務所
葛澤鋒 上海夏鼎律師事務所
項 晨 北京觀韜（上海）律師事務所
薛 群 上海市百匯律師事務所
支持指導：
上海市律師協會信息化工作委員會、法律科技委員會
上海功承瀛泰律師事務所
俞艷萍 寶山區律師工作委員會
張書畫 武漢秋葉教育科技有限公司