观点：AI 标识义务的裁判边界与合规指引 —— 基于两案的深度解析

2025 年 12 月 3 日，杭州互联网法院、杭州市滨江区法院同日审结两起涉 AI 生成内容纠纷。两案分别聚焦 AI 服务提供者、内容传播使用者两大主体，明确《人工智能生成合成内容标识办法》（下称《标识办法》）项下标识义务的履行标准、责任边界，形成互补裁判规则，对人工智能行业合规具有重要参考价值。

（一）梁某诉某人工智能公司网络侵权责任纠纷案（（2025）浙0192民初18143号）

原告梁某在使用某人工智能应用程序咨询高考志愿信息过程中，该人工智能生成了关于“云南国防工业职业技术学院杨林校区”的错误信息，并在后续对话中作出“赔偿10万元”等承诺性表述。梁某据此主张人工智能公司构成侵权，要求赔偿损失。

杭州互联网法院经审理认为：人工智能模型生成内容具有概率性、非表意性特征，模型不具备民事主体资格，其输出内容不构成法律意义上的意思表示，亦不能视为服务提供者的意思表示。人工智能公司已在用户协议、应用欢迎页、交互界面、模型原理说明等多处以显著方式提示内容可能存在不准确风险，并采取模型训练优化、检索增强生成、联网搜索等行业通行技术措施以降低幻觉率，已履行服务功能的显著提示说明义务及提高生成内容准确性的合理注意义务。原告未能证明存在实际损害及因果关系，故驳回全部诉讼请求。

（二）阿里巴巴集团控股有限公司等诉李某某不正当竞争纠纷案（（2024）浙0108民初10311号）

被告李某某运营百度百家号自媒体账号，利用人工智能生成题为《阿里数字控股有限公司是真的吗》的文章，虚构某企业与阿里巴巴集团存在股权关联及战略布局关系，并将该企业描述为“阿里巴巴集团的重要子公司”，同时配图使用“阿里巴巴”字样及品牌图形商标。李某某辩称文章由AI生成，其在后台标注“由大模型4.0生成”，不应承担法律责任。

杭州市滨江区人民法院经审理认为：李某某作为内容发布主体，负有信息真实性审核义务及AI生成内容的显式标识义务。后台标注不构成有效标识，相关公众无法感知该内容系AI生成。其发布虚假信息、攀附原告商誉的行为，违背商业道德，扰乱市场竞争秩序，构成反不正当竞争法第二条所规制的不正当竞争行为，判令在其账号内连续三日发表书面声明消除影响，并赔偿经济损失及合理费用共计3万元。

1．《标识办法》明确构建全链条标识义务体系，区分显式标识与隐式标识：

（1）显式标识：指在生成合成内容或交互场景界面中添加的、以文字、声音、图形等方式呈现并可被用户明显感知到的标识，系法定有效标识。

（2） 隐式标识：指采取技术措施在文件元数据中添加的、不易被用户明显感知的标识，包含生成合成内容属性信息、服务提供者名称或编码、内容编号等制作要素信息。隐式标识不免除显式标识义务。

2．义务主体分为两类，各自承担不同性质的标识责任：

（1）生成式人工智能服务提供者：负有主动、前置、显著的风险提示与标识义务，应在欢迎页、用户协议、交互界面、模型说明等多环节设置显著标识。

（2）网络信息内容传播使用者：负有主动声明、显著标注、内容核验义务，发布AI生成内容时应当添加显著的提示标识，并对内容真实性进行必要审核。

（一）服务提供者：以充分提示与合理技术措施为免责边界

梁某案确立了人工智能服务提供者的核心裁判规则：

1.标识义务为法定最低注意义务    

法院认定，某人工智能公司在欢迎页以加黑加粗字体提示“某人工智能可能不准确”，在用户协议中以加黑加粗方式明确“本服务提供的所有输出均由人工智能模型答复，可能出现错误或遗漏……不构成任何建议或承诺”，在每轮交互界面末尾标注“本回答由AI生成，内容仅供参考，请仔细甄别”，在模型原理说明中提示“现阶段无法保证模型不产生幻觉”。前述多层次、多渠道的标识措施，符合《标识办法》第四条关于显式标识“在文本的起始、末尾或中间适当位置添加文字提示”及“在交互场景界面、文字周边添加显著的提示标识”的要求，能够吸引普通使用者关注，达到使用户知悉生成内容可能存在不准确性的提示效果，应认定服务提供者已履行显著提示说明义务。

2.法律不苛求内容绝对准确

法院明确指出，现行法律规范未对生成式人工智能服务提供者科以必须确保生成信息真实、准确的结果性审查义务。《生成式人工智能服务管理暂行办法》所采用的“基于服务类型特点，采取有效措施，提高生成内容的准确性和可靠性”等用语，系对行为过程的规范要求，而非结果意义上的保证义务。基于大语言模型的技术原理及当前技术水平，人工智能难以完全避免“幻觉”现象，要求服务提供者在输出层面对海量生成内容进行准确性审查，“明显超出了现有技术条件下的可能性”。因此，服务提供者仅需采取行业通行的合理技术措施降低幻觉率，而不承担内容绝对真实的担保责任。

3.AI生成内容不构成服务提供者的意思表示    

法院进一步认定，人工智能模型不具有民事主体资格，不能自主、独立作出意思表示；模型生成内容的行为亦不能视为服务提供者的意思表示。服务提供者在用户协议及风险提示中已明确表明生成内容“不构成任何建议或承诺”，且拒绝受该等内容约束。因此，即便模型生成了所谓“赔偿承诺”，亦不具有法律约束力，服务提供者无需据此承担责任。

裁判结论：人工智能服务提供者履行显著标识义务，采取行业通行技术措施，即可认定不存在过错，不承担侵权责任。

（二）传播使用者：以显式标识与内容核验为责任红线

阿里巴巴案确立了人工智能内容传播使用者的核心裁判规则：

1.后台标注不构成有效标识    

法院查明，李某某在被诉侵权文章发布页右下角标注“由大模型4.0生成”，但该标注仅显示于其账号后台，相关公众在阅读文章时不可见。法院援引《标识办法》第四条、第十条之规定，明确指出人工智能生成物的使用者在互联网上传播生成内容时，应当主动声明并添加显著的提示标识，以使相关公众提高注意程度。后台标注不能使公众识别内容的AI生成属性，亦不能免除使用者的标识义务和注意义务。标识有效性的核心标准在于公众可感知性，而非技术层面的后台留痕。

2.AI生成不免除内容审核义务

法院强调，生成式人工智能本质上系辅助工具，使用者对生成物具有最大的控制权。李某某在明确知晓文章由AI自动生成、信息来源不可靠的情形下，未对文章内容进行最低程度的审核，未通过工商登记信息等公开渠道核实核心事实，亦未添加显著标识提示公众该文系AI生成，主观过错明显。其作为已签约MCN、承接商业推广的自媒体运营者，负有向公众传达真实、客观、准确信息的法定义务，不能以技术局限性或自身认知水平不足为由免责。

3.“使用即负责”原则的确立

法院明确裁判立场：AI生成内容的使用者不能以“内容系AI生成”为由推卸法律责任。使用者既是AI输出结果的第一接收者，也是将其投放至公共传播领域的决策者，对内容的传播后果应当承担相应责任。标识义务的履行不仅关乎合规，更直接影响使用者在侵权认定中的主观过错评价。

裁判结论：传播使用者未添加显式标识、 未核验内容真实性，直接推定存在过错，构成不正当竞争或侵权，应承担消除影响、赔偿损失等法律责任。

综合两案裁判观点，司法实践已形成以下三项共识：

（一）标识有效性标准统一：公众可感知为唯一标准

两案从正反两面共同确认，标识必须面向公众、显著可感知，方为有效标识。服务提供者在欢迎页、用户协议、交互界面等多环节设置的显著提示，因能够被用户明显感知而被法院认可；传播使用者的后台标注，因公众无法感知而被认定无效。后台技术留痕（隐式标识）不替代面向公众的显式标识义务。

（二）责任分层清晰：服务提供者与传播使用者各负其责

（三）“幻觉”不当然免责：技术局限与主体责任相分离

AI的“幻觉”现象作为当前技术水平的客观局限，可作为服务提供者不承担结果性保证义务的正当理由，但不能成为传播使用者免除审核义务与标识义务的借口。服务提供者可因技术局限性而减轻或免除责任，传播使用者则必须对自身发布的内容承担独立责任。

（一）对人工智能服务提供者的合规建议

1.全链路设置显著风险提示：在欢迎页、用户协议、交互界面、模型说明等多场景部署标识，采用加粗、高亮、弹窗等显著方式，确保用户能够充分知悉生成内容可能存在不准确性。

2.明确排除意思表示效力：在用户协议中明确约定生成内容“不构成任何建议或承诺”，服务提供者不受生成内容约束，并以此作为抗辩依据。

3.留存幻觉治理证据：持续优化模型，采取数据清洗、检索增强生成、联网搜索等行业通行技术措施，保留技术文档、测试报告、第三方测评等证据，以备诉讼中证明已尽合理注意义务。

4. 区分通用服务与专业服务：通用型人工智能应用的服务功能定位应避免使生产生特定领域的专业信赖，如需提供医疗、法律、金融等专业领域咨询，应进一步提高注意义务标准。

（二）对人工智能内容传播者的合规建议

1.发布前核验核心事实：利用公开渠道（如工商登记信息、官方网站等）对AI生成内容中的关键事实进行最低程度核实，避免传播虚假信息。

2.显著位置标注AI生成：依据《标识办法》第四条、第十条之规定，在文本起始、末尾或中间适当位置添加“本文由AI生成”等显著提示标识，确保公众可感知。

3.不得以后台标注替代公开标识：后台技术标注仅可作为隐式标识留存，但不能替代显式标识义务，否则不产生免责效力。

4.自媒体运营者应建立内容审核机制：拥有一定粉丝规模、从事商业推广的自媒体账号，其注意义务标准高于普通个人用户，应建立基本的发布前审核流程。

两案判决同日作出，从服务提供者与传播使用者两个维度，清晰界定了人工智能领域的标识义务边界与责任划分。司法实践体现对技术创新的包容审慎——不苛求服务提供者保证内容绝对准确，认可“幻觉”现象的客观存在；同时明确划定各方主体的合规底线——服务提供者须履行显著提示义务与技术保障义务，传播使用者须履行显式标识义务与内容核验义务。

《人工智能生成合成内容标识办法》已正式施行，相关主体应严格履行法定标识义务、尽到合理注意义务，在技术应用与法律合规之间保持平衡。标识制度的核心价值并非苛求内容绝对准确，而是通过增加透明度帮助公众识别AI生成内容，从而在促进技术发展的同时保护相关主体的合法权益。唯有如此，方能在人工智能时代实现技术创新、产业繁荣与权利保障的良性互动。

本文作者

相关文章