最近我在逐条整理涉AI案件的司法裁判规则翻到第二条时专门停下来写了一大段笔记。原因很简单AI案件现在最难的不是技术事实认定而是责任分配。同一个大模型用在客服机器人上、用在辅助诊断上、用在自动驾驶上出事之后的归责逻辑完全不同可很多当事人和律师还是习惯拿一套“通用侵权公式”往案件上套结果越套越乱。第二条提出的“场景化分级归责”恰恰就是用来打破这种一刀切思路的。这篇笔记我尽量写得实在一些把这条规则背后的裁判逻辑、实操维度和几个典型场景下的推演都摊开讲适合正在处理涉AI纠纷的律师、企业法务、AI产品经理和合规岗朋友参考。1. 第二条在整份规则里的定位先把“差异化”的逻辑搞清楚1.1 场景化分级归责到底在解决什么难题不看前因后果单独读“场景化分级归责”这几个字容易觉得空。但把它放回AI案件的现实里你会发现它几乎每句话都在回应实务痛点。我处理过的AI相关纠纷里争议焦点通常不在“AI有没有错”而是“该不该由这个被告负责、该负多少责任”。一个用户用AI生成了侵权图片图片发布后造成权利人损失这时候该找大模型研发方、部署这个应用的平台、还是直接找那个输入提示词的用户传统侵权法里我们习惯先判断行为主体再判断过错和因果关系可AI系统一脚插进来之后行为链条被打碎了模型是研发者做的应用是部署者调的输出内容里有一部分是随机生成的连使用者自己都很难预判结果。这时候如果拿着“谁行为谁负责”的老尺子量根本量不出一个稳定答案。第二条的思路是把尺子换掉先别急着找单一责任人先回到具体场景里去拆看清楚AI在这个场景中承担什么功能、各方主体对结果的控制力有多大、风险是怎么分配出去的再按照控制力和注意义务来分级定责。这样做的好处是裁判结论不是从抽象技术概念里推出来的而是从案件事实里长出来的。1.2 为什么不能给AI案件定一套“通用公式”有人会问直接规定“AI侵权由部署者承担无过错责任”不是更省事这种想法的确省事但会制造更大的不公平。原因在于AI的风险分布极不均匀。内容生成类模型的输出天然带有随机性同一个提示词可能生成一篇正常文章也可能生成一段带虚假信息的回答部署者能通过审核机制降低风险但没办法保证每条输出都精准可控辅助医疗决策的AI则不一样它的输出直接影响医生的诊断方向风险高度集中在专业判断环节对研发者和部署者的安全要求自然要更高到了自动驾驶、工业机器人这类物理世界执行场景一旦出错就是人身财产损害不可逆责任配置必须更严格。这三种场景如果套同一个责任标准就会出现要么让内容生成平台承担过重责任要么让自动驾驶运营者承担过轻责任的结果。第二条强调“差异化”本质上是承认AI不是一种技术而是“模型数据算力产品服务”的组合体必须按照场景的风险结构来匹配归责原则。这也是这套规则最有方法论价值的地方它不是替每个案件给出答案而是给裁判者一套寻找答案的思维框架。2. 场景化归责的三个核心维度场景、角色、介入程度2.1 按应用场景切分风险等级决定归责方向把AI放到哪个场景里用基本决定了归责的大方向。我习惯把常见场景分成四类每类的风险特点和法律评价重点都不一样这里整理成一张对照表方便大家直接参考场景类型典型形态风险特点归责倾向内容生成AI写文案、绘画、生成视频、对话回复人格权、知识产权侵权虚假信息传播快平台注意义务为主使用者过错为辅信息推荐资讯分发、商品推荐、算法排序信息茧房、诱导沉迷、不当竞争算法治理义务强调可解释与干预专业辅助决策医疗辅助诊断、法律咨询、金融风控专业信赖损害后果直接且严重服务方高度注意义务使用者合理信赖保护物理世界执行自动驾驶、无人机、工业机器人人身财产损害不可逆产品责任与运营者责任并重这里要特别提醒一个容易踩的坑同一个AI系统在不同场景下会有不同的法律身份。一个AI客服模块嵌在电商平台里就是内容生成场景嵌在医疗问诊App里就成了专业辅助决策场景归责起点完全不一样。处理案件时不要只看技术名称要看它的实际服务场景和用户合理预期。这也是“场景化”三个字的真正含义。2.2 按主体角色切分研发者、部署者、使用者各管一段场景定完之后第二步是把链条上的主体拆开。一个AI产品从开发到落地至少涉及三类角色每类角色对系统的控制力不同注意义务的内容也不同。研发者控制的是模型层。预训练数据的质量、算法安全评测、价值观对齐、模型缺陷修复这些环节都发生在研发阶段。研发者原则上不直接对终端用户承担责任因为模型做出来之后具体怎么用、用在哪儿不是研发者能决定的。但如果研发者明知模型存在高风险缺陷仍然上线或者没有履行数据合规义务、没有提供必要的安全说明那就要为缺陷承担责任。部署者控制的是场景层。把模型接入具体产品、设置审核机制、编写用户协议、决定是否进行人工干预这些都是部署者的动作。部署者通常是对用户的第一责任人原因很直接他是最接近风险现场、最有可能控制损害的人。实务里常见的“AI生成侵权内容”纠纷首查对象基本就是部署这个应用的平台。使用者的控制力相对最弱但并非完全没有。使用者决定输入什么提示词、把生成结果用于什么目的、有没有尽到合理的审查注意。如果使用者故意利用AI从事侵权甚至违法活动或者违背产品说明滥用功能这部分产生的责任就需要自己承担。分清这三层角色后面谈责任比例才有基础。2.3 按介入程度切分全自动和人工审核不能一个罚则第三个维度是人的介入程度这个维度在实务里经常被忽略。同样是内容生成平台A平台是纯自动生成后直接发布B平台在发布前有人工审核环节C平台设置了敏感词过滤加抽检机制三者的可责性明显不一样。裁判时要看“人在回路”的真实情况而不是看产品宣传页上有没有写“AI审核”四个字。实务中常见的问题是平台号称有人工审核实际上只是用户举报后被动处理并没有主动的发布前审核流程。这种情况下人工审核条款不能成为减免责任的依据。介入程度的设计也会反过来影响责任分配逻辑。全自动模式下系统自主性高设计者和部署者要对算法决策的后果承担更重责任人工审核存在的场景中如果审核人没有尽到合理注意义务则平台要承担过错责任但同时可以因为建立了审核机制而主张已尽部分注意义务。这里面的分寸把握恰恰是场景化分级归责最考验裁判者经验的地方。注意判断介入程度时要看真实的技术链路和工作流程不能用一纸制度文件代替。制度上写了人工审核但实际没执行比完全没有审核更危险会被认定为怠于履行注意义务。3. 分级归责的实操拆解从定性到定量的四个步骤3.1 第一步固定AI系统的运行链路任何AI责任案件第一步都不是翻法条而是先摸清楚系统到底是怎么跑起来的。我见过太多案子起诉状写得洋洋洒洒但连“是谁的提示词、哪个模型版本、经过什么接口、有没有审核记录”都说不清楚这种案子没法谈归责。固定运行链路要重点收集几类材料产品技术文档、模型版本号、训练数据说明、算法备案信息、用户与平台的交互日志、审核记录、修改记录、下架处置记录。尤其是日志AI系统的日志保存期往往有限如果不在第一时间申请证据保全、公证或法院调证后面很可能就查不到了。实际操作中我会建议做一张时间轴把“指令输入—模型推理—结果生成—人工审核—发布/执行”每个节点的具体时间、操作主体、系统状态都标出来这张图就是后面谈“控制力”和“原因力”的事实基础。3.2 第二步还原各方主体的控制力事实链固定之后要回答一个核心问题在损害发生的那一刻哪一方最有能力阻止损害控制力分析不是看合同怎么约定而是看实际操作权限。谁能在系统运行前修改参数谁能在输出环节设置拦截规则谁能在发现异常后立即停止服务这些才是判断控制力的关键。比如一家企业在大模型厂商的API基础上做了自己的客服机器人企业能调整提示词、能设置敏感词库、能决定是否人工介入但模型底层的参数改不了那模型底层缺陷导致的问题就归研发方场景应用层面的控制失误就归企业自身。控制力在哪责任的边界就在哪。这里还要注意一个容易忽略的角色开源模型提供者。开源模型不等于完全免责如果提供者知道模型存在特定安全隐患仍不提示或者选择了一个明知会被用于高风险场景的模型进行定向引导就要承担相应责任。只不过相比部署方开源提供者的控制力更弱通常只在存在特殊过错时才介入。3.3 第三步判断注意义务的边界有了控制力分布还得看各方有没有尽到与场景相匹配的注意义务。注意义务的强度不是恒定的而是随场景变化递增。一般内容生成场景部署者做到“事前风险提示、事中敏感内容拦截、事后快速处置”三件事通常就算尽到了基本注意义务但医疗、金融这类专业辅助决策场景注意义务会明显拔高部署者不仅要保证系统安全还要做专业适配性验证、持续监测输出质量、对高风险结论设置复核机制。如果是面向未成年人或者大规模不特定公众的产品注意义务也会相应加重。判断注意义务是否履行不能只看结果。AI系统再完善也可能出错法律不强人所难关键在于这个错误是否在一个合理、谨慎的从业者应当预见并采取措施的范围内。比如医疗AI出现误诊如果厂商已经做了充分临床验证、提供了清晰的使用限制说明且医院在实际使用中没有按照规范操作那厂商的注意义务就不应被无限放大。3.4 第四步按原因力划分责任比例责任定性之后下一步是定量也就是按原因力划分比例。原因力判断本质上是一个“如果没有这个行为损害还会不会发生”的反事实推演。实务中可以按两个方向拆技术原因力和行为原因力。技术原因力包括模型是否本身有缺陷、训练数据是否存在偏差、系统是否缺少必要的安全机制行为原因力包括使用者是否恶意操作、部署者是否未及时处置、受害人是否存在重大过失。两边都要查不能只盯着技术因素也不能只看人的行为。举个例子用户用某AI绘画平台生成一张与知名作品高度相似的图片并直接商用平台没有设置任何风格过滤和版权提示。这种情况下用户的故意侵权行为是主要原因力应承担约70%责任平台没有尽到内容审核与风险提示义务为侵权提供了便利条件承担次要责任约30%。但如果是平台主动提供了“XX风格模型”明显引导用户往侵权方向生成那平台的责任比重就要明显上调甚至可能被认定为帮助侵权。比例划分不是数学题但裁判文书里必须把划分依据写清楚这样才能经得起二审和舆论检验。4. 典型场景下的裁判思路推演与合规提示4.1 场景一大模型生成侵权内容平台怎么担责这是目前最常见的一类案件。用户用AI生成了侵犯他人名誉权的文章或者生成假新闻造成不良影响受害者把平台告上法庭。按照场景化分级归责的思路处理顺序是这样的先看这个内容是谁发布的。如果是平台自己运营的AI功能生成的平台就是内容提供者责任相对更重如果是用户通过平台提供的AI工具生成的要看平台的审核机制是否有效。平台如果能证明自己进行了合理的风险提示、设置了敏感词拦截、并且接到通知后及时删除通常可以减轻责任。但如果平台连“AI生成内容”的标识都没有做还纵容用户批量生成传播那平台就违反了内容标识义务很可能会被认定存在过错。这里有一个容易被误伤的细节用户输入提示词时是无意的生成结果恰好侵权了平台要不要负责我的看法是平台需要承担的是“场景管理责任”而不是“结果保证责任”。平台无法保证每条生成内容都不侵权但只要平台把审核机制做好、把投诉渠道走通、把风险提示放在显眼位置就不能仅因为AI输出了侵权内容就认定平台全责。4.2 场景二AI辅助诊断出错医院和厂商怎么分责医疗AI是分级归责里最典型的“高风险场景”处理不好容易引发巨大争议。某医院引入AI辅助诊断系统医生参考AI结论后误诊患者受到损害这时候医院和系统厂商的责任怎么切先看厂商。如果系统本身存在设计缺陷比如训练数据偏差导致某类疾病识别率极低或者产品说明里没有明确标注“辅助参考、不能替代医生独立诊断”厂商就要承担产品质量责任和安全警示义务违反的责任。再看医院。医院有没有对系统做充分的适配性测试有没有对医生进行培训医生在使用时是不是完全放弃独立判断、机械套用AI结论。只要医生存在明显过失医院就难辞其咎。比较理想的责任划分思路是把AI定位成“辅助者”把医生定位成“最终决策者”。在厂商履行了充分警示义务、系统本身无明显缺陷的前提下医生未尽独立诊断义务导致误诊的由医院承担主要责任在系统存在可验证缺陷的情况下厂商承担主要责任医院承担次要的选型审查责任。这个顺序既保护患者的赔偿利益又避免厂商用“技术中立”四个字推得一干二净。4.3 场景三用户用AI生成图片商用侵权责任怎么落AI绘画工具普及之后创作者拿AI生成作品进行商业使用时引发的著作权纠纷越来越多。这个场景最值得讨论的是使用者的审查义务。创作者在输入提示词时高度模仿某位在世画家的风格甚至把原图垫进去生成新图然后把成果拿去售卖权利人起诉时创作者最常见的抗辩是“图片是AI生成的我不知道它是不是侵权”。这个抗辩在场景化分级归责的逻辑下很难成立。使用者是触发生成动作的人也是最终决定将成果投入商用的获利者他应当对输出结果具有合理审查能力而不能把审查义务完全甩给平台。只要作品与在先作品构成实质性相似使用者就要承担侵权责任至于平台是否担责则要看平台有没有提供诱导性风格推荐、有没有在服务协议中作出警示。反过来如果使用者没有商用只是个人学习研究使用参考合理使用制度的精神一般不轻易认定侵权。这里的边界就是“使用目的”和“使用方式”这也是场景化分析的核心变量。4.4 场景四企业内网部署开源模型出了事谁管越来越多企业选择在内部部署开源大模型处理自己的数据。这种模式下开源模型提供者、企业内部部署者、员工使用者之间的关系很多人理不清。先说结论企业内网部署场景下企业通常是绝对的责任主体。因为企业自己下载模型、自己部署服务、自己输入数据、自己决定应用场景等于同时扮演了部署者和运营者的角色用户也是自己的员工。一旦模型生成的内容引发合规问题或数据泄露责任要由企业承担而不能找开源模型提供者“背锅”。开源模型提供者只有在几种特殊情况下才会被追责模型本身包含恶意代码或明显后门提供者故意隐瞒特定安全隐患或者提供者明知模型会被用于明显违法用途还提供定向优化服务。除此之外开源提供者的责任边界很清晰这也是为什么大多数开源模型都强调“按原样提供不提供担保”。企业如果想用开源模型一定要自己做好数据脱敏、访问权限控制、输出内容监控不能把合规成本转嫁给开源社区。5. 我在实操中踩过的坑和几点经验5.1 常见误区把“AI幻觉”当成免责金牌处理AI纠纷时被告方十个里有八个会提到AI幻觉意思是“模型自己编出来的内容我们也没办法控制”。这个说法一部分符合事实但用在法律上意义很有限。AI的输出确实具有概率性但部署者不是完全无能为力。模型选择、参数调整、系统提示词设计、输出侧审核每个环节都能降低幻觉率。关键问题是你有没有做这些事如果你明知某个场景下模型经常胡编乱造仍然不做任何干预就上线那“AI幻觉”就不是免责金牌而是证明你“应该预见且能够预见危险却没有采取措施”的证据。反过来如果部署者已经做了行业内通行的安全措施仍然出现偶发错误那确实可以说明不存在重大过失。5.2 办案实操建议证据固定比法律检索更紧急AI案件和传统互联网案件有一个明显区别模型版本迭代太快。今天你还能查到当时的运行日志明天系统一升级日志被清理原本可以证明“平台有没有人工审核”的关键证据就彻底没了。我在处理这类纠纷时接案后的第一件事不是大量检索案例而是立即做证据固定。用户端要固定的是提示词输入记录、生成结果、发布时间平台端要固定的是模型版本、审核日志、处理记录。能公证就去公证能申请法院调查令就尽快申请千万不要等到证据即将灭失时再行动。另外很多人忽略的一点是AI系统本身的回复也具有证据价值但一定要在连续、无中断的情况下录屏最好同时记录系统时间避免事后被质疑证据篡改。5.3 企业合规落地的三个动作如果企业正在做AI产品建议尽早把场景化分级归责思路转化成合规动作别等出了事再补。第一个动作是做应用场景分级台账。把公司所有AI功能按内容生成、专业辅助、物理控制等类型登记标注风险等级和对应责任人。第二个动作是建立人机协作审核制度。根据风险等级设计不同的审核强度高风险场景强制人工复核中风险场景抽检低风险场景自动运行加事后处置。第三个动作是更新用户协议和风险提示。明确告知用户“AI生成内容可能存在错误、不具备专业建议效力”同时写明禁止用途并保留用户操作日志。这三个动作看着简单真落地时能帮企业挡住大量潜在的连带责任也是未来诉讼里证明“已尽注意义务”的最直接材料。我个人在实际办案中的体会是AI归责问题到最后拼的往往不是法条背诵能力而是对技术细节的理解和对商业场景的敏感度。场景化分级归责这套思路让我在代理案件时有了一个稳定的分析框架也希望这篇笔记对正在读这条规则的人有所帮助。