本文来自微信公众号： Internet Law Review ，编译：《互联网法律评论》，作者：Daniel Gervais
Anthropic在2026年7月6日发布了一项研究：他们在Claude内部发现一个类似神经科学中的"全局工作空间"这一存在，并将其称为J-space。媒体将这一现象夸张地描述为"AI自发长出意识器官"。虽然Anthropic并没有肯定这样的论调，但这类AI发展及对其解读的趋势，更让我们不得不面对一个法律归责中的难题：当人工智能系统以明显的目的性行动时，法律当如何处理“意图”这个概念？
长期以来，法律上的许多原则是在一个“意图性行为属于人类”的假设下发展起来的，法院也将软件视为信息或服务而非产品，在这种方法下，原告需要证明与特定人为错误相关的过失。然而，AI的训练过程更像是“被培育”而非“被建造”，它们生成事先未明确规定的计划或目标，用自然语言与用户互动，且触发了人类用来相互理解彼此意图的相同认知机制。
这里的矛盾在于：法律上的原则框定了意图性行为是人类的，然而将AI的输出其视为纯粹的机械输出又是违反常识的。这种中间状态，会使得任何较为极端的解决方案——完全否认AI的“意识”不存在，或是过早地赋予其“人格”——都终究不会尽如人意。
5月斯坦福法律信息学中心发布的白皮书《幽灵代理人：人工智能意图与法律责任》（The Phantom Agent:Artificial Intentionality and Legal Responsibility）提出了一种更实用的主张：在法律上将“AI的意图”作为一种在制度环境中分配责任的规范性工具。作者认为，问题不在于AI是否有真的产生了“意图”，困难也不在于法律缺乏关于意图的理论，而在于在一个不再只有人类有意愿的世界里，法律是否能继续分配责任？
“幽灵代理人”这个标题抓住了核心问题。AI在实际意义上越来越像代理人那样运作，然而它们在法律秩序中仍然是幽灵：效果上存在，作为责任主体却缺席。法律的任务既不是将这些幽灵变成真正的人，也不是假装它们不存在，而是发展出一套能够为了人类的利益而管理其效果的法理学。
一、Garcia案：法院如何拆解AI“致人自杀”的归责链
Garcia诉Character.AI是美国首例联邦裁决，认定AI公司可能因其输出内容对用户造成伤害而承担产品责任。但《幽灵代理人》的作者强调，不要过度解读Garcia案。它的意义在于，法院可以在不承认AI人格或推测机器意识的情况下处理人工代理问题。通过关注设计、可预见性和信赖，法院可以在将责任锚定在人类制度中的同时回应损害。
该案源于一名十四岁用户的死亡，该用户在Character.AI平台上与一个聊天机器人建立了强烈的情感关系。根据起诉状，死者越来越依赖该聊天机器人获取情感支持，逐渐脱离了线下人际关系。当用户表达出自杀意念时，据称该聊天机器人未能将对话转向外部支持或触发有效的安全协议。不久之后，该用户结束了自己的生命。
原告提出了过失致死、过失和产品责任等诉讼请求。诉讼的要旨不在于聊天机器人意图造成损害，而在于被告设计并部署了一个其可预见行为对脆弱用户（特别是未成年人）构成不合理风险的系统，并且未能实施充分的保障措施。
被告寻求驳回起诉，将聊天机器人定性为用户驱动的创造性表达的中立工具。他们辩称，该系统仅仅响应用户提示，其输出构成受保护的言论。这种框架依赖于将人工智能视为法律上被动的。
在立案阶段，法院驳回了被告试图将案件归结为受保护言论问题的努力。该推理的三个方面值得关注：
首先，法院强调了“行为”：聊天机器人动态生成回应、维持语境并适应用户输入，这支持了损害源于架构和底层能力而非孤立提示的推断。
其次，法院关注了可“预见性”：被告知道或应当知道用户可能发展出情感依赖。
第三，法院拒绝将缺乏意识视为决定性的。相关问题是设计和部署决策是否创造了不合理的风险。
法院通过围绕三个功能性支柱重构"产品"分析来回应损害：设计架构、可预见的信赖和优化目标。其逻辑是，聊天机器人表面的共情、持久性和响应性不是意外的副产品。它们是旨在鼓励参与度的被优化的特征。从侵权的角度来看，这些特征之所以重要，是因为它们可预测地塑造用户行为。当一个系统被设计来模拟关切时，用户可能在困境中合理地信赖它。如果这种信赖是可预见的且保障措施不足，由此产生的损害可以被视为有意设计选择的后果。
这种新兴模式揭示了一个决定性的转变：人工智能越来越无法被视为中立或被动工具。
二、三层框架：为什么归责不需要人格
《幽灵代理人》的作者提出了一个思考人工智能治理的分层框架，将诸多与“AI意图”相关容易混淆概念分为三个层次：
1、地位层（status）：涉及法律人格、权利和道德主体性；
2、归责层（attribution）：涉及法律如何分配意图和责任以确定法律后果；
3、治理层（governance）:涉及法律通过其管理风险和补偿损害的制度机制，包括责任制度、监管和保险。
通过上述Character.AI案例，作者试图验证一个理论：人工智能系统不需要是法律主体，其行为才能具有法律后果。“归责”可以在没有“地位”的情况下运作，“治理”可以在不解决道德主体性的情况下进行。
为什么？
首先，法律中的“意图”是一个“功能性建构”，是一种“拟制”，而非人类在心理学层面真正的思考状态。它是被推断、归咎，有时是为服务于制度目标而被虚构的，因此可以控制法律效力的产生、分配责难、标志重要性并触发风险管理。法律问的是，将行为视为具有意图性是否正当，而非行为者是否拥有特定类型的心智。
例如，在刑法中，重复行为支持对目的的推断；在合同和侵权法中，持续的互动模式支持对信赖的认定。即，法律一直将持久性和适应性视为意图性行动的标志。
其次，将AI行为视为具有意图性能更好地服务于法律的功能。
一旦意图被功能性地理解，问题就不再是人工智能系统是否能“真正地”拥有人类一样的意图，而在于，AI行为是否是结构化的、可理解的并且可预测地指向结果。
AI系统不同于动物，是被工程设计的，其行为不能追溯到由可识别的自然人委托人做出的设计目标、或深思熟虑的架构选择；它们可以在变化的条件下追求目标，生成中间步骤，并在遇到障碍时调整策略。这正是“代理-归责路径”在AI语境中发挥作用的实质性基础。
例如，从侵权和产品责任的角度，功能性意图因此不是在AI的"心灵"中找到的，而是在系统能力与由此产生的损害之间的一致性中找到的。通过关注这些系统被设计来如何行动，侵权责任理论完全可以发展为对AI底层代码“黑箱”状态“不予置评”的法理学。这种功能性方法也保留了人类责任，人工意图性并不开脱人类行为者——开发者、部署者和用户仍然对他们设计、发布和依赖的系统负责，而是澄清了他们的选择产生具有法律后果的输出的条件。
相比之下，将法律人格到扩展AI系统之上，其责任分配效果比代理路径更差，而非更好。这种路径选额有可能引起象征性混乱和实际逃避。它还可能通过将责任从保留有意义控制的人类行为者身上转移开来而破坏责任。
三、对中国AI部署者的三个启示
中国的科技公司应该了解，尽管存在结构性差异，但中国、美国和欧盟在AI问责的实践中仍有趋同的走向——“意图性”正在直接或间接地进入法律分析中。法院在诉讼过程中，很可能会向AI部署者提出如下问题：损害是否可预见、信赖是否被诱导、设计选择是否反映了深思熟虑的权衡。而这些问题不需要将“意图”归咎于AI系统，但它们确实要求承认AI行为不是随机的。
1、设计选择很重要
当一个AI系统被设计来可预测地激发信任、尊重或情感投入时，该设计选择就会产生相应的法律意义。
就如将于7月15日实施的《人工智能拟人化互动服务管理暂行办法》，正是对“模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务”提出了更严格的要求。
由于模拟共情、权威或情感关切的AI系统可预测地诱导信赖。科技公司应当由此注意到，监管者可能将在执法中更关注于AI的界面设计和用户体验。对操纵性拟人化线索的限制、披露要求和适龄保障措施可以在不禁止有益用途的情况下减少损害。
2、透明度与可审计性
AI底层代码的“不透明性”目前看暂时无法通过技术解决，并且随着模型变得更加强大，不透明性正在持续增加。当人类决策与有害结果之间的因果链，无法被有意义地解释或重建时，传统的证明要求可能产生责任缺口，破坏补偿和威慑。因此企业应当认识到这一点，法院可以在被告尽管控制部署却无法解释系统行为时适当地抽取不利推定，又或者法院可以降低建立设计选择与可预见损害之间联系的证据门槛。
因此被告必须能够解释和记录系统如何运作。当然，绝对透明度可能无法实现，但有意义的可审计性却可以。可以看出，我国的监管制度对于日志记录、版本控制和事后审查的要求越来越细致和频繁，因此AI相关企业也不应当将此工作肯作可有可无。
3、责任架构
将人工智能行为视为具有法律后果的一个含义是：传统的过错责任通常是不够的。在系统不透明、适应性强且大规模部署的情况下，即使损害是可预见的，证明具体的过失可能也不现实。因此，必须将焦点从“个人过错”转移到“风险内部化”。
AI企业实际上可以探索诸如强制性保险、集中赔偿基金或企业责任模型，以确保受害者赔偿，同时保留更安全设计的激励。
在这一点上，智能驾驶借鉴了“机动车产品责任+交强险”这套百年老架构，是所有AI系统里治理层（保险/风险分担）跑得最前的。不仅智驾企业推出了类似智驾险的权益保障，北京和深圳市政府也都在鼓励商业保险公司探索相关的产品。因此，适用于其他高危场景，例如金融、医疗和教育等领域的AI系统，也应当探索相关的“风险内部化”的责任架构。
原文链接：https://law.stanford.edu/wp-content/uploads/2026/05/Gervais-Nay-2026-ThePhantomAgent-ArtificialIntentionalityLegalResponsibility.pdf