智能体自主决策错误的责任主体与边界

　　【析理论道】

　　“即便人类已经明确发出终止指令，智能体也未必会立刻终止其行动”，这是近期智能体失控事件的真实写照。这类事件所揭示的风险在于：智能体不再停留在生成式AI的内容建议层面，而是将内部不确定的概率判断转化为网络空间具有法律效果的行为结果。以网购为例，若用户授权许可智能体代为购买特定食品，智能体会根据用户过去购买同类食品的时间间隔、品牌等数据直接下单，而无需用户亲自操作。这种高度自主的执行特征，使得智能体市场前景备受关注，但也引发一个全新法律问题：智能体的购买决策是否具有法律效力？如果一概否认，意味着智能体与以往按固定步骤执行的机器化自动执行程序无异，这显然与智能体自主性特征相悖；但若全面认可，又会陷入“智能体能够被视为独立的民事法律主体”等更深层的法律问题。

　　更为棘手之处在于，目前我们在技术层面尚无法保证智能体作出完全正确的自主决策。那么，当智能体自主决策错误时，法律究竟应该优先保护“善意相对人”还是用户？当智能体因外部网络攻击、内部算法缺陷等主客观原因导致作出违背用户意愿的自主决策时，倘若不加区分地允许用户撤销、变更合同，会使得交易相对方时刻处于交易不确定的状态。因此，在判断智能体自主决策的法律效力时，应重在判断这种决策的作出在多大程度上受人类意志的影响；相应地，在法律效力层面采取完全肯定或者完全否定的判断逻辑，均无法反映智能体自主决策过程的特殊性。

　　在现行民法体系下审视，智能体的自主决策活动既不属于民事代理，也不属于民事委托。一方面，从民事代理角度看，智能体不具有民法意义上的法律主体地位，不能成为以“法律主体”为前提的代理人。民事代理制度的目的之一，是延伸民事主体的“实际行为能力”，扩张其自由意志，即借由代理人实现跨空间、跨时间的民事活动；民事代理制度的另一目的，是实现“专业的人干专业的事”，即被代理人在个人专业能力不足的情况下，由其信赖的代理人以其名义从事更为专业的民事活动。而智能体的自主决策以环境数据、用户行为数据为基础，其底层依赖的大模型也是以人类既有知识信息为训练数据，故而既谈不上从事具有创新性、相对独立性的代理活动，也谈不上具有实践层面的专业技能。另一方面，从民事委托角度看，智能体的自主决策在外观层面确实符合“委托人（用户）委托智能体从事特定的民事活动”之特点，但在制度要件层面却存在根本性冲突。受托人是以自己的名义从事民事活动，而智能体显然无法直接以自己名义从事民事活动；民事委托是合同关系，而智能体并不具备对外作出明确意思表示和独立承担法律责任的能力，所谓的“委托合同”实际上被用户与服务提供者之间的信息服务合同所取代。

　　由此可知，在现行民法体系下，智能体的自主决策应当被视为民法意义上意思表示的特殊形态。目前，智能体的应用场景主要包括两类，一类是辅助个人实现办公自动化，另一类是帮助个人或企业用户进行特定民事法律行为。探讨智能体自主决策有无产生法律效果，主要涉及后一类场景。意思表示是能力适格者将意欲发生私法上效果的内心意思表示于外部的行为，包括目的意思要件、效果意思要件和表示行为要件。具体到智能体的自主决策，第一，在目的意思要件方面，只要用户能够对智能体功能效果有足够且明确的认知，即可认定智能体的自主决策包含用户完整的目的意思。如在商贸活动中，智能体根据抓取的近期产品市场价格波动数据，根据用户事前的授权操作，自主向交易相对方发送电子邮件提出最符合近期市价的报价。此时，由于用户事前已确定交易相对方范围、标的、数量、价格等具体信息，智能体自主决策发送报价邮件的行为足以体现用户的意思表示内容完整。第二，在效果意思要件方面，只要用户在明知或应当知道智能体存在客观技术局限性的背景下，仍然选择主动安装该应用程序，就可以合理推定用户存在主动追求通过智能体进行表意，进而达成设立、变更、终止民事法律关系的目的。第三，在表示行为要件方面，用户接受智能体获取用户终端的操作权限、用户下单并支付相应价款等均可视为智能体以明示方式帮助用户作出内容完整、表意明确的意思表示。此外，沉默一般不能作为意思表示的方式。

　　因此，智能体自主决策的法律责任承担方式，需要结合个案，判断用户、服务提供者乃至安装者的法律责任承担方式。对于用户而言，在安装和设置智能体访问权限时，应当负有一定的谨慎义务，即理性设置其他应用程序和本地数据的调用访问权限。智能体具有一定的专业技术门槛，且智能体的安装设置方式包括用户自行或委托他人安装和服务提供者提供商业化的智能体应用程序，一概要求用户承担自主决策错误导致的不利后果缺乏公平性。因此，智能体自主决策错误的法律效果还涉及研发者、服务提供者以及安装者的违约或侵权责任。对于研发者而言，如若以开源方式公开提供智能体相关的开源项目，则不需要对自主决策错误导致的用户损害结果承担法律责任。对于服务提供者而言，其是否应当对用户因智能体自主决策错误所造成的损害结果承担违约或侵权责任，则需要综合考量其智能体信息服务的提供方式。具体包括三个方面的判断要素：一是在用户安装和使用时，是否以明确显著、清晰易懂的方式告知用户智能体的实际功能、技术风险以及对用户个人权益的影响。二是在用户选择是否开放其他应用程序的调用程序时，是否以多次弹窗等方式提示和告知用户慎重选择。三是在用户选择设置敏感数据开放权限、允许自主付款等关键操作权限时，是否以明确方式及时告知用户有关智能体自主决策的具体情况。

　　当前，AI智能体在为人们的工作生活带来便利的同时，也使既有法律关系趋于不确定，并推动基础法律概念的内涵与外延不断扩展。在法治实践中，有必要全面审慎地评估智能体自主决策错误的成因，厘清民事法律主体的注意义务边界，推动构建系统完备的法律法规体系，以数智时代的良法善治，促进技术发展、权利保障与经济增长实现良性互动。

　　（作者：赵精武，系北京航空航天大学法学院副教授）