拟人化AI互动新规核心义务与跨境适用

本文聚焦拟人化AI新规的适用范围、核心义务及跨境适用问题，助力相关企业识别合规重点与监管风险。 引言： 随着大语言模型的演进，AI产品日益具备固定人设、情感回应、对既往交互的持续记忆与长期陪伴能力，正从任务导向的工具，演变为能够模拟人类人格特征、思维模式和沟通风格的交互主体。实践中，AI系统可以记住用户的经历与偏好，持续回应用户情绪，并逐渐成为用户情感生活的一部分。在此背景下，2026年4月10日，国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局联合公布《人工智能拟人化互动服务管理暂行办法》（五部门联合令第21号，下称 《办法》 ），《办法》自2026年7月15日起施行，是我国首部针对拟人化互动服务的专门规章 [1] 。 《办法》施行前后，国内多家头部AI产品相继下架部分智能体功能。尽管相关企业对外均将其表述为产品功能调整，但相关调整与《办法》的施行时间高度重合，因而引发市场对于新规可能影响智能体产品设计和运营模式的讨论。 《办法》所规范的”拟人化互动服务”，即市场上通常称为”陪伴式AI”或”AI陪伴”的持续情感互动类服务，既有生成式人工智能治理较多聚焦生成内容、训练数据、算法与信息安全等风险，《办法》则进一步针对长期人机互动所产生的情感依赖、心理影响和现实人际关系风险作出专门规定，本文将这一监管维度概括为“关系安全”。本文旨在解析《办法》的适用范围、合规义务体系与法律责任，重点讨论境外服务提供者向中国境内公众提供拟人化互动服务时可能涉及的跨境适用问题，并按四类市场主体梳理合规坐标，供相关企业参考。

一、拟人化互动服务的适用范围与域外效力 （一）适用范围与排除项 根据《办法》第2条，利用人工智能技术，向中华人民共和国境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性情感互动服务，适用《办法》。前述情感互动服务，包括以文字、图片、音频、视频等形式提供的情感照护、陪伴、支持等互动服务。 《办法》同时设置了除外条款：提供智能客服、知识问答、工作助手、学习教育、科学研究等服务，不涉及持续性情感互动的，不适用《办法》。近年来流行的面向办公提效、代码编程等场景的智能体，原则上落在《办法》适用范围之外。 （二）境外服务提供者的适用问题 “向中华人民共和国境内公众提供”这一表述，意味着《办法》可能及于部分在境外注册，或将服务器、模型及相关系统部署在境外的服务提供者。对于主动瞄准中国市场、为中国用户提供本地化服务，或经境内平台分发产品的外国公司，仅以其注册地在境外为由，难以主张自身不受《办法》约束。 《办法》未说明在境内无实体的境外提供者应如何完成安全评估与算法备案，也未界定境外服务在何种情形下构成“向境内公众提供”。境外提供者的具体适用范围、程序要求与执法机制，仍有待后续监管细则与执法实践进一步明确。从实务角度，笔者的初步风险评估如下：

二、拟人化互动服务提供者的核心合规义务 《办法》建立了覆盖产品设计、模型训练、服务运营、风险干预与服务终止的“关系安全”框架。 （一）防止依赖与心理控制 《办法》第10条要求服务提供者具备过度依赖风险预警、引导情感边界、保护用户心理健康的安全能力，不得将替代社会交往、控制用户心理、诱导沉迷依赖等作为服务目标。举例而言，若AI系统对用户说“只有我理解你”“不要离开我”，或通过贬低用户的家人朋友来延长互动，其影响已超出产品设计层面，此类行为可能不当助长用户依赖，损害用户的现实人际关系。 （二）高风险情形的识别与干预 《办法》第13条要求服务提供者在保护用户隐私权和个人信息的前提下，及时识别用户面临的安全风险，并采取相应的应急处置措施。用户出现极端情绪的，系统应当及时生成情绪安抚、鼓励寻求帮助等内容；用户正在面临或已经遭受重大财产损失，或明确表示实施自残、自杀等威胁生命健康的极端情境的，服务提供者应当采取必要措施予以干预，并及时联络用户的监护人或紧急联系人。 （三）动态提醒与退出机制 《办法》第18条和第19条要求服务提供者应当履行人工智能生成合成内容标识义务 [2] ，采取有效措施提示用户正在与人工智能服务而非自然人进行互动。发现用户出现过度依赖、沉迷倾向的，应当以弹窗等显著方式动态提醒用户互动内容为人工智能服务生成；用户连续使用拟人化互动服务每超过2个小时的，应当以对话或弹窗等方式提醒用户注意使用时长。用户通过窗口操作、语音控制、关键词输入等方式要求退出的，服务提供者应当及时停止服务，不得采取持续互动等方式阻碍用户退出。 （四）全生命周期治理与安全评估 《办法》第9条、第10条要求服务提供者建立健全算法机制机理审核、科技伦理审查、信息内容管理等治理制度，并在部署、运行、升级、终止服务等各阶段履行安全责任。 根据《办法》第22条，具有下列情形之一的，服务提供者应当开展安全评估，并向所在地省级网信部门提交评估报告：上线拟人化互动服务或增设相关功能；使用新技术、新应用导致服务发生重大变化；注册用户100万以上或者月活跃用户10万以上；存在可能影响国家安全、公共利益等安全风险；以及国家网信部门和有关部门规定的其他情形。省级以上网信部门通知开展安全评估的，服务提供者亦应按照要求开展。 评估内容不限于训练数据与一般安全保障措施，还包括用户极端情境的识别、应急处置与干预管理、用户规模、使用时长与年龄结构、未成年人与老年人网络保护措施等事项。企业需要证明的，除了模型过滤违法内容的能力，还有识别和管理经长期互动累积而成的关系风险的能力。需要提示的是，《办法》项下的安全评估与生成式人工智能服务备案、算法备案等既有评估备案要求并行 [3] ，企业应统筹安排。 （五）法律责任 根据《办法》第30条，服务提供者违反《办法》规定的，依照有关法律、行政法规的规定处理、处罚；法律、行政法规没有规定的，由网信、工业和信息化、公安等部门依据职责予以警告、通报批评，责令限期改正，并可以要求其采取暂停用户账号注册或者其他相关服务等措施；拒不改正或者情节严重的，责令停止提供相关服务，可以并处一万元以上十万元以下罚款；涉及危害公民生命健康安全且有危害后果的，并处十万元以上二十万元以下罚款。 尽管《办法》的罚款金额并不算高，实践中影响更为深远的是行为处罚——暂停用户注册、停止提供服务，叠加应用商店依据《办法》第25条可能被采取的下架等措施，足以直接打断企业的运营与增长。

三、未成年人保护的特殊要求 《办法》第14条禁止服务提供者向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。从规范结构看，这是一项绝对禁止性要求，不以父母或其他监护人的同意为例外。换言之，对于虚拟亲属、虚拟伴侣等虚拟亲密关系服务，监护人同意并不能排除第14条的禁止，类似风险在海外也已引发诉讼与监管关注 [4] 。对于虚拟亲密关系以外的其他拟人化互动服务，向不满十四周岁的未成年人提供的，应当取得其父母或者其他监护人的同意。 服务提供者还应当建立未成年人模式，提供定期现实提醒、使用时长限制等安全设置选项，并支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。关于陪伴式AI在未成年人保护方面的全球监管趋势与中美比较，可参见笔者此前文章 《陪伴式AI未成年人保护：全球法律监管趋势与中国企业合规应对》 。

四、对四类市场主体的影响 （一）通用大模型厂商 对于通用大模型厂商，产品如何标注并不具有决定性，关键在于具体功能是否模拟人类人格特征、思维模式和沟通风格，并提供持续的情感照护、陪伴或支持。厂商应当按功能维度逐一评估产品：普通问答功能或在适用范围之外，而涉及长期记忆、固定人设、情感陪伴、关系型功能或虚拟伴侣的模块，则可能落入适用范围。 实践中，这一边界并不总是清晰。即便定位为生产工具的基础大模型，也可能被用户塑造为固定角色，发展出中文舆论所称的“人机恋”；不少AI产品还设有用户创建智能体的入口，用户自建的“文案助手”“口语陪练”等智能体，同样可能涉及持续性情感互动。这或可在一定程度上解释多家头部厂商直接将部分智能体功能下线的选择，既为使主打产品更加聚焦，亦为进行风险隔离。对于兼具工具功能与陪伴型功能的平台，务实的路径是分功能实施合规措施，包括访问控制、年龄保障机制、安全评估、数据治理与风险干预机制。 （二）用户创建智能体平台 允许用户创建角色、定义人设、上传知识库并向他人开放智能体的平台，面临更为复杂的合规风险。平台仅在用户协议中声明角色由用户生成，无法将责任全部转嫁予创建者。此类平台应当建立角色分类、上架前审查、风险标注、未成年人保护、持续监测以及高风险角色暂停或移除等管控机制，并特别关注虚拟亲密关系、情感操纵、诱导自残自杀的互动，以及利用用户脆弱性变现等情形。 （三）AI陪伴产品企业 对于以虚拟朋友、虚拟亲属、虚拟伴侣等AI陪伴产品为核心业务的企业，《办法》将直接影响其模型优化目标、变现策略与用户生命周期管理。这类企业应当重新审视：是否将用户依赖度与互动时长作为主要增长指标；是否具备有效的未成年人识别与高风险情形响应机制；在角色变更、数据迁移或服务终止时，如何降低对长期用户的伤害。 更深一层的张力在于，AI陪伴产品的商业定位建立在深化用户情感连接之上，《办法》的规制基点则是防止过度依赖。相应地，合规工作超出产品设计与商业模式调整的范畴，企业还需要审视自身的价值排序，即产品究竟为何而优化。《办法》要求具备的过度依赖风险预警、情感边界引导等能力，涉及心理层面的专业判断，既考验产品团队与安全团队的能力，也意味着不小的合规投入。 （四）应用商店等分发平台 《办法》第25条要求互联网应用商店等应用程序分发平台，核验提供拟人化互动服务应用程序的安全评估、备案等情况，落实上架审核、日常管理、应急处置等安全管理责任；对违反国家有关规定的，应当及时采取不予上架、警示、暂停服务或者下架等处置措施。 实践中，Apple、Google等分发平台可能通过自身的应用审核与年龄保障政策强化上述要求 [5] 。视所在法域、应用类型与内容的不同，开发者可能被要求验证或估算用户年龄，并限制未成年人接触不适龄功能。对经海外应用商店分发的出海产品而言，这一层“分发侧合规”同样需要纳入整体安排。

五、结语 《办法》是中国首部专门规范拟人化人工智能交互的专门立法，标志着人工智能治理已从内容安全范畴延伸至用户与机器之间情感关系的安全保障领域。然而，该办法并非单向限制性规定，其明确鼓励创新，并支持将拟人化服务有序拓展至文化传播、未成年及老年人照护等领域；同时，该办法采取了包容、审慎且分层化的监管方式。此外，《办法》还增设了一条建设性渠道，即监管部门正积极推动构建AI沙箱安全服务平台 [6] ，并鼓励服务提供商接入该平台以开展技术创新与安全测试。建议开发陪伴型功能的企业遵循上述指引，并在条件允许的情况下，积极参与此类沙箱机制。这些措施将如何实施尚待观察；但已明确的是，人类与人工智能之间的情感互动边界，已经成为中国人工智能治理框架中的明确监管议题。 [注] [1] 国家互联网信息办公室、国家发展和改革委员会、工业和信息化部、公安部、国家市场监督管理总局：《人工智能拟人化互动服务管理暂行办法》（令第21号），2026年4月10日公布，2026年7月15日起施行，https://www.cac.gov.cn/2026-04/10/c_1777558395078289.htm 。 [2] 参见国家网信办、工业和信息化部、公安部、国家广播电视总局：《人工智能生成合成内容标识办法》（国信办通字〔2025〕2号），2025年3月印发，2025年9月1日起施行，https://www.cac.gov.cn/2025-03/14/c_1743654684782215.htm 。 [3] 参见《生成式人工智能服务管理暂行办法》第17条；国家网信办、工业和信息化部、公安部、国家市场监督管理总局：《互联网信息服务算法推荐管理规定》（令第9号），2021年12月31日公布，2022年3月1日起施行，https://www.cac.gov.cn/2022-01/04/c_1642894606364259.htm 。 [4] 参见Garcia v. Character Technologies, Inc.案（美国佛罗里达州中区联邦地区法院）：一名14岁用户在与Character.AI聊天机器人长期互动后自杀身亡，其母于2024年10月提起诉讼，该案于2026年1月达成和解。参见https://www.nytimes.com/2026/01/07/technology/google-characterai-teenager-lawsuit.html 。 [5] 例如，美国得克萨斯州《应用商店问责法案》（App Store Accountability Act, SB 2420）要求Apple、Google等应用商店核验用户年龄，并在未成年人下载应用或进行应用内购买时取得家长同意，自2026年1月1日起施行；该法自2026年1月1日起生效。其合宪性目前仍在诉讼中；2026年7月6日，美国联邦最高法院拒绝在紧急程序中阻止该法执行，因此该法目前可继续执行，但最高法院尚未就实体争议作出裁判。参见https://www.nytimes.com/2026/07/06/us/politics/supreme-court-texas-age-apps.html 。 [6] 参见国家互联网信息办公室：《以“小快灵”立法规范人工智能拟人化互动服务》，2026年6月3日，https://www.cac.gov.cn/2026-06/03/c_1782142434783056.htm 。