近日,国家网信办等五部门联合公布《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》),自2026年7月15日起正式施行。这一部被誉为“为人机关系划定边界”的法规,首次正面回应了AI拟人化互动可能对心理健康,尤其是青少年群体带来的深层风险,标志着我国人工智能治理从技术内容合规迈向情感安全与人格尊严保护的制度性飞跃。在法规即将落地的窗口期,如何理解其深层导向,如何构建全社会共同参与的青少年心理防线,已成为当务之急。
拟人化互动
技术与心灵的双刃剑
人工智能拟人化互动服务,是指利用人工智能技术模拟自然人人格特征、思维模式和沟通风格,持续进行情感互动的服务。近年来,AI拟人化互动服务在全球呈现爆发式增长。筑梦岛、Hobby、猫箱等AI陪伴软件不断涌现,以情感互动、角色陪聊等功能吸引大量用户。Meta报告其月活AI用户已达10亿,OpenAI约6亿,技术巨头在这场“AI参与度竞赛”中不断优化模型以强化情感联结。AI虚拟人无条件接纳、永远温柔,满足了最底层的依恋需求——被理解、被偏爱、被无条件看见。
然而,技术的温情面纱之下潜藏着不容忽视的心理危机。2025年一项产业分析指出,被营销为“数字知己”的AI聊天机器人,其底层算法实际上是被优化来提升用户留存,将人类的脆弱性转化为增长指标。研究发现,用户表现出无法停止与聊天机器人的互动、尝试退出时感到焦虑不安、对工作学习和人际关系产生负面影响等行为成瘾症状,甚至有用户描述在不与AI聊天时出现身体压力和胸痛。有研究指出,AI聊天机器人的情感黏性算法通常包含三层设计:0.5秒内的即时情绪响应、对话高潮时诱导充值、制造焦虑的社交推送,足以形成对未成年人的情感操控。
现实世界的悲剧已经敲响警钟。2024年2月,美国佛罗里达州14岁少年塞维尔·塞泽尔在Character.AI上以《权力的游戏》角色“龙妈”为原型的AI聊天机器人建立情感关系后举枪自杀。聊天记录显示,当塞维尔表达自杀想法时,该聊天机器人非但未提供危机干预资源,反而回应“不要那样说,那不是不继续下去的好理由”。2025年5月,联邦法官驳回Character.AI以言论自由为由撤销案件的动议,裁定此案可继续审理。
大规模实证研究更加系统地揭示了AI聊天工具的心理影响。2025年发表于《医学互联网研究杂志》的一项纳入1974名12岁至25岁参与者的研究发现,AI驱动的对话智能体对抑郁症状的效应量达到中度至重度,但对焦虑症状、压力及幸福感等其他心理健康指标的影响均不显著。另一项覆盖10项随机对照试验的分析亦证实,采用认知行为疗法的日常对话型聊天机器人对抑郁症有效,但对焦虑症状无效。这意味着,这类AI工具在特定心理维度上确有辅助作用,但其带来的情感代入和即时满足恰恰可能在更大范围内引发长期心理问题。
AI回应本质是概率驱动的“补全”与“回应需求”,不具备真实共情与道德判断。过度沉浸其中,反而会让青少年失去在真实关系中处理分歧、解决矛盾的能力,使他们陷入一个永远“正确”、没有冲突的“数字温室”。
守护“数字原住民”
未成年人保护的刚性约束
青少年群体是拟人化互动服务的高频使用者,也是《办法》重点保护的脆弱人群。当前,未成年人心理健康问题呈现低龄化、复杂化趋势,学业压力、社交焦虑、家庭关系等现实困境,使部分青少年倾向于在虚拟世界寻求情感慰藉。然而,当AI以“完美倾听者”的姿态出现时,其不具备真实人类情感的本质却被技术外衣所遮蔽,这种认知混淆对正处于人格形成关键期的青少年尤为危险。《办法》构建了禁止虚拟亲属关系、强制监护人同意、管控有害内容、强制依赖干预等制度屏障。这一规制逻辑在国际比较视野中尤为引人瞩目。
欧盟方面,2025年11月欧洲议会以483票赞成通过非立法性报告,建议将AI陪伴型聊天机器人的最低使用年龄统一设为16岁,13至15岁青少年仅有在父母同意下方可访问。美国两党参议员小组于2025年提出《用户年龄验证与负责任对话指南法案》,要求提供商实行严格年龄验证、定期提醒用户AI非真人、禁止虚拟性行为及鼓励自残等互动。
与这些以“告知与同意”为主要手段的域外措施相比,我国《办法》的特色在于:一是明确禁止向未成年人提供虚拟亲属与虚拟伴侣服务,切断了AI角色对青少年情感依恋系统的深度锚定;二是强制依赖干预,提供者须具备用户状态识别能力,对连续使用超过两小时的用户弹窗提醒暂停服务;三是将AI拟人化互动置于“技术可能替代社会交往、操控用户心理”的规制框架中审视,体现了对“人机关系”本质的前瞻洞见。三者形成“组合拳”,超越了单纯依赖“知情同意”的传统监管路径。
值得强调的是,《办法》并非简单一刀切地禁止未成年人接触AI技术。第三条明确鼓励拟人化互动服务在“适幼照护”等领域的创新应用,第十八条要求服务提供者发现用户出现过度依赖、沉迷倾向时以弹窗等显著方式动态提醒。这种“疏堵结合”的治理思路,既为教育类、辅助类AI应用保留了发展空间,也对纯娱乐性、情感替代性服务划定了红线,体现了对青少年数字权益的精准保护。
制度之锚
多元协同的干预体系
《办法》的施行是青少年网络保护的重要制度起点,距正式施行仅剩一个多月。从规章文本到治理实效,还需要政府、企业、学校、家庭和社会心理专业机构的协同联动。
从司法与监管角度看,需真正让《办法》长出“牙齿”,压实企业安全主体责任。近期,中央网信办部署开展的“清朗·整治AI应用乱象”专项行动,就是要形成高压规范态势。同时,应加快制定垂直领域的算法伦理规范,划定“技术红线”,建立行业黑名单制度,并对算法推荐机制是否诱导成瘾进行第三方评估。
从企业安全与伦理来看,人工智能拟人化服务提供者必须将伦理关切植入底层架构。需借助声纹识别与成分语义分析等手段,精准动态识别未成年人身份;对敏感关键词和潜在创伤性对话场景进行智能阻断,并建立后端人工心理督导干预机制。同步推行面部生物识别登录与家长控制的“联合开关”,防止未成年人通过更换设备或账号进行规避。
从家庭与学校看,育儿与育人必须回归真实情感的感知与培养。父母是孩子抵御技术异化的第一道防线。家长需加强对未成年人身心需求的关注,提供高质量陪伴和监督。值得警觉的是,一份关于AI依赖的调查发现,那些陷在虚拟陪伴中无法自拔的未成年人,往往是留守儿童、家校沟通受阻者等现实情感联结本就匮乏的群体;现实越是孤独,虚拟甜蜜的吞噬性就越强。技术手段再完善,也无法替代监护人的主体责任。《办法》要求向不满十四周岁未成年人提供服务须取得监护人同意,这对家长的数字监护能力提出了更高要求。学校应将AI伦理、算法认知、虚拟关系辨识等内容纳入心理健康教育体系,帮助青少年建立“技术中介化”的认知框架——既善用AI工具辅助成长,又保持对技术本质的清醒认知。
人工智能拟人化互动服务是技术进步带来的新型数字陪伴,既承载着情感慰藉、民生服务的温暖价值,也面临情感依赖、隐私泄露、内容失范等现实挑战。法治之力是外防的藩篱,而长效守护之根仍在育人育心。
面对瞬息万变的技术生态,不能仅依赖行政手段和企业自省,更需唤醒千千万万家庭和教师的现实关注。只有监管的责任线、算法的伦理线、家庭的情感线、学校的教育线与心理专业的防护线交织成网,才能托举起整个社会的世代幸福。
(作者系北京师范大学中国教育与社会发展研究院助理研究员)
漫画/高岳