7月15日正式施行的《人工智能拟人化互动服务管理暂行办法》,正在改变中国AI陪伴和数字人行业的游戏规则。新规落地已超过两周,拥有数亿用户的豆包等头部AI陪伴产品已按规定下线相关功能,多家AI陪伴初创企业则面临产品逻辑的重构。在这场合规风暴中,一个此前被忽视的技术难题正在浮出水面——长期记忆。
钛媒体7月28日发布的研究报告指出,AI陪伴公司普遍将"长期记忆"作为核心卖点——用户与AI虚拟人之间的对话会被记录和分析,形成用户的个性化记忆库,让AI在后续互动中能够记住用户的偏好和经历。然而,过期记忆可能导致模型自动使用旧版本的信息来回应已经发生变化的用户,带来情感伦理失序和隐私泄露的双重风险。
新规的核心要求包括三点:AI拟人化互动服务提供者必须在显著位置标注AI身份,禁止拟人化误导;涉及情感陪伴场景的AI服务必须采取适龄限制措施;AI服务提供者须对用户数据进行严格保护,禁止未经授权的情感分析。这些条款直接触及了AI陪伴行业的核心商业模式。
对于头部企业而言,新规意味着功能调整和合规成本上升。字节跳动的豆包、阿里的千问等已按要求完成功能下线或调整。对于中小型AI陪伴初创企业,新规则带来了更严峻的生存挑战——合规改造需要投入大量人力和资金,而小型团队往往不具备这个条件。行业洗牌正在加速,部分不合规的中小平台已暂停服务或主动退出市场。
不过,新规也为行业的健康发展划定了清晰边界。过去两年,AI陪伴赛道野蛮生长,部分产品以"虚拟男友""虚拟女友"为噱头,利用用户的情感需求进行不当营销,甚至出现了诱导未成年人过度消费的现象。新规的落地,本质上是为AI陪伴行业建立一道准入门槛,将不具备社会责任感的玩家挡在门外。
钛媒体的报告揭示了一个更加微妙的问题:记忆功能的双刃剑效应。在技术层面,AI的长期记忆并非简单的数据存储和检索。它涉及如何从海量对话中提取关键信息、如何判断哪些信息应当被记住、如何在记忆更新时保持一致性——这些都是尚未完全解决的技术难题。
一个AI陪伴系统如果记住了用户半年前的状态,却不知道用户已经改变,它的回应就会变得不合时宜甚至令人困扰。更危险的是,如果用户的敏感信息被不当存储或被恶意利用,后果将更加严重。欧盟《人工智能法案》已对情感AI提出了强制标识要求,中国的监管也正在向这一方向靠拢。
新京报传媒研究同日发布的调查报告进一步佐证了这一担忧。调查显示,13.5%的年轻人更愿意向AI虚拟人倾诉而非向父母倾诉,37.9%的受访者愿意向AI诉说烦恼。当越来越多的用户对AI虚拟人产生真实的情感依赖,长期记忆技术就可能从"贴心功能"变成"伦理地雷"。
尽管监管在收紧,市场对AI陪伴的需求并未萎缩。7月28日,由浙江大学机器人研究院孵化企业自主研发的全球首款主动式儿童情感陪伴机器人"胖达"在杭州正式发布,成为新规落地后的首个合规化AI陪伴产品。"胖达"以"具身生命感交互技术"为核心,采用熊猫仿生外观并维持接近人体体温,可实现主动情感陪伴、生活习惯养成与分级英语实景陪练。其设计思路体现了新规时代的合规化方向:有明确的适龄限制,在儿童隐私保护方面采取了加密存储和本地优先策略,且明确标注AI身份。
从长远来看,合规化将推动AI陪伴行业从粗放增长转向质量竞争。那些能够在合规框架内实现真正理解用户情感、提供长期价值而非短期刺激的产品,才能在市场中立足。长期记忆问题如果能被妥善解决——通过加密存储、用户授权、定期清理与透明度管理——它反而可能成为合规企业的核心竞争力。
从新的维度来看,AI拟人化新规的影响正在向整个AI服务生态扩散。它不仅影响了AI陪伴产品本身,也重新定义了智能音箱、车载语音助手和客服机器人的人机交互设计规范。合规压力下产品设计从让AI更像人转向在明确标识前提下提供更有价值的服务,长期将提升用户对AI服务的整体信任度。它不仅影响了AI陪伴产品本身,也重新定义了智能音箱、车载语音助手和客服机器人的人机交互设计规范。在合规压力下,AI产品经理正在从"如何让AI更像人"的思路转向"如何让AI在明确标识的前提下提供更有价值的服务"。这一转变虽然短期内增加了产品开发成本,但长期来看将提升用户对AI服务的信任度。当"我知道对方是AI,但我依然愿意和它交流"成为社会共识,AI陪伴行业的用户基础将更加坚固和健康。从用户心理角度来看,AI陪伴产品的核心价值在于它提供了一个无评判的交流空间。无论用户说什么、做什么,AI都不会评判或嘲笑。这种安全感在现实生活中很难找到,但恰恰是AI陪伴最有价值的特质。在合规框架下保护好这一核心价值,是AI陪伴产品留住用户的关键。
AI拟人化新规的实施虽然给AI陪伴行业带来了短期的阵痛,但从长远来看,它将催生出一个更加健康和可持续的产业发展环境。在合规框架下,真正有价值的AI陪伴产品将获得用户的信任,推动AI陪伴行业从流量驱动转向价值驱动。