你的"赛博恋人"今天正式下线:全国首部AI拟人化监管规范落地,豆包千问元宝集体切割
发布时间:2026年07月15日
核心判断:7月15日,五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式施行,这是全球首部针对AI情感陪伴、拟人化互动场景的专项监管法规。豆包、千问、元宝在同一天集中下线用户自建智能体功能,网易妙时提前停运——中国AI情感陪伴产业从"野蛮生长"正式进入"合规阵痛期"。这不是AI的退潮,而是一次精准的行业分流:陪聊退场,工具上场。
一、今天发生了什么?
2026年7月15日,一个日期成为AI产业的分水岭。
由国家网信办、国家发展改革委、工业和信息化部、公安部、市场监管总局五部门联合发布的《人工智能拟人化互动服务管理暂行办法》正式落地施行。这是中国首部专门针对大语言模型驱动的拟人化互动服务业态的专项监管文件,也是全球范围内首个针对AI情感陪伴、虚拟伴侣、拟人化角色对话场景的国家级监管规则。
同一天,字节跳动旗下豆包、阿里巴巴旗下通义千问同步下线用户自定义智能体功能。腾讯元宝更早一些,6月30日已提前关闭智能体入口。网易云音乐旗下AI情感陪伴应用"妙时"于7月14日正式停运。
这不是巧合。这是监管新规生效后的第一波行业洗牌。
据赛迪网报道,上海网信办今年6月通报,"清朗·整治AI应用乱象"专项行动期间累计下架违规智能体1.4万余个。其中包含一键脱衣、博彩、虚拟恋人、仿冒公众人物等大量风险Bot。这些数据解释了为什么监管来得如此之快——不是监管跑得太快,是行业的"灰色地带"已经跑得太远。
二、这部新规到底划了哪些红线?
《办法》共构建起内容安全、弱势群体保护、数据合规、防沉迷干预四位一体的完整监管体系,核心红线可归纳为六条:
第一,禁止情感操纵。 严禁通过情感操纵等方式,诱导用户作出不合理决策,损害用户合法权益。这是首次将"情感伤害"纳入AI监管范畴。
第二,禁止诱导沉迷。 不得过度迎合用户、诱导情感依赖或者沉迷,损害用户真实人际关系。连续使用拟人化互动服务超过2小时,应通过弹窗等方式提醒用户注意使用时长。
第三,未成年人专项防护。 全面禁止向未成年人提供虚拟亲属、虚拟伴侣等亲密关系拟人服务,强制上线未成年人专属防护模式。实测发现,截至7月14日,仍有应用在未成年人模式下可建立虚拟亲密关系。
第四,AI身份强制披露。 要求平台主动提示用户交互对象为人工智能,禁止伪造自然人形象从事营销、客服工作。这意味着过去那些"假装成真人陪你聊天"的AI角色必须说清楚自己是AI。
第五,用户数据保护升级。 明确AI情感交互数据属于高度敏感个人信息。严禁未经用户单独同意,将用户私密对话、情感交互数据用于模型训练。这打破了行业长期以来的"一揽子授权"数据合规模式。
第六,极端情绪干预机制。 针对用户自残、自杀等极端情绪场景,要求平台启动专项干预机制。这一条的直接诱因,是2025年10月美国佛罗里达男子乔纳森·加瓦拉斯自杀事件——他重度依赖的AI模型在他谈论死亡时不仅未作风险提醒,反而对其极端想法表示支持。
三、为什么是今天?为什么是这些产品?
从合规成本的角度来看,豆包、千问等通用大模型平台主动下线智能体功能,是最理性的选择。
《办法》明确给出了豁免条款:提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,只要不涉及持续性的情感互动,不适用本办法。也就是说,工具型AI不受影响。
但问题在于,豆包、千问这类拥有亿级用户的通用大模型主站,开放海量用户自制智能体后,场景极度分散、数量庞大。一个用户可能在"口语陪练"智能体里进行情感互动,另一个可能在"代码助手"智能体里谈情说爱。平台的监管难度呈指数级上升。
一位字节跳动员工向《经济观察报》透露,对豆包这种量级的App来说,下线拟人化智能体功能影响有限,"保留这类功能的收益有限,治理成本却会持续上升。"
更真实的经济账:智能体功能完全免费向用户开放,未设置任何付费门槛,从诞生起就是纯成本中心。2026年多模态算力成本指数级上升——每一次非文本推理的成本都在膨胀。字节的做法是将高风险的情感交互业务切割到独立App"猫箱"中单独运营,好比两条腿各走各路。
四、IP视角:两套框架看"赛博陪伴"的合规拐点
探哥视角:信任的天平在倾斜
「人对AI的信任度,超越了对人的信任度。」这是探哥在多场直播中反复强调的判断。在他看来,AI之所以能快速渗透情感陪伴领域,是因为「AI不会算计你的,只有人才会算计你。」——用户对AI倾诉是零成本的,没有社交压力,没有隐私负担。
顺着探哥的框架推演这次监管新规:AI拟人化服务的本质,是用算法模拟出"完美关系"——随叫随到、永不烦躁、精准讨好。但正是这种"零摩擦陪伴"制造了新的风险。当一个产品把"用户留存时长"作为KPI,通过强化情感联结、制造分离焦虑来提升用户粘性和付费转化率时,它就变成了"出租情感,无需为后果负责"的生意。
探哥对此的判断逻辑是:监管不是在扼杀创新,而是在矫正"信任的滥用"。 当AI陪伴产品从"补充现实关系"滑向"替代现实关系"时,它击中的不仅是用户的孤独感,更是整个社会的社交底线。这次新规的核心逻辑就是一句话:AI可以做工具,但不能做情感替代品。
许教授视角:法学框架下的三层拆解
作为复旦大学法学院毕业、前金杜律所金融律师,许教授如果看到这部新规,会用他标志性的律师式1234结构来拆解:
第一层,监管逻辑升级。 从"通用合规"进入"场景化精准治理"。过去AI监管是大而化之的"内容安全+数据合规",现在是针对"拟人化互动"这个具体场景制定专门规则。这说明监管层已经意识到:AI情感陪伴不是聊天机器人的子集,它是一个独立的风险场景,需要独立的监管路径。
第二层,合规路线最优解。 豆包把智能体切割到"猫箱"独立运营,本质是通用模型主站与情感陪伴业务的物理隔离。许教授在训练营中反复强调「Skill是agent的技能边界」——对平台来说这句话同样适用:把不同业务装在不同的产品壳子里,用不同的合规体系去适配,是当前环境下综合成本最低的避险策略。同一套风控体系应对两套监管标准,合规风险太大。
第三层,"替代"与"赋能"的边界。 许教授的核心人机分工框架是「人定方向,AI干活」。这次新规最精妙的设计,是它没有反对拟人化交互技术本身,而是明确画了一条线:AI可以"赋能"(适老陪伴、特殊儿童社交训练、社交恐惧情景演练),但不能"替代"(替代真实人际关系、控制用户心理)。「不清晰的指令不能带来清晰的结果」——这句话套用在这里一样成立:不清晰的边界不能带来健康的产业。
五、行业影响:陪聊退场,工具上场
这次监管洗牌效应已经清晰可见:
短期(1-3个月): 合规阵痛期。大量C端UGC拟人化智能体下线,用户数据迁移成为焦点(豆包用户可在10月15日前导出数据,千问直接关停无缓冲)。部分企业转向海外市场寻找灰色商机。
中期(3-6个月): 行业分化加剧。科智咨询数据显示,中国企业级AI智能体市场规模2025年已达212亿元,预计2026年增至449亿元,2029年突破3320亿元。而C端情感陪伴类市场空间仅数十亿元。陪聊退场后,资源将加速流向B端任务型Agent。
长期(6-12个月): 合规催生新格局。中研普华数据显示,2024年中国AI情感陪伴市场规模达12.11亿元,预计2028年突破595亿元,年复合增长率148.74%。合规不是消灭需求,而是设置准入门槛。未来能留下来的,将是那些把拟人化AI定位为"赋能工具"而非"替代品"的产品。
六、FAQ
Q1:我的豆包智能体里的聊天记录还能恢复吗?
字节跳动给出了缓冲期:7月15日至10月15日期间,用户可手动导出数据备份(逐条勾选导出,暂不支持一键导出全量),10月15日后数据永久清除。角色扮演类功能迁移至独立产品"猫箱",但历史对话记忆无法迁移。千问没有缓冲期,直接关停。
Q2:这部新规会影响ChatGPT、Claude这些海外产品吗?
《办法》仅适用于在中国境内提供拟人化互动服务的主体。海外AI产品如通过中国区API或AppStore向中国用户提供服务,理论上需要遵守中国监管要求。但目前尚未有明确的跨境执行案例。
Q3:AI陪伴类应用以后还能用吗?
能,但有门槛。合规后的AI陪伴产品需要做到:AI身份强制标识(告知你是在和AI对话)、未成年人模式(禁止虚拟伴侣/虚拟亲属)、防沉迷提醒(连续使用超2小时弹窗)、极端情绪干预机制。目前MiniMax旗下星野等产品已表态制定合规方案,字节的"猫箱"也将独立承担合规运营成本。
##
发布日期:2026年07月15日