7月15日,《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式实施。
在业内看来,作为国内首个针对AI情感陪伴的专项新规,《办法》既不全盘否定拟人交互技术价值,又针对性约束人机情感交互衍生的各类风险,体现了发展与安全并重的治理导向。
新京报记者注意到,当日下午,此前宣布在7月15日下线智能体功能的豆包和千问,在其App“智能体”分栏界面仍可以进入并使用相关推荐功能,但豆包App已无法完成创建AI智能体,千问App则有“智能体服务下线提醒”弹窗。到了晚上,豆包App下方已不再有“智能体”分栏。
业内人士分析称,头部平台的调整不等于放弃智能体赛道,更大程度还是风险隔离。从中长期看,AI拟人化赛道不会萎缩,而是完成结构性分化,形成两条清晰并行的发展路径:工具型智能体将成为行业主流,合规情感类拟人服务则走向精细化、垂直化发展。
千问App“智能体服务下线提醒”弹窗。 千问App截图
新规划定哪些红线?
避免单纯制造情绪依赖 不得向未成年人提供虚拟亲密关系服务
《办法》明确,利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务纳入监管。提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,则不在监管范畴内。
同时,《办法》提出,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管,促进拟人化互动服务向上向善。
此前,国家网信办有关负责人就《办法》答记者问时表示,随着人工智能技术的快速发展,拟人化互动服务已成为重要应用方向,通过模拟人类情感和沟通方式,带来了新的发展机遇和人机交互体验,在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。制定《办法》,是积极回应风险挑战、促进人工智能拟人化互动服务健康发展和规范应用的重要举措。
关于未成年人权益保护,《办法》明确,拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务或者处理其个人信息的,应当取得未成年人的父母或者其他监护人的同意;要求建立未成年人模式,提供定期现实提醒等个性化安全设置选项;明确针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
国研新经济研究院创始院长朱克力表示,新规禁令落地后,平台必须改造产品交互逻辑,弱化单向情绪迎合,增加现实社交提醒、时长管控,从产品设计层面杜绝情感操纵,同时彻底清退面向未成年人的虚拟亲密角色,从源头守护青少年心理健康。
“新规将给行业带来多重长期正向改变。首先,厘清赛道边界,把工具型AI和情感陪伴类拟人服务明确区分,避免一刀切管控,办公、教学、科研类智能工具不受约束,保障生产力类AI正常创新落地。其次,倒逼行业价值回归,引导企业从单纯制造情绪依赖、收割流量,转向适老陪护、文化科普、特殊人群心理支持等正向民生场景,挖掘拟人交互的社会价值。此外,建立全流程责任体系,压实平台审核、数据保护、未成年人保护主体责任,淘汰风控能力薄弱、逐利无底线的中小厂商,推动行业规范化、高质量发展,构建可持续的产业生态。”朱克力如是说。
7月15日晚上,豆包App下方已不再有“智能体”分栏。 豆包App截图
AI聊天平台如何整改?
豆包取消“智能体”分栏 千问提示下线 历史对话记录将无法继续访问
对于未成年人来说,新规防护重点之一是色情,情感依赖则是另一重隐忧。
7月15日,记者搜索投诉平台发现,截至目前,有关智能体的投诉达344条。有用户投诉称,自己购买了某App“AI女友”会员服务,协议说明可无限制聊天,但后来需要升级成为高级会员才可享受该服务。
此外,有自称未成年人投诉称,其在某App上充值购买虚拟币、付费解锁自建虚拟陪伴人设,但服务已进入“合规调整”阶段,并未收到平台提前通知且找不到客服入口。投诉还称“使用过程中App频繁弹窗强制修改我的付费人设,暧昧陪伴类角色全部受限,付费买的聊天功能大幅缩水”。
早在7月初,作为头部平台,豆包和千问相继宣布,智能体功能7月15日正式下线。当天下午,记者分别登录豆包App和千问App发现,“智能体”分栏界面仍可以进入并使用相关推荐功能,但豆包App已无法完成创建AI智能体,千问App则有“智能体服务下线提醒”弹窗。
当日晚上,豆包App下方已不再有“智能体”分栏。
据豆包智能体功能下线通知,该功能下线后,用户可在一段时间内查看并自行保存智能体信息及历史对话数据。2026年10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,后续将无法在豆包内查看或恢复。
值得注意的是,上述通知提到,字节跳动旗下的猫箱App可创建新的智能体、开启对话服务,如有需要,后续可在猫箱App开启智能新体验。
千问在智能体服务下线提醒中称,下线后,用户将无法继续访问相关智能体配置及历史对话记录。
对此,有用户说“玩了快一年,豆包真的很会安慰人”,也有用户直言“跟智能体聊了好多”“心碎了”。
朱克力认为,头部AI聊天平台在新规正式实施之际,同步下线相关智能体功能,更多是出于风险管控的理性合规选择。尤其是,平台无法对大量的用户自建智能体实现全覆盖事前审核,关停创建入口是规避重大合规风险的稳妥方案。
“头部平台的调整不等于放弃智能体赛道,更大程度还是风险隔离。这一操作释放明确行业信号:通用大模型主站不再开放无门槛UGC角色生成功能,若后续布局合规情感拟人服务,会单独拆分独立垂直产品,配套专属审核、未成年人防护体系。短期调整会带来用户体验阵痛,但长期能帮助平台厘清业务风险,推动智能体赛道回归工具赋能的核心定位。”朱克力强调,从中长期看,AI拟人化赛道不会萎缩,而是完成结构性分化,形成两条清晰并行的发展路径:工具型智能体将成为行业主流,合规情感类拟人服务则走向精细化、垂直化发展。
7月15日,《人工智能拟人化互动服务管理暂行办法》(以下简称《办法》)正式实施。
在业内看来,作为国内首个针对AI情感陪伴的专项新规,《办法》既不全盘否定拟人交互技术价值,又针对性约束人机情感交互衍生的各类风险,体现了发展与安全并重的治理导向。
新京报记者注意到,当日下午,此前宣布在7月15日下线智能体功能的豆包和千问,在其App“智能体”分栏界面仍可以进入并使用相关推荐功能,但豆包App已无法完成创建AI智能体,千问App则有“智能体服务下线提醒”弹窗。到了晚上,豆包App下方已不再有“智能体”分栏。
业内人士分析称,头部平台的调整不等于放弃智能体赛道,更大程度还是风险隔离。从中长期看,AI拟人化赛道不会萎缩,而是完成结构性分化,形成两条清晰并行的发展路径:工具型智能体将成为行业主流,合规情感类拟人服务则走向精细化、垂直化发展。
千问App“智能体服务下线提醒”弹窗。 千问App截图
新规划定哪些红线?
避免单纯制造情绪依赖 不得向未成年人提供虚拟亲密关系服务
《办法》明确,利用人工智能技术,向境内公众提供模拟自然人人格特征、思维模式和沟通风格的持续性的情感互动服务,包括通过文字、图片、音频、视频等形式,提供的情感照护、陪伴、支持等互动服务纳入监管。提供智能客服、知识问答、工作助手、学习教育、科学研究等服务,不涉及持续性的情感互动的,则不在监管范畴内。
同时,《办法》提出,鼓励拟人化互动服务创新发展,对拟人化互动服务实行包容审慎和分类分级监管,促进拟人化互动服务向上向善。
此前,国家网信办有关负责人就《办法》答记者问时表示,随着人工智能技术的快速发展,拟人化互动服务已成为重要应用方向,通过模拟人类情感和沟通方式,带来了新的发展机遇和人机交互体验,在文化传播、适幼照护、适老陪伴等领域展现出巨大潜力,但也带来了危害未成年人身心健康、影响网络信息安全、威胁公民生命健康以及加剧伦理偏差等风险。制定《办法》,是积极回应风险挑战、促进人工智能拟人化互动服务健康发展和规范应用的重要举措。
关于未成年人权益保护,《办法》明确,拟人化互动服务提供者不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务;向不满十四周岁未成年人提供其他拟人化互动服务或者处理其个人信息的,应当取得未成年人的父母或者其他监护人的同意;要求建立未成年人模式,提供定期现实提醒等个性化安全设置选项;明确针对不同年龄段未成年人保护需要,支持监护人接收安全风险提醒、了解未成年人服务使用概况、屏蔽特定角色、限制充值消费等。
国研新经济研究院创始院长朱克力表示,新规禁令落地后,平台必须改造产品交互逻辑,弱化单向情绪迎合,增加现实社交提醒、时长管控,从产品设计层面杜绝情感操纵,同时彻底清退面向未成年人的虚拟亲密角色,从源头守护青少年心理健康。
“新规将给行业带来多重长期正向改变。首先,厘清赛道边界,把工具型AI和情感陪伴类拟人服务明确区分,避免一刀切管控,办公、教学、科研类智能工具不受约束,保障生产力类AI正常创新落地。其次,倒逼行业价值回归,引导企业从单纯制造情绪依赖、收割流量,转向适老陪护、文化科普、特殊人群心理支持等正向民生场景,挖掘拟人交互的社会价值。此外,建立全流程责任体系,压实平台审核、数据保护、未成年人保护主体责任,淘汰风控能力薄弱、逐利无底线的中小厂商,推动行业规范化、高质量发展,构建可持续的产业生态。”朱克力如是说。
7月15日晚上,豆包App下方已不再有“智能体”分栏。 豆包App截图
AI聊天平台如何整改?
豆包取消“智能体”分栏 千问提示下线 历史对话记录将无法继续访问
对于未成年人来说,新规防护重点之一是色情,情感依赖则是另一重隐忧。
7月15日,记者搜索投诉平台发现,截至目前,有关智能体的投诉达344条。有用户投诉称,自己购买了某App“AI女友”会员服务,协议说明可无限制聊天,但后来需要升级成为高级会员才可享受该服务。
此外,有自称未成年人投诉称,其在某App上充值购买虚拟币、付费解锁自建虚拟陪伴人设,但服务已进入“合规调整”阶段,并未收到平台提前通知且找不到客服入口。投诉还称“使用过程中App频繁弹窗强制修改我的付费人设,暧昧陪伴类角色全部受限,付费买的聊天功能大幅缩水”。
早在7月初,作为头部平台,豆包和千问相继宣布,智能体功能7月15日正式下线。当天下午,记者分别登录豆包App和千问App发现,“智能体”分栏界面仍可以进入并使用相关推荐功能,但豆包App已无法完成创建AI智能体,千问App则有“智能体服务下线提醒”弹窗。
当日晚上,豆包App下方已不再有“智能体”分栏。
据豆包智能体功能下线通知,该功能下线后,用户可在一段时间内查看并自行保存智能体信息及历史对话数据。2026年10月15日后,豆包将根据《隐私政策》对智能体相关数据进行处理,后续将无法在豆包内查看或恢复。
值得注意的是,上述通知提到,字节跳动旗下的猫箱App可创建新的智能体、开启对话服务,如有需要,后续可在猫箱App开启智能新体验。
千问在智能体服务下线提醒中称,下线后,用户将无法继续访问相关智能体配置及历史对话记录。
对此,有用户说“玩了快一年,豆包真的很会安慰人”,也有用户直言“跟智能体聊了好多”“心碎了”。
朱克力认为,头部AI聊天平台在新规正式实施之际,同步下线相关智能体功能,更多是出于风险管控的理性合规选择。尤其是,平台无法对大量的用户自建智能体实现全覆盖事前审核,关停创建入口是规避重大合规风险的稳妥方案。
“头部平台的调整不等于放弃智能体赛道,更大程度还是风险隔离。这一操作释放明确行业信号:通用大模型主站不再开放无门槛UGC角色生成功能,若后续布局合规情感拟人服务,会单独拆分独立垂直产品,配套专属审核、未成年人防护体系。短期调整会带来用户体验阵痛,但长期能帮助平台厘清业务风险,推动智能体赛道回归工具赋能的核心定位。”朱克力强调,从中长期看,AI拟人化赛道不会萎缩,而是完成结构性分化,形成两条清晰并行的发展路径:工具型智能体将成为行业主流,合规情感类拟人服务则走向精细化、垂直化发展。
“极严重灾害”!日本能登地区地震已致213人遇难 中新网1月11日电 综合日媒报道,日本石川县11日公布的最新统计数据显示,能登地区地震已致213人死亡、52人下落不明。 报道称,日本政府在11日举行的内阁会议上还决 锦绣中国年 | 天津重点监测商贸企业春节假期销售额同比增11.2% 中新网天津2月18日电 (记者 王君妍 通讯员 王 张欣悦)今年春节假期为期8天,是一个“超级假期”,消费市场火爆程度也尤盛往日。记者从天津市商务局 追加补贴 美国打响全球半导体“军备竞赛” 当地时间2月21日,美国芯片巨头英特尔在加州圣荷西举办首次晶圆代工活动。美国商务部长吉娜・雷蒙多在活动上表示,如果美国想在半导体领域“引领世界”,就要进一步加 2024年北京将开通运营3条地铁线路 昨天,北京市重大项目建设指挥部召开轨道交通建设工作动员部署会。北京青年报记者从会上获悉,《2024年北京市城市轨道交通建设计划》正式发布,今年北京轨道交通将实现3号线一期( 冲上热搜!瑞幸9.9元咖啡有重大变化 每经记者 杨昕怡 每经编辑 卢祥勇 刘雪梅 瑞幸似乎不再恋战。 近日,当节后复工的上班族们想点一杯咖啡“续命”时,意外发现瑞幸9.9元优惠券的可使用范围大幅缩水。“ 贵州毕节:蓄势赋能谋发展 高质量推进新型工业化 中新网贵州毕节2月22日电 题:贵州毕节:蓄势赋能谋发展 高质量推进新型工业化 作者 高大涛 陈曦 中国龙年春节假期,贵州省毕节市黔西市新仁乡化屋村游人如织。 。本文链接:AI情感陪伴戴“紧箍”头部平台切割忙http://www.sushuapos.com/show-5-108278-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 离校未就业毕业生就业服务“不断线”
下一篇: AI作品接连获奖 传统赛事如何应对?