虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
南方财经全媒体记者 吴立洋 上海报道日前，2024中国家电及消费电子博览会（AWE）在上海新国际博览中心闭幕。作为一年一度的家电产业盛会，AWE既是各大厂商展示新技术与新产品的重要节点，也是 旅行推销员问题是一个经典的数学问题，也是一个组合优化问题。德国柏林弗雷大学和亥姆霍兹柏林能源与材料研究中心（HZB）科学家开展的一项新研究证明，量子计算机在解决旅行推销员问题上，相较于传统 21世纪经济报道记者孔海丽、实习生邓熙涵 北京报道“民以食为天，食与民同欢”，吃得健康、吃得安全是消费者长期以来的普遍共识。当代消费者已不止于填饱肚子，而是讲求“精耕细作”。消 21世纪经济报道记者雷晨 北京报道近日，国内AI领域的明星产品——Kimi智能助手，因流量激增遭遇了短暂的服务中断。月之暗面随后发布公告，对此次服务中断事件进行了说明，并采取了一系列紧 3月23日消息，京东与OPPO战略合作协议签约仪式举行，双方签订未来三年OPPO在京东全渠道实现销售额同比增长100%的目标。在签约仪式上，OPPO高级副CEO、首席产品官刘作虎表示，2024年线上突破是OPPO中国区 随着无人驾驶技术的快速发展，无人车在城市配送、环卫清扫、安防巡逻等应用场景中已得到较好示范应用。3月22日，南京溧水经济开发区管委会与南京易咖智车科技有限公司联合举办“金陵智地 易启未 。本文链接：北京：“虚拟数字人安全技术标准”征民意http://www.sushuapos.com/show-2-16302-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。