虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
虚拟主播走进直播间、数字客服值守政务大厅……虚拟数字人正以多元姿态融入社会生活的方方面面。近日，北京市地方标准《信息安全 虚拟数字人安全技术要求（征求意见稿）》，通过北京市市场监管局官方网站向社会公开征求意见。该标准从制作到应用、从数据到场景，为虚拟数字人构建起全链条安全技术规范，为快速成长的虚拟数字人产业划定了安全边界。该标准由市公安局提出、归口并组织实施。核心覆盖虚拟数字人制作安全与应用安全两大板块，覆盖数据、形象、模型、内容、系统、场景六个环节。
虚拟数字人的安全，始于制作环节的源头把控。北京青年报记者注意到，标准征求意见稿将制作安全细分为数据安全、形象制作安全、模型安全三个部分，旨在从源头预防风险。
在数据安全层面提出，虚拟数字人制作过程中应遵循“最小必要”原则，只采集实现虚拟数字人功能所必需的数据；采集用户面部、声音、动作等生物特征信息时，需要获得用户的明确同意；数据存储应采用加密技术对训练数据进行存储加密，支持数据脱敏处理，对姓名、身份证号等敏感字段进行去标识化或匿名化处理，并建立完善的数据备份和恢复机制；数据标注需对人员进行专业岗前培训，对每一批标注数据进行人工检测；服务终止后，相关数据需进行彻底不可恢复式删除并记录删除过程。
形象制作安全聚焦细节合规，要求服饰配饰素材版权合法、契合伦理规范；背景场景素材的版权应符合法律法规的要求，对场景模型中的纹理贴图、关键结构等信息进行加密存储和访问控制；支持日志检索和安全事件回溯。
模型安全贯穿设计、训练、部署全周期。设计阶段要开展风险评估，训练阶段要注意防范恶意数据污染与对抗攻击，部署阶段需强化访问控制、漏洞扫描，建立一键熔断或紧急冻结等应急机制，确保模型安全可控、稳定运行。
如果说制作安全是源头防护，应用安全则是终端风险防控的关键。标准征求意见稿针对交互内容、系统运行、场景适配三大方面提出安全要求。
交互内容安全首先要建立完善的内容审核机制，应采用技术手段，过滤交互内容中的虚假新闻、违法不良信息；特别应在虚拟数字人输出内容中添加清晰、明显的显式标识，如在文本首尾添加“AI生成”符号，在视频开场嵌入动态水印，为虚拟主播标注“数字人”身份等，让用户一眼可辨；还应在虚拟数字人输出内容中添加用于内容溯源、防伪、版权保护的隐式标识，并保证添加的隐式标识在压缩、裁剪、噪声干扰后仍能成功提取。
系统安全聚焦运行防护，要求动态生成并校验会话ID，防范会话劫持攻击；实时监测对抗样本攻击，及时阻断风险或降级服务，筑牢技术运行防线。
场景安全则适配不同行业特性，针对政务、金融、教育、社交娱乐、医疗辅助五大高频场景量身定制规范。如：在政务场景中，政务数字人应对政务审批、行政处罚、资金发放等高风险事项仅提供咨询指导，不应做出实质审批；在金融场景中，虚拟数字人应与真实服务人员、金融机构唯一绑定，采用多模态生物特征验证，操作权限分级管控，核心权限双人复核；在教育教学场景中，应针对未成年人使用的虚拟数字人应用设置未成年人模式，防范不良信息接触。此外，在社交娱乐场景中，虚拟数字人在社交过程中生成的输出内容应经过审核，虚拟数字人的账号应进行实名认证，防范虚假账号、恶意账号；在医疗辅助场景中，应将虚拟数字人身份与医疗机构、医护人员绑定，操作人员应具备相应资质，采用多因素认证，操作日志全程留存，虚拟数字人输出的医疗内容应经过专业医护人员审核确认等。
关于《信息安全虚拟数字人安全技术要求》的意见征求将于6月18日结束，社会各界可登录北京市市场监管局官网提出意见。文/本报记者 王薇
据英国《金融时报》网站3月13日报道，科学家们已经在利用人工智能(AI)阐释人体所谓的“黑暗基因组”，并开发一种可能很强大的癌症检测、监测和治疗新方法。美国约翰斯·霍普金斯大学的研 据埃菲社报道，多发性骨髓瘤是成年人中继淋巴瘤之后第二常见的血液肿瘤。最近，西班牙的一个科研团队开发出了一种新的免疫疗法来对抗它。实验室实验表明，这种新疗法比目前优先使用的免疫疗法更有 荷兰阿姆斯特丹大学医学院科学家开展的一项新研究证明，利用最新CRISPR-Cas基因编辑技术，能消除实验室中受感染细胞内所有艾滋病病毒（HIV）的痕迹，为治愈该病带来新希望。相关研究论文将提交于4月27 英国科学家首次创造了一个新颖的实验平台，即“量子龙卷风”。它能模拟超流体氦中的黑洞，使研究人员能更详细地观察类似黑洞的行为以及与周围环境的相互作用。通过对超流体氦表面微波动力学的观 3月18日，记者从中南大学生殖与干细胞研究所获悉，研究所林戈、卢光琇教授团队提出的一项新理论称，原始生殖细胞的性染色体组成在人类性别决定中起关键作用。相关论文日前发表于国际生殖领域杂志 3月23日消息，据最新爆料，vivo X100s Pro已经获得3C认证，估计 会在5月份前后发布。该机可以看做是vivo X100 Pro的小迭代机型，属于半代升级款，与去年X90s类似。新机从此前的天玑9300升级为天玑9300+，处 。本文链接：北京：“虚拟数字人安全技术标准”征民意http://www.sushuapos.com/show-2-16302-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。