国家网信办等四部门联合发布的《人工智能生成合成内容标识办法》,9月1日起将正式施行,所有AI生成的文字、图片、视频等内容都要“亮明身份”。针对这些内容在传播过程中该由谁来管?怎么管?
《人工智能生成合成内容标识办法》明确,人工智能生成合成内容是指利用人工智能技术生成、合成的文本、图片、音频、视频、虚拟场景等信息。人工智能生成合成内容标识包括显式标识和隐式标识。
平台在服务提供者的内容上架或上线时要进行审核,核验生成合成内容标识,对未标识或疑似生成内容要添加风险提示,从而在传播端阻断虚假信息扩散。
中国人民大学未来法治研究院执行院长 张吉豫:“标识办法”中进行检测分三个层次,如果平台是从元数据中检测出隐式标签,那么平台就可以标识这个内容是AI生成的,但是如果它只是通过一些算法推测这个内容是AI生成的,它应该是标识为疑似AI生成。
针对目前由于技术的局限性而导致的部分原创内容被误判为AI生成,创作者权益受损等情况,法学专家指出,当前的算法仍然存在数据偏差和场景适配不足等问题,在误判率难以归零的情况下,应当建立相应的保障机制。
张吉豫:未来相关平台进行了分级标识后,其实也应该建立分级的处理办法,比如说对于明确它是AI生成的,通过隐式标识确定的,应该采取更严格的措施,但是对于很多应该标识为疑似AI生成的,应该提供更便捷的用户反馈渠道,也不宜对用户进行严肃的惩罚。
法学专家建议,首先网络服务提供者要公开算法原理及误判样本数据,提升透明度;其次要设立申诉渠道,允许用户提交证据申请复核,从而保证监管与创作自由的平衡。
让生成内容看得见查得着 以规范促发展
据记者了解,截至目前,我国已有490余款大模型在国家网信办完成备案,240余款大模型在省级网信办完成登记,我国生成式人工智能产品的用户规模已达2.3亿人。“标识办法”的施行,会对行业、个人用户,以及相关技术的发展带来哪些影响?
据记者了解,作为我国人工智能领域首部“办法+强标”的组合拳,强制性的国家标准《网络安全技术人工智能生成合成内容标识方法》将于9月1日与《人工智能生成合成内容标识办法》同步施行,在监管维度建立审核、监测、追责的闭环机制,在技术维度规范标识体系并预留创新空间。
中国社科院法学所研究员 支振锋:特别要提出的是这种生成式人工智能治理,我们一系列国家法律法规,还有规范性文件以及标准,一个很重要的治理目的是以规范促发展,通过治理和规范去净化互联网市场,净化网络信息内容、生态空间,从而促进人工智能特别是生成式人工智能,它的规范运用和健康良性的发展,实际上还是通过规范去促进发展的。
另外,据专家介绍,高质量数据对生成式人工智能产业发展至关重要,基于错误或不完整的数据作出的决策可能偏离正确方向,不符合法规要求的数据可能带来法律风险。如果未经标识的内容进入公开数据领域,被大模型用于预训练会出现数据污染等情况,最终会导致技术可信度的大大降低,而“标识办法”的出台,正是从源头破解这一困局的关键举措。
张吉豫:对于人工智能企业去选择相应的训练数据能够起到很好的指引,特别是所有的这样的生成内容都需要进行隐式的标识,这些标识是很便捷的,可以被机器检测的,就可以很便捷的去筛选哪些可能的内容是机器产生的,也便于他们去进行训练的选择。
有利于公平竞争 减少侵权诈骗等问题
据专家介绍,在《人工智能生成合成内容标识办法》以及强制性的国家标准同步施行的情况下,标识的存在也会对大规模搬运人工智能直接生成内容的行为进行拦截,让内容平台有了更明确的合规要求和管理程序,有利于降低总体的审核运营成本。
据法学专家介绍,《人工智能生成合成内容标识办法》的施行有利于公平竞争和有效管理。
首先,强制“标识”有利于保护传统内容产业,能在一定程度上降低AI技术带来的冲击;
另外,通过标识可以追溯AI生成内容的来源,减少因AI生成内容引发的侵权、诈骗等问题,维护个人隐私和财产安全。
支振锋:这些生成人工智能服务的使用者,比如说自媒体账号、博主,他们要使用这些服务的话,他们自己也有合规的要求,特别是一些MCN机构,一些自媒体账号,它其实背后有公司在运营,他们都有这样的合规义务,都要按照这个办法,还有国家标准去做生成合成内容的标识。
据法学专家介绍,“标识办法”与《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等法规充分衔接。其中,服务提供者在履行算法备案、安全评估等手续时,相关材料可能涉及标识的技术细节,如水印算法、元数据格式、服务商编码等,这些信息能够帮助执法部门在发现违法内容时快速识别内容来源,追踪到服务提供者或者用户。
来源:央视新闻客户端
新快报讯 3月1日,经拱北海关所属斗门海关检验检疫合格,一批珠海市振盟肉禽有限公司的1034只生鲜鸡肉顺利装车,随后经港珠澳大桥通关出口运往澳门,1个小时后,就出现在澳门市场销售。 斗门海关关员对供澳生鲜鸡进行监管 浙江通超工贸有限公司(简称“通超工贸”)于近日签约入驻企知道科创空间,以专业的大数据科创管理平台,助力自身更高阶发展。作为一家专业从事开发、生产橡胶制品的民营企业,通超工贸经过多年的发展,在国内高 最近一段时间以来,菲律宾频繁在中国黄岩岛和仁爱礁及其附属海域进行对抗性活动,加剧了南海紧张局势。菲律宾政客在国际场合发表煽动性言论,散布“中国威胁论”,试图抹黑中国正常的维权行动。针对菲律宾 *** 马纳罗在东盟- 在今年的政府工作报告中,为系统解决强国建设、民族复兴进程中一些重大项目建设的资金问题,从今年开始拟连续几年发行超长期特别国债,专项用于国家重大战略实施和重点领域安全能力建设,今年先发行1万亿元。 适度加力 促进 2024年3月5日,北京玻色量子科技有限公司(以下简称“玻色量子”)与深圳华大生命科学研究院(以下简称“华大研究院”)达成战略合作。此次签约,恰逢十四届全国人大二次会议,李强总理作政府工作报告时提出:在未来 在当下这个充满变革与创新的时代,“新质生产力”正成为推动社会进步的重要力量。新质生产力以其高科技、高效能、高质量的特性,正在逐渐替代传统的经济增长方式和生产力发展路径,引领着各行各业走向更加 。本文链接:9月起AI生成内容必须“亮明身份”http://www.sushuapos.com/show-1-49348-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 中国女排1比3不敌法国队,无缘世锦赛八强