知名央视主持人现身网络直播间?竟然还播报起虚假广告?近日,北京市场监管部门查处了首例利用人工智能(AI)技术进行虚假广告宣传的案件。北京一公司在直播中宣称其产品能够治疗多种疾病,而实际该产品仅为普通食品,不具备疾病治疗功能。此外,直播中还出现了知名央视主持人的形象,经鉴定,该形象完全是利用AI技术伪造生成。
近年来,人工智能技术日益成熟,“AI换脸”的技术门槛大幅降低,如今仅凭一张图片、一段声音,就能生成高度逼真的伪造视频。这让一些不法商家心生歹念,利用AI深度伪造科学家、医生、运动员、演员等知名人士的面容和声音,炮制出一个个AI“李鬼”。
这类新型违法行为不仅侵犯了被仿冒者的合法权益,营造出“权威背书”的假象对公众实施欺诈,给内容安全带来挑战,更蚕食着社会赖以运转的信任基础。当作假的图像被AI包装成“有鼻子有眼”的视频肆意扩散,当仿冒的名人形象在直播间里一本正经兜售伪劣商品,当电信诈骗者的声音和容貌竟然与受害者的家人一模一样……在AI生成内容纷繁复杂的今天,倘若“眼见为实”不复存在,社会信任又该如何维系?
为解决AI生成内容以假乱真的问题,今年9月,我国《人工智能生成合成内容标识办法》正式施行。该办法明确要求所有AI生成的文字、图片、视频等内容必须添加显式标识“亮明身份”,同时鼓励添加数字水印等隐式标识,让公众明确知道哪些内容可能源自AI生成。既然已有规定,有关部门就应加大监管和执法力度,对违反相关规定的平台和个人依法查处,形成震慑。此次北京市场监管部门查处相关案件,就开了个好头,释放出对“AI造”加强监管的强烈信号。
内容传播平台、AI生成服务平台和应用程序分发平台则要尽到相应的责任义务,落实好有关要求,进一步优化AI识别技术,加强鉴伪追溯能力,与监管部门同向发力,守好“真实”的边界。与此同时,广大网民也要保持警惕,加强对信息真伪的甄别,不被虚假信息蒙蔽双眼。
当前,我国人工智能技术正在飞速发展,针对不同应用场景的安全标准和法律准则在不断完善中。构建良好网络生态,需要各方共同努力,把“眼见为实”的网络空间还给我们每个人,守护好社会信任的根基。
中新经纬1月12日电 中国饭店协会、中国旅游饭店业协会、中国循环经济协会、中国消费者协会12日联合发文,倡议住宿业减少一次性塑料用品使用。 倡议称:一、深刻认识住宿业在塑料污染治理中的社会责任,高度重视塑料 中新经纬1月11日电 农业农村部种植业管理司消息,2023年12月中旬以来冷空气活动频繁,中东部大部地区气温低于常年同期,蔬菜生长受阻,生产管理成本增加,蔬菜地头价环比上涨较多,但随着寒潮天气过程结束,近期蔬菜价格趋于平 农工党中央召开两会情况通报会农工党中央拟向全国政协十四届二次会议提交34件中央提案、26件界别小组提案中国改革报、中国发展网记者田新元2月20日,在全国两会即将召开之际,农工党中央在京召开中央和 “奥德修斯”着陆!时隔50多年美国航天器首次登月 中新网2月23日电 综合美媒报道,当地时间22日,美国“直觉机器”公司研发的月球着陆器“奥德修斯”在月球着陆。 美国全国广播公司(NBC)称,这是时隔50多年美国航 印度等不及了!当地制药商开始仿制“减肥神药” 财联社2月22日讯(编辑 夏军雄)为了从新型减肥药市场分一杯羹,印度制药商已经开始开发他们自己版本的“减肥神药”。 作为新一代减肥药物,诺和诺德的Wegovy和礼来 独家 | 库迪咖啡回应闭店:自开业以来总共闭店解约门店数为61家 2月22日每经快讯,自去年末起,不断有库迪联营商在小红书等社交媒体上发帖称库迪出现供应链问题、品牌现金流疑似出现危机,称有很多库迪联营商正在撤离 。本文链接:管住AI造假,留住社会信任http://www.sushuapos.com/show-5-73602-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。