设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

AI换脸、声音克隆……人工智能的滥用到底怎么治?

发布时间: 2025-08-25 09:24:57 来源:

新闻周刊丨人工智能的滥用,到底怎么治?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

声音和形象被AI合成滥用的事儿正变得越来越多。比如本周,奥运冠军全红婵、王楚钦等人的声音被AI克隆,卖起了所谓的“土鸡蛋”。不少配音演员也站出来维权,因为他们赖以生存的声音,如今可以被AI一键复制,随意地使用。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

这不禁让我们越来越担心,当我们的声音和面容到了如此轻易被人挪用的地步,人与人之间的信任该如何维系?AI的发展速度正越来越快,我们该如何用监管和立法守住底线?《新闻周刊》本周关注:人工智能的滥用,到底怎么治?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

AI换脸、声音克隆等合成技术滥用jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

让“耳听眼见”未必为实jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

这是配音演员孙晨铭的原声,而这段,是某自媒体账号通过AI克隆其声音生成的配音作品。如果没有提示,谁能分辨出两者之间的差异呢?也是在最近,孙晨铭还发现,一家房产公司同样未经授权,就对他的配音作品进行了AI克隆,用在了公司的企业宣传片中。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

声音被AI克隆,并被用于各种各样的商业场景,对于孙晨铭和同行们来说,已经不是什么新鲜事儿。有人给孙晨铭发来民法典的法条,声音权和肖像权一样,是公民不可侵犯的权益。于是,不少配音演员自发到那条企业宣传片的评论区集体留言,压力之下,这家房产公司,向孙晨铭支付了版权费用。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

本周,本台也曝光了利用AI技术仿冒奥运冠军全红婵进行带货的案例。这种AI伪造技术,已让不少名人深受其害。微信平台今年1月的公告显示,一个月内,就处置了1.2万条利用AI仿冒名人进行违规拼接、不当营销和恶意博取流量的内容,关闭了3281个相关账号。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近日,北京互联网法院也审结一起案件,被告擅自使用大学教师李女士的肖像和AI合成声音进行图书宣传,最终法院判定,该行为侵犯了李女士的肖像权和声音权益。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

北京互联网法院综合审判三庭(少年法庭)庭长 颜君:往往这种案件的受侵害的一方都是有一定社会知名度的名人,因为他会带来相应的社会认可度、认知度,他的声音和他的肖像有一定的商业利用价值。更重要的是如果这个带货的内容,比如说带的是伪劣产品或者是虚假宣传的内容,有可能极大的消解这位名人他的社会认知度、认可度和信任度。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

这段AI视频,生成于两年前,当时的技术,人脸画面还显得僵硬与不自然;而到了去年7月,南京玄武区法院审理的案件中,一名男子通过AI换脸软件,就成功突破了某支付平台的人脸识别系统。人工智能技术的飞速发展,已经使真与假之间的界限,开始变得难以分辨。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

配音演员 武扬:从今年开始,我确实发现一些宣传片,他们AI的训练可以达到以假乱真的程度,在70%到80%的平稳叙述的范畴里面,AI都是可以处理得很好的,甚至我本人去听也需要长时间辨别,是不是我本人录的。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

中国信通院人工智能所安全部高级业务主管 陈文弢:其实对于生成一个肉眼分辨不出来的这种视频,在前几年来说,难度是比较高的,需要一定的技术门槛,但是这几年出现了一些这种简捷化的工具,可以从开源社区上直接下载。它可以用消费级的笔记本单机来部署,一张照片就能够完成实时换脸。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

耳听为虚,眼见为实,这句古话正面临巨大挑战。AI换脸、声音克隆等合成技术的滥用,让“耳听眼见”都未必为实。对于配音演员孙晨铭来说,AI滥用直接影响到他的生计,赖以谋生的声音,正成为被随意复制的免费素材。迎面而来的AI时代,让他看不清自己的未来将通向何方。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

我们正在进入“全民AI时代”jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

监管能不能够跟得上呢?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

如今,AI合成视频已经能做到以假乱真,不得不需要新的技术来辨别。技术成熟的速度令人惊叹,而使用门槛也大幅降低。一部手机、几个软件,普通人就能轻松生成文字、图片、音频、视频等各类内容。可以说,我们正在进入一个“全民AI时代”。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

然而,技术的普及势必会带来AI的滥用:从人脸和声音被合成冒用,到各类低俗猎奇视频的传播,再到漫天谣言的背后,AI都成了核心“推手”。每隔一段时间,新的问题就会涌现。所以,在技术开始狂奔的局面下,我们需要关注监管,能不能够跟得上呢?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

精致的五官、灵动的眼神、流畅的动作,如果没有相关标注,你是否能分辨出,这是一个完全由AI生成的数字人?在短视频平台,类似的视频比比皆是,还有不少视频,直接提供免费的AI软件以及使用教程。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

一部手机、两三个 AI 软件,几分钟就能制作一段时长五秒左右的美女跳舞视频。AI生成合成技术的飞速发展,正在累积着治理风险。去年,抖音安全中心曾发布公告,表示已发现多种不当使用AI技术生成虚拟人物的行为,其中就包括利用AI生成俊男美女虚假形象,骗取互动,将用户导流至私人聊天工具,甚至进行诈骗。根据抖音平台本周五提供的数据,他们最近一周处置的AI虚假违规内容量,相比2025年第一周,增长了62%。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

事实上,从2023年开始,抖音等多家平台陆续要求,发布人工智能生成内容时,需添加“内容由AI生成”的标识,并且也会进行监测和处置。但是,执行效果并不尽如人意。并且有自媒体博主表示,一些平台的监测手段可以破解,比如一些AI工具配置有镜像文件,其一键生成的虚拟人像,就能规避平台的监测。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

自媒体博主:很少。你看我作品我十四个里面就一两个会有。如果它给你出判定为AI作品,你可以把作品下架,然后再重新发一个。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

中国信通院人工智能所安全部高级业务主管 陈文弢:如果说打上了这个标识,你只看可能就觉得它是由AI生成的,可能就不是特别的可信,所以这是从用户的角度,他是不愿意打这个标的。从技术的这个角度来看,如果说想完全满足监管的这个要求,把所有的生成合成的视频都识别出来,这个其实难度还是很大的。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

相比视频、图像,在专家看来,AI生成的文字谣言,监管起来其实更加困难。去年,江西南昌就破获一起AI造谣案件,相关机构利用AI软件,一天最多能生成4000—7000篇谣言文章,工作量惊人。更让人担忧的是,AI算法还能匹配用户喜好,定制化的生成谣言,使AI谣言变得越来越真假难辨。今年3月,某自媒体账号发布全国首例“AI医疗误诊”诉讼案开庭的文章,时间、地点、人物甚至庭审争议焦点等细节满满,不过,经过记者与法院核实,所有内容都是AI编造的假信息。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

目前,尽管一些平台设置了相应“谣言库”,通过设置热点关键词来屏蔽谣言。但一些机构利用AI模型针对性地进行对抗训练,使用近义词或类似表达,就可以绕过筛查。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

今年4月以来,中央网信办开展了为期三个月的“清朗·整治AI技术滥用”专项行动,AI换脸拟声、AI内容标识缺失等乱象,都是整治重点。6月,网信办公布专项行动第一阶段成果,累计处置违规小程序、应用程序、智能体等AI产品3500余款,清理违法违规信息96万余条,处置账号3700余个。如今,三个月的专项行动已经结束,但监管与AI滥用之间的拉锯战,显然才刚刚开始。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

联合国高级别人工智能咨询机构中方专家 中国政法大学数据法治研究院教授 张凌寒:我们可能更要设定一个目标,就是能够在AI应用爆发之后,我们在这几年要把整个AI滥用生成虚假内容实现在一个可控的范围之内。这个可控的范围是指说我们不能够让广大老百姓因为这个去发生重大的人身财产的损失,同时也要尽量减少这种AI的内容虚假宣传造成社会舆论的动荡。这是我们的一个红线和底线。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“内容由AI生成”jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

能改变AI滥用的现状吗?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

人工智能,正以前所未有的速度改变世界,它不仅是科技创新的前沿,更是国家间战略博弈的新高地。相关产业的发展固然重要,但通过监管和立法为它划定边界,也同样显得十分紧迫。因为科技的进步本身并不足以确保人类的进步,更重要的是通过规则为它校准方向。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

说到规则,关于AI合成内容,几天后的9月1日,网信办等四部门印发的《人工智能生成合成内容标识办法》将开始施行,它明确规定服务提供者,应当对文本、音频、图片、视频等生成合成内容,在适当位置添加显式标识,也就是说今后所有AI作品必须亮明身份,标注是AI生成。它的实施,能改变当下AI出现滥用的现状吗?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在某短视频平台上,一条生成式视频的左下角“标注着”作者声明:内容由AI生成,而这样的标注义务,在即将于9月1日实施的《人工智能生成合成内容标识办法》中,得以进一步明确,在人工智能生成合成内容的全生命周期,都要履行标识义务。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

北京抖音信息服务有限公司副总编辑 全森:这个标识办法要求AI技术服务提供者,对文件(元数据)内容进行隐式标识。这样一个核心的链路解决了最大的卡点,这个卡点就是技术服务平台与内容传播平台之间,数据难以互通的一个卡点。解决了这个卡点之后,我们预计很大程度上解决了这个AI难以识别的问题。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

马上就要实施的这个《标识办法》,从人工智能生成合成内容的生产、传播和使用等环节入手,对标识制度进行了系统性的细化和规范。而随着深度合成技术日益逼真,逃避审查的手段不断升级,人工识别的难度越来越高,相应的法规和机制,也需要不断应对挑战。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

推进生成式人工智能标识制度的建立,已经成为世界各国的共识。而在专家看来,中国在该领域的立法起步相对较早,2023年施行的《互联网信息服务深度合成管理规定》,就在世界范围内,在相关法规中首次明确提出生成式人工智能标识义务。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

在专家看来,即将实施的《标识办法》,还只是一个规范性文件,在整个立法体系中位阶较低。如果站在更高的维度观察人工智能立法,安全、隐私、公平等都是必须直面的核心问题。今年,人形机器人行业进入快车道,机器人逐渐与人实现面对面,甚至是接触式交流。在深圳的一家养老机构,养老机器人,不仅可以带老人跳舞,扶着走路,还能陪打乒乓球、递水等,可谓多才多艺。面对着养老新朋友,有老人既兴奋又担心,机器人真的安全吗?jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

经过多年探索,我国已初步构建起涵盖多层次、多维度的人工智能法律框架,但仍需要一部具有统领性的人工智能高位阶立法,予以统一规范。在国务院公布的2024年度立法工作计划中,曾明确“预备提请全国人大常委会审议人工智能法草案”,而《全国人大常委会2025年度立法工作计划》的相关表述则是,“人工智能健康发展等方面的立法项目,由有关方面抓紧开展调研和起草工作,视情安排审议”,显然,一部中国的人工智能法,正在加紧推进之中。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

对于人工智能,有人把它比作是潘多拉魔盒,在释放出无限可能的同时,也会带来难以预知的风险。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

而前不久在上海举办的世界人工智能大会上,图灵奖得主辛顿的演讲,也在提醒所有人,要对AI保持足够的警觉。他把人类与AI的关系,比作饲养一只老虎,老虎长大后可能轻易超越人类,而且人类没有摆脱和消除它的选项,人类想要生存,必须找到办法训练AI。而如何训练出比人更聪明的“好AI”,是我们从来没有遇到过的巨大的机会和挑战。jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

正如中国那句老话,“人无远虑,必有近忧”,在AI的问题上,我们必须要看得更远,才能走得更好。(来源:央视新闻客户端)jPU速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  2024年春节档观众满意度调查结果显示:4部影片超85分  中新网北京2月18日电(记者 上官云)记者从中国电影艺术研究中心获悉,中国电影观众满意度调查?2024年春节档调查结果显示,春节档观众满意度得分85.9分,为2015年以   2024年春节档票房创中国影史新高  中新社北京2月17日电 (记者 高凯)据灯塔专业版数据,截至北京时间2月17日13时50分,2024年春节档总票房达78.44亿元(人民币,下同),超过2021年春节档(78.43亿元),打破中国影史春节档票 新华社记者周楠、余春生、谢奔“路上快要结冰了,开车要注意安全。”2月21日中午,在省道S306茶垭段,寒风瑟瑟,湖南省桑植县竹叶坪乡政府工作人员李雅敏正和同事对过往车辆进行警示提醒。气象部门分析,受强   2月电影票房破100亿,传媒板块多股涨停,行业有望持续繁荣  2月23日,传媒板块盘中持续走强,截至发稿,宣亚国际20%涨停,赛因集团涨超19%,文投控股、天威视讯、中视传媒等多股涨停,川网传媒、百纳千成涨超8%。  消息上,据   贵州毕节:蓄势赋能谋发展 高质量推进新型工业化  中新网贵州毕节2月22日电 题:贵州毕节:蓄势赋能谋发展 高质量推进新型工业化  作者 高大涛 陈曦  中国龙年春节假期,贵州省毕节市黔西市新仁乡化屋村游人如织。   中新经纬2月22日电(王玉玲 刘雪玉)22日,居然之家创始人兼董事长汪林朋在亚布力中国企业家论坛间隙接受中新经纬专访时表示,2024年,居然之家将把主要精力聚焦在出海业务上,将通过电商平台和实体门店的方式走向东南亚。 。

本文链接:AI换脸、声音克隆……人工智能的滥用到底怎么治?http://www.sushuapos.com/show-5-65984-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 从革命旧址到绿色智造 “红绿交融”谱写县域经济新篇章

下一篇: 用门票撬动更多场景消费

热门资讯

  • 刘德华新片撤档背后:巨亏巨冒险

      刘德华新片撤档背后:巨亏巨冒险  春节档迎来“撤档潮”。  2024年2月17日,电影《八戒之天蓬下界》发布声明退出春节档,延后上映。该片上映至今,累计票房323.2万元。  

  • 人社部:整治虚假职业技能培训

      人社部:整治虚假职业技能培训  人社部近日发布通知,要求规范培训机构办学,严禁以招生费等名义直接或变相买卖符合补贴条件的生源,以联合办学、培训合作等名义违规转包政府

  • 春节议题成为讨论焦点 A股波动牵动公众情绪――中国上市公司品牌热榜(1月)发布

      中新经纬2月18日电 2024年1月,中国上市公司迎来辞旧迎新的阶段。回顾往年,年度业绩报告及年终活动吸引眼球;展望新年,企业趁势推出龙年产品和新春活动促活市场。东方甄选余

  • 保畅保供保民生

    新华社济南2月22日电(记者陈国峰、张钟仁)连日来,山东多地迎来大风降温和雨雪天气。21日,受降雪影响,济南西站部分列车降速运行,出现晚点情况。售票大厅内,记者看

  • 2月电影票房破100亿,传媒板块多股涨停,行业有望持续繁荣

      2月电影票房破100亿,传媒板块多股涨停,行业有望持续繁荣  2月23日,传媒板块盘中持续走强,截至发稿,宣亚国际20%涨停,赛因集团涨超19%,文投控股、天威视讯、中视传媒等多股涨

  • 各地开启龙年“抢人” 企业所求不止于短期用工

      各地开启龙年“抢人” 企业所求不止于短期用工    2024年刚刚“开局”,各地便已开始为复工“冲刺”。无论在沿海地区还是内陆城市,“抢人大战”热战正酣,专车接送、食宿

  • 啤酒行业高端化方向不变 今年盈利水平有望提升

      啤酒行业高端化方向不变 今年盈利水平有望提升  证券时报记者 严翠  2023年,啤酒行业在存量博弈中保持了增长态势,截至目前,珠江啤酒、重庆啤酒、燕京啤酒等已悉数剧透

  • “新年刚过,我已经买好了十一旅游的机票”

      “新年刚过,我已经买好了十一旅游的机票”    中新网北京2月23日电(张钰惠)在年初就买好全年的旅行机票,是一种怎样的体验?近日,三亚、哈尔滨等网红城市的天价返程机票引

  • 实习期“双向侵权”如何破解?

      实习期“双向侵权”如何破解?    劳动时间长,拿到的报酬却很微薄;实习岗位上受了伤,无法获得工伤赔偿……权益受侵害难维权,让职校生实习遭受到多方诟病。与此同时,用心培

  • 中国铁路青藏集团原副总经理贾军被提起公诉

      中新经纬2月22日电 据高检网22日消息,近日,中国铁路青藏集团有限公司原党委委员、职工董事、副总经理、工会主席贾军(副厅级)涉嫌受贿罪、行贿罪一案,经最高人民检察院指定

  • 库迪咖啡:自开业以来共闭店解约门店61家

      独家 | 库迪咖啡回应闭店:自开业以来总共闭店解约门店数为61家  2月22日每经快讯,自去年末起,不断有库迪联营商在小红书等社交媒体上发帖称库迪出现供应链问题、品牌现金

  • 多家钛白粉企业再度宣布涨价

      多家钛白粉企业再度宣布涨价  2月22日,钛白粉企业金浦钛业发布公告宣布涨价,金浦钛业表示,自2月22日起,公司锐钛型钛白粉销售价格上调800元/吨,对国际各类客户上调110美元/

推荐资讯

  • 日榜
  • 周榜
  • 月榜