设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

蚂蚁数科CTO王维:需系统性应对AI滥用风险

发布时间: 2024-10-30 15:42:53 来源: 中国科学报

 s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

“大模型的应用从‘上新品’逐渐进入‘强应用’阶段,更好的通用人工智能(AGI)仍在路上。”10 月 29 日,蚂蚁数科CTO王维在香港金融科技周2024 上的分享中谈到大模型安全相关话题时指出,AI 是把双刃剑,生成式人工智能(AIGC)滥用风险需系统性应对。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

蚂蚁数科王维在演讲活动上。蚂蚁数科 供图


s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

两年前,大语言模型(LLM)的出现,引发了全球科技从业者的普遍关注和行业热潮。OpenAI推出的ChatGPT 月活用户数以史上最快速度达到 1 亿,AI 行业迎来“iPhone时刻”。经过一段时间的狂奔,LLM性能阶段性趋于饱和,大模型底层推动力逐渐收敛到少数拥有核心数据及算力资源的公司,行业注意力也更多转到了以智能体(Agent)为代表的行业应用侧。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

谈及如何释放LLM 应用的局限性,王维表示,高质量行业数据和专业工具是 AI 继续发展的关键壁垒和门槛,行业应用需要系统性地解决专业严谨和安全可信等问题。蚂蚁数科为此专门开发“蚁天鉴”产品,集大模型安全测评与防御为一体,让大模型在生产和使用过程中更安全、可控、可靠。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

高质量数据可以更好地模拟客观世界,提升模型的准确性和稳定性。王维称,伴随着AI发展的范式转移,对数据的要求也在持续改变,机器学习也正从“以模型为中心”转向“以数据为中心”。在当下的 LLM时代,行业应用要做到安全可信,重点是如何结合专业人工+AI算法的高效标注,产生高质量数据。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

随着互联网公开数据逐步耗尽,以及GPT-o1带来的强化学习训练新范式,都预示着数据合成的重要性与日俱增。王维认为,如何通过仿真引擎、自博弈(self-play)强化学习的方式,合成出更多互联网所不覆盖的高质量、高价值领域数据,将是抵达AGI时代的关键。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

不久前,2024年诺贝尔物理学奖得主、“AI 教父” 杰弗里·辛顿在采访中再次强调了其对AI安全问题的强烈担忧。他与另外两位图灵奖得主约书亚·本吉奥、姚期智及来自世界各地的几十位科学家共同签署了一封公开信——“AI 安全国际对话威尼斯共识”,呼吁为推动人工智能的发展制定更好的保障措施。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

他们在公开信中警告道:“随着人工智能的快速发展,这些‘灾难性的结果’随时可能发生。”究其根源,在于 AIGC 的滥用不仅会产生虚假信息和网络钓鱼攻击,还可能引发全球性的诈骗活动。其中,值得关注的一大风险来源便是深度伪造(Deepfake), 即基于深度学习算法,从大量的视频和图像数据中学习,伪造出逼真的面部动画和语音。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

王维认为,这揭示了AI 是把“双刃剑”,AIGC滥用所带来的风险需要系统性应对。他介绍说,蚂蚁数科旗下身份安全品牌ZOLOZ 为此专门研发了综合防控产品 ZOLOZ Deeper,以应对在开户、登录、支付等各种场景的深度伪造风险。在服务印尼某头部银行后,产品上线一个月时间内实现了 Deepfake 风险“0漏过”。s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM


s6N速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

近日,全国教育信创与密码行业产教融合共同体成立大会及新疆职业院校产教融合人才培养论坛于在乌鲁木齐举办。 航天 日前,高等教育数字化与课程思政建设研讨会暨中国高校财经慕课联盟首届“同课异构”教学竞赛颁奖典礼在对外经济贸易大学 上海生物医药产业怎么做到产学研合力?12月14日,澎湃新闻记者从上海张江一场共话人才未来产学研合作的闭门会议获悉,前 1923年2月14日,学者张君劢应邀到清华学校演讲,演讲的主题是“人生观”,要点是说明科学与人生观的差异,张君劢的观点引起地质 郭永怀、李佩、王承书、王希季、邓稼先、王淦昌、钱骥……一串令人肃然起敬的名字,在中国科学院大学(以下简称国科大)师生 2023年12月中旬以来,受冷空气持续影响,我国天气形势复杂,集中出现寒潮、雨雪、低温、冰冻等灾害性天气。 近日,中国科学院 。

本文链接:蚂蚁数科CTO王维:需系统性应对AI滥用风险http://www.sushuapos.com/show-11-13268-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 中国新型城镇化理论·政策·实践论坛2024召开

下一篇: 可吸收多频段电磁波超薄膜研制成功

热门资讯

推荐资讯

  • 日榜
  • 周榜
  • 月榜