设置
  • 日夜间
    随系统
    浅色
    深色
  • 主题色

专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?

发布时间: 2025-02-19 09:39:30 来源:

  中新经纬2月18日电 (孙庆阳)“人工智能的安全与可用性面临全链条、多维度交织的复杂风险挑战,需通过国际合作、技术创新和标准制定来应对。”近日,中国信息通信研究院人工智能研究所高级业务主管呼娜英在巴黎人工智能(AI)行动峰会后接受中新经纬专访时表示,未来五到十年,人工智能技术将持续深化,增强语言大模型能力是重点方向。同时,多模态模型有望加速突破,提升图文理解和跨模态交互能力。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  呼娜英 受访者供图rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  网络和框架是AI系统安全的根基rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  在最近的巴黎人工智能(AI)行动峰会上,AI安全性和可用性成为了全球AI产业人士的共同关注焦点。呼娜英指出,当前AI在安全性和可用性方面面临的是全链条、多维度相互交织的复杂风险挑战。随着人工智能模型复杂度和规模的不断提升,其训练、部署、应用等关键环节中面临的数据安全、网络安全、框架安全、模型算法安全以及应用平台安全问题日益突出。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  在基础设施方面,网络安全和框架安全关乎整个AI系统的稳定运行根基。以DeepSeek为例,R1模型在刚刚上线提供服务后,便遭到大规模DDoS(分布式阻断服务)攻击,导致服务中断,用户无法正常访问。在数据方面,训练数据被“投毒”(通过恶意注入虚假或误导性的数据来污染模型的训练数据集),以及训练使用敏感行业数据、个人隐私数据等,一旦数据被“投毒”,训练出的模型将产生偏差,做出错误决策,而敏感数据的不当使用则可能引发严重的法律风险和社会信任危机。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  在模型算法层面,以大模型为代表的生成式模型面临严峻的越狱攻击、提示词注入攻击等威胁,模型容易在用户恶意操作下输出违法有害或侵害权益的信息。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  此外,模型的“幻觉”(模型生成的不真实、编造或与上下文不一致的内容)问题突出,也成为了制约人工智能产业化落地的重要因素。在应用层面,人工智能技术容易被滥用和误用,比如利用图像生成技术伪造虚假新闻图片误导公众,或在自动化决策系统中因算法偏见导致对特定群体的不公平对待,这些行为严重扰乱了正常的社会秩序与市场环境。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  如何显著提升AI系统安全性?rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  呼娜英强调,全球均在探索风险管理的可行路径,针对人工智能风险开展有效的“识别、评估、应对”方案一定程度上成为共识。其中,最重要的一环是对于安全问题的检测技术和防护手段。在检测方面,一是形成对于开源框架、源代码以及网络等软硬件基础设施的漏洞挖掘技术,精准定位潜在隐患。特别是开源框架、代码中存在的未被发现的漏洞,极易被利用实施大规模的攻击和勒索。如去年年初,人工智能开源框架Ray被发现存在漏洞,并被攻击人员利用攻击数百个集群。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  二是形成数据“投毒”检测技术,用于守护训练数据的纯净性,防范通过训练的方式,在模型中埋入后门。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  三是建立大模型等模型算法漏洞自动化测试技术,扫描算法中的薄弱环节,快速生成测试报告。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  四是基于现有的自动化渗透技术能力,形成面向人脸识别、智能体等人工智能典型应用的自动化渗透技术产品,模拟黑客攻击,全方位探测应用平台的安全漏洞,充分发掘人工智能各方面的安全风险。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  呼娜英还指出,在防护层面,需要探索软硬件基础设施的漏洞自动化修复技术,自动修复受损代码,降低安全风险。此外,还可以探索实践模型漏洞自动化微调和加固技术,对模型进行自动化优化,增强其抵御攻击的能力,保障人工智能系统稳定、安全地运行。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  中国智慧引领未来AI治理新格局rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  呼娜英认为,推动人工智能安全治理合作依然是势不可挡的,也是确有必要的。人工智能的开发、部署和使用具有全球化特征,人工智能技术的应用与影响并非局限于某一地区或国家,而是深刻影响全球社会、经济和政治秩序。为人类共同未来建立务实可行的国际对话与合作机制,需要多方努力。未来,国际社会应在联合国框架下凝聚各方共识,依托国际标准化组织深化技术标准协同,务实推进人工智能安全治理工作。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  一直以来,中国在全球人工智能治理领域积极作为并推动加强国际合作。例如,中国信通院积极参与国际标准制定,发起《人工智能安全承诺》促进行业自律,下一步将依托工业和信息化部人工智能技术标准委员会,持续完善国内标准体系,推动安全测试、风险评估、可信要求等技术规范转化为国际共识,促进技术标准和指引的深入实践与应用。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  呼娜英预测,未来五到十年内,人工智能技术将持续深化演进。一方面,增强语言大模型能力仍是技术升级的重点方向之一,推理或将获得更多关注和资源投入。另一方面,多模态模型有望加速突破,从以语言大模型为骨干的多模态模型,向原生多模态模型演变,提升图文理解和跨模态交互能力。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  呼娜英认为,在安全与可用性方面,以下趋势值得关注:在风险识别方面,随着人工智能技术日益融入经济社会发展各领域全过程,其安全风险面不断扩大,对人工智能安全风险识别方法论的研究将不断完善,从而催生更加敏捷、精准的安全风险识别机制。在风险应对方面,对算法模型毒性、鲁棒性、公平性等方面的评测技术工具研究将不断加强,将人工智能基础设施、算法模型、上层应用以及产业链等方面作为评估重点,并在机制方案上动态迭代、技术能力上持续提升,从而有效防范和应对治理风险。(中新经纬APP)rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  中新经纬版权所有,未经授权,不得转载或以其他方式使用。rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

责任编辑:张芷菡rVg速刷资讯——每天刷点最新资讯,了解这个世界多一点SUSHUAPOS.COM

  “极严重灾害”!日本能登地区地震已致213人遇难  中新网1月11日电 综合日媒报道,日本石川县11日公布的最新统计数据显示,能登地区地震已致213人死亡、52人下落不明。  报道称,日本政府在11日举行的内阁会议上还决   中新经纬2月19日电 近日,大连万达集团股份有限公司(下称万达集团)新增一则股权冻结信息,其所持近5亿股权被冻结。  国家企业信用信息公示系统网站显示,万达集团被冻结的股权数额为49999.877万元,执行法院为甘肃矿区   追加补贴 美国打响全球半导体“军备竞赛”    当地时间2月21日,美国芯片巨头英特尔在加州圣荷西举办首次晶圆代工活动。美国商务部长吉娜・雷蒙多在活动上表示,如果美国想在半导体领域“引领世界”,就要进一步加   我跨境电商占韩海外直购市场近半份额  作者 杨明  凭借“高性价比”和“低物流费”等优势,中国跨境电商企业已占据韩国海外直购市场的近一半份额,本地化服务的提升也是中国企业在韩国快速扩张的重要原因。过去   中新经纬2月22日电 据“中国铁路”微信号消息,2月21日,全国铁路发送旅客1201.2万人次,铁路运输安全平稳。2月22日,全国铁路客流持续高位运行,预计发送旅客1125万人次,加开旅客列车867列。  各地铁路部门积极应对低温   湖南铁路科技职业技术学院党委书记康月林接受纪律审查和监察调查  中新网2月22日电 据中央纪委国家监委网站,据湖南省纪委监委消息:湖南铁路科技职业技术学院党委书记康月林涉嫌严重违纪违法,目前正接受湖南省纪委 。

本文链接:专访呼娜英:AI安全“隐形战场”上,如何破解全链条风险?http://www.sushuapos.com/show-5-46596-0.html

声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。

上一篇: 杨立钒:DeepSeek“逆袭”电商,成本地部署“黑马”

下一篇: 国家发改委:对民企反映的困难问题将精准施策助企纾困

热门资讯

推荐资讯

  • 2023年出境游相关新增企业同比增长近300%

      近日,据企查查数据显示,国内现存出境游相关企业12.18万家。近十年其注册量呈整体增长态势。2019年注册量达3.34万家,同比增长15.98%,达近十年注册量峰值。此后,受疫情等因素

  • 千味央厨:2023年实现营收19.01亿元,同比增长27.69%

    4月28日,千味央厨披露2023年年度报告。2023年,公司实现营业收入19.01亿元,同比增长27.69%;归母净利润为1.34亿元,同比增长31.43%。其中2023年因股权激励产生的费用为1791.08万元,

  • 安徽省市场监管局:宾馆酒店不得在订单生效后单方面毁约

    4月28消息,临近五一假期,安徽省市场监督管理局向全省各相关经营者和行业协会商会发布提醒告诫函,进一步规范节日期间旅游市场价格行为。提醒告诫函要求,各相关经营者要严格按照

  • 喀什首家希尔顿欢朋酒店开业

    近日,喀什市首家全球连锁希尔顿欢朋酒店举行开业盛典。希尔顿欢朋酒店的建成开业,将进一步提升喀什城市形象和旅游接待能力。据了解,该店位于喀什东城CBD商圈,拥有160间客房,是喀

  • 作为美食家的大仲马

    在西方,法国19世纪“积极浪漫主义”作家大仲马(Alexandre Dumas),也许是唯一一位靠通俗文学跻身大文豪之列的作家。从1828年大仲马用业余时间撰写的剧

  • “京津冀协同发展10周年书法交流展”开幕

    4月28日,“翰墨弘道——京津冀协同发展10周年书法交流展”在北京一得阁美术馆开幕。现场共展出150余件作品,以京津冀区域书法家和书法爱

  • 福清江阴港城经济区产业公寓一期将提供1274套公寓

      近日,福清江阴港城经济区产业公寓一期公共租赁房项目已基本完工,目前正在开展装修收尾工作,将于今年6月份投入使用。  据了解,产业公寓一期、三期项目位于江阴港城新厝片

  • 沃德酒店集团首家民宿酒店开业

    近日,沃德酒店集团旗下的首家民宿酒店——观云里店在青岛开业,标志着沃德酒店集团在多元化酒店业务布局上迈出了坚实一步。酒店位于胶州路116号,交通便利,紧邻中山路地铁站B口。

  • 成都计划今年新增筹集保租房3万套(间)

      近日,四川省成都市住房和城乡建设局发布关于印发《成都市2024年住房发展年度计划》的通知。2024年计划新增筹集保障性租赁住房3万套(间),配租1.5万套(间);发放租赁补贴800

  • 金恪集团旗下多家度假酒店五一期间连续3天满房率100%

    滨州网消息,5月6日,金恪集团旗下度假酒店五一黄金周期间业绩报告出炉,多项指标增长率均创新高。5月1日-5日,集团旗下太仓艳阳度假酒店、桐庐溢美国际酒店、乌镇宜何度假·梵璞主

  • 上海耀雪冰雪世界、世博文化公园和长滩音乐厅项目计划今年开放

      5月8日,据上海发布消息,上海耀雪冰雪世界、世博文化公园和长滩音乐厅项目计划今年开放。  据悉,耀雪冰雪世界项目位于临港新片区,作为全球体量最大的室内滑雪娱乐场,目标是

  • 上海海峡国际旅行社有限公司100%股权转让,底价249.04万元

      5月8日,据全国产权行业信息化综合服务平台披露,上海海峡国际旅行社有限公司100%股权挂牌转让,转让方为上海天虹兴港实业发展有限公司,转让底价为249.04万元,信息披露起止时间

  • 日榜
  • 周榜
  • 月榜