AI是击穿网络安全的矛？还是守护网络安全的盾？
中新网9月21日电(记者 吴家驹)AI是击穿网络安全的矛？还是守护网络安全的盾？
近日，2025年国家网络安全宣传周在昆明开幕，多位网络安全专家在接受中新网采访时，谈及AI给网络安全带来的新风险和新机遇。
360数字安全集团总裁胡振泉认为，AI的安全问题无比复杂，和传统的网络安全问题有着非常大的不同，其中包括：AI生成内容本身的安全性、AI幻觉、提示词注入攻击等问题。
胡振泉进一步表示，当AI变成智能体后，会负责规划很多任务，而如果AI智能体规划的任务执行到很多步后，再发生错乱、随意调度的问题，情况将更加复杂，这是传统网络安全手段无法解决的问题。
天融信科技集团助理总裁张博表示，如今一些大模型被攻击，大模型算法或数据发生泄露，都暴露了大模型在训练、部署、使用等阶段，存在着一定的安全风险。同时，AI降低了网络攻击的门槛，很多攻击者会使用AI，来提升攻击的频度、强度、效率。
奇安信集团副总裁李虎也表示，目前已出现许多用于攻击的AI智能体，甚至已经开始对外提供服务。如果黑客组织使用AI发起攻击，成本会更低，而且更具不可控性。现在大模型的应用越来越广泛，涉及社会生活的方方面面，如果AI的安全性出现问题，将产生非常大的危害。
在南方电网公司数字化部副总经理 亮看来，AI需要慢慢培育。在培育的过程中，如果数据出现问题，一方面可能导致AI智能体的反应速度下降，另一方面，可能导致AI作出的判断存在误差，这对电网企业和新型电力系统来说是致命的。
AI时代，如何应对网络安全挑战？
张博表示，目前AI赋能网络安全，是行业中非常重要的一个研究方向，国内外不少安全公司都在探索AI与安全技术的结合。例如，把大模型融入到安全设备中，与安全平台和云端安全服务进行联动，形成端侧云端协同的基于大模型的智能化运营体系。
“传统的网络安全软件由人编写，而大模型的智力超过人类，因此应该‘以模制模’，即用大模型来解决大模型的安全问题。”胡振泉认为，应该有专门负责安全的大模型，来监督做业务的大模型，并处理其在做业务过程面临的一系列安全问题，大模型的发展应遵循“安全、向善、可信、可控”的原则。
在李虎看来，我们可以构建大模型的安全“红域”，把大模型训练、微调、应用等各个环节，都纳入到红域中心统一管控，然后再进行区隔化管理，把每个区域分而治之，收缩风险边界。同时，我们需要对大模型的提示词、标注数据、知识库数据等，进行监测和审计。
亮表示，为防止AI在应用层面出现偏差，需要有良好的数据治理基础，形成高质量的数据集。同时，需要有专门的团队负责监测AI，并构建监测机制，来使AI朝着我们希望的方向发展。(完)
中新经纬2月18日电 龙年首场寒潮来袭，雨雪、大风、沙尘暴齐袭，多地高速受影响堵车或暂时封闭、列车停运。 中央气象台18日晨将寒潮预警提升至橙色，这也是寒潮预警的最高等级。预计，2月18日至22日，我国大部地区将自 春节假期北京接待游客1749.5万人次 旅游市场热度攀升 中新网北京2月18日电 (记者 徐婧)记者17日从北京市文化和旅游局获悉，春节假期(2月10日至17日)，北京接待游客1749.5万人次，按可比口径同比增长37.4%，比2019年同 傅园慧包车遭遇临时加价 涉事司机被罚款3万元 中新网2月17日电 17日，游泳世界冠军傅园慧通过社交平台发布求助帖称，她在吉林长白山包车出行时遭遇勒索，询问网友是否需要报警。 之后傅园慧更新社交媒体表示，问题 检察题材电影《第二十条》春节档全国热映，艺术地诠释了“法不能向不法让步”的司法理念，受到社会各界的广泛关注。最高检微信公众号即日起开设“你评我说·检察官看《第二十条》”专栏，邀请检察人员 大叔追“鸟”、小伙爱“骆驼”，北面户外业务“群狼环伺” 王涵艺 近日，威富集团(VFC.N)发布2024财年第三季度财报(截至2023年12月30日的三个月内)，集团收入同比下滑16%至29.60亿美元(约合213亿元人民币)，净利润 啤酒行业高端化方向不变 今年盈利水平有望提升 证券时报记者 严翠 2023年，啤酒行业在存量博弈中保持了增长态势，截至目前，珠江啤酒、重庆啤酒、燕京啤酒等已悉数剧透2023年营收、净利润保持增长的经营业绩，此外 。本文链接：AI是击穿网络安全的矛？还是守护网络安全的盾？http://www.sushuapos.com/show-5-70283-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
下一篇： 美国印第安纳州发生枪击事件 已致2死5伤