AI是击穿网络安全的矛？还是守护网络安全的盾？
中新网9月21日电(记者 吴家驹)AI是击穿网络安全的矛？还是守护网络安全的盾？
近日，2025年国家网络安全宣传周在昆明开幕，多位网络安全专家在接受中新网采访时，谈及AI给网络安全带来的新风险和新机遇。
360数字安全集团总裁胡振泉认为，AI的安全问题无比复杂，和传统的网络安全问题有着非常大的不同，其中包括：AI生成内容本身的安全性、AI幻觉、提示词注入攻击等问题。
胡振泉进一步表示，当AI变成智能体后，会负责规划很多任务，而如果AI智能体规划的任务执行到很多步后，再发生错乱、随意调度的问题，情况将更加复杂，这是传统网络安全手段无法解决的问题。
天融信科技集团助理总裁张博表示，如今一些大模型被攻击，大模型算法或数据发生泄露，都暴露了大模型在训练、部署、使用等阶段，存在着一定的安全风险。同时，AI降低了网络攻击的门槛，很多攻击者会使用AI，来提升攻击的频度、强度、效率。
奇安信集团副总裁李虎也表示，目前已出现许多用于攻击的AI智能体，甚至已经开始对外提供服务。如果黑客组织使用AI发起攻击，成本会更低，而且更具不可控性。现在大模型的应用越来越广泛，涉及社会生活的方方面面，如果AI的安全性出现问题，将产生非常大的危害。
在南方电网公司数字化部副总经理 亮看来，AI需要慢慢培育。在培育的过程中，如果数据出现问题，一方面可能导致AI智能体的反应速度下降，另一方面，可能导致AI作出的判断存在误差，这对电网企业和新型电力系统来说是致命的。
AI时代，如何应对网络安全挑战？
张博表示，目前AI赋能网络安全，是行业中非常重要的一个研究方向，国内外不少安全公司都在探索AI与安全技术的结合。例如，把大模型融入到安全设备中，与安全平台和云端安全服务进行联动，形成端侧云端协同的基于大模型的智能化运营体系。
“传统的网络安全软件由人编写，而大模型的智力超过人类，因此应该‘以模制模’，即用大模型来解决大模型的安全问题。”胡振泉认为，应该有专门负责安全的大模型，来监督做业务的大模型，并处理其在做业务过程面临的一系列安全问题，大模型的发展应遵循“安全、向善、可信、可控”的原则。
在李虎看来，我们可以构建大模型的安全“红域”，把大模型训练、微调、应用等各个环节，都纳入到红域中心统一管控，然后再进行区隔化管理，把每个区域分而治之，收缩风险边界。同时，我们需要对大模型的提示词、标注数据、知识库数据等，进行监测和审计。
亮表示，为防止AI在应用层面出现偏差，需要有良好的数据治理基础，形成高质量的数据集。同时，需要有专门的团队负责监测AI，并构建监测机制，来使AI朝着我们希望的方向发展。(完)
中新经纬1月11日电 “上海市场监管”微信号11日消息，宜家召回3008件USB充电器。 上海市市场监管局称，宜家(中国)投资有限公司自2024年1月10日至2024年4月9日召回2020年4月至2023年12月生产的宜家牌ASKSTORM 奥斯 2月19日至22日，以“文化艺术交流中俄世代友好”为主题的中俄文化艺术交流周暨冰雪旅游消费季活动在黑龙江省鹤岗市举行，由160名俄罗斯青少年组成的代表团应邀来到鹤岗，与中国青少年开展了一系列 农工党中央召开两会情况通报会农工党中央拟向全国政协十四届二次会议提交34件中央提案、26件界别小组提案中国改革报、中国发展网记者田新元2月20日，在全国两会即将召开之际，农工党中央在京召开中央和 2月21日，湖北省仙桃市委书记孙道军，市委副书记、代市长熊享涛，会见湖北鼎龙控股股份有限公司董事长朱双全、深圳深创生物医药有限公司董事长马亚平一行，就具体项目开展洽谈。政企双方表示，要务实合作、携 新华社记者周楠、余春生、谢奔“路上快要结冰了，开车要注意安全。”2月21日中午，在省道S306茶垭段，寒风瑟瑟，湖南省桑植县竹叶坪乡政府工作人员李雅敏正和同事对过往车辆进行警示提醒。气象部门分析，受强 广西南宁新能源全产业链加快成型 中新网南宁2月22日电 (黄令妍 韦雅丹)广西南宁市工信局党组书记、局长卢晴22日介绍，当地新能源全产业链加快成型，比亚迪、多氟多等一批重大项目投产，龙电华鑫、宸宇富基等项目落 。本文链接：AI是击穿网络安全的矛？还是守护网络安全的盾？http://www.sushuapos.com/show-5-70283-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
下一篇： 美国印第安纳州发生枪击事件 已致2死5伤