AI是击穿网络安全的矛?还是守护网络安全的盾?
中新网9月21日电(记者 吴家驹)AI是击穿网络安全的矛?还是守护网络安全的盾?
近日,2025年国家网络安全宣传周在昆明开幕,多位网络安全专家在接受中新网采访时,谈及AI给网络安全带来的新风险和新机遇。
360数字安全集团总裁胡振泉认为,AI的安全问题无比复杂,和传统的网络安全问题有着非常大的不同,其中包括:AI生成内容本身的安全性、AI幻觉、提示词注入攻击等问题。
胡振泉进一步表示,当AI变成智能体后,会负责规划很多任务,而如果AI智能体规划的任务执行到很多步后,再发生错乱、随意调度的问题,情况将更加复杂,这是传统网络安全手段无法解决的问题。
天融信科技集团助理总裁张博表示,如今一些大模型被攻击,大模型算法或数据发生泄露,都暴露了大模型在训练、部署、使用等阶段,存在着一定的安全风险。同时,AI降低了网络攻击的门槛,很多攻击者会使用AI,来提升攻击的频度、强度、效率。
奇安信集团副总裁李虎也表示,目前已出现许多用于攻击的AI智能体,甚至已经开始对外提供服务。如果黑客组织使用AI发起攻击,成本会更低,而且更具不可控性。现在大模型的应用越来越广泛,涉及社会生活的方方面面,如果AI的安全性出现问题,将产生非常大的危害。
在南方电网公司数字化部副总经理 亮看来,AI需要慢慢培育。在培育的过程中,如果数据出现问题,一方面可能导致AI智能体的反应速度下降,另一方面,可能导致AI作出的判断存在误差,这对电网企业和新型电力系统来说是致命的。
AI时代,如何应对网络安全挑战?
张博表示,目前AI赋能网络安全,是行业中非常重要的一个研究方向,国内外不少安全公司都在探索AI与安全技术的结合。例如,把大模型融入到安全设备中,与安全平台和云端安全服务进行联动,形成端侧云端协同的基于大模型的智能化运营体系。
“传统的网络安全软件由人编写,而大模型的智力超过人类,因此应该‘以模制模’,即用大模型来解决大模型的安全问题。”胡振泉认为,应该有专门负责安全的大模型,来监督做业务的大模型,并处理其在做业务过程面临的一系列安全问题,大模型的发展应遵循“安全、向善、可信、可控”的原则。
在李虎看来,我们可以构建大模型的安全“红域”,把大模型训练、微调、应用等各个环节,都纳入到红域中心统一管控,然后再进行区隔化管理,把每个区域分而治之,收缩风险边界。同时,我们需要对大模型的提示词、标注数据、知识库数据等,进行监测和审计。
亮表示,为防止AI在应用层面出现偏差,需要有良好的数据治理基础,形成高质量的数据集。同时,需要有专门的团队负责监测AI,并构建监测机制,来使AI朝着我们希望的方向发展。(完)
中新经纬1月11日电 (林琬斯)近日,有传闻称资生堂中国裁员40%。11日,资生堂中国回应中新经纬称,相关传言与事实不符。 资生堂中国表示,资生堂中国于2024年开始实施新的品牌组合战略以夯实业务基础。相应地,内部也正 刚被罚款3.55亿美元后 特朗普“带货”球鞋 中新网2月19日电 据美联社消息,当地时间17日,美国前总统特朗普在一场商业活动中带货了一双“特朗普”牌的金色球鞋,引发热议。 据报道,特朗普当天在费城会议中心举行 越来越多国人选择旅游过春节 “南北互换过年”备受欢迎 证券时报记者 周春媚 甲辰龙年为期8天的春节长假,成为了近年来最为火爆的春节旅游假期。 各地景区张灯结彩、人山人海,迎来客流高峰。迎春灯会、 27亿元票房领跑春节档 凭什么《热辣滚烫》? 长沙晚报2月17日讯(全媒体记者 宁莎鸥)今年的春节档大战在如火如荼地进行中。截至17日记者发稿时,贾玲自导自演的《热辣滚烫》已获得票房超27亿元,领跑大盘,有望拿到春 新华社记者周楠、余春生、谢奔“路上快要结冰了,开车要注意安全。”2月21日中午,在省道S306茶垭段,寒风瑟瑟,湖南省桑植县竹叶坪乡政府工作人员李雅敏正和同事对过往车辆进行警示提醒。气象部门分析,受强 “中新免签朋友圈”效应:春节赴新游同比涨960% 带动“新马泰”线路 21世纪经济报道 胡慧茵 春节是新加坡重要的节日。每到农历新年,新加坡的大街小巷就洋溢起浓浓的年味。 “在新加坡唐人街牛车水,我们看 。本文链接:AI是击穿网络安全的矛?还是守护网络安全的盾?http://www.sushuapos.com/show-5-70283-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
下一篇: 美国印第安纳州发生枪击事件 已致2死5伤