随着人工智能技术快速迭代，智能体作为人工智能与实体经济深度融合的重要载体，正深刻影响着生产方式、生活方式，重构安全边界。
在近日举办的第十四届互联网安全大会上，专家表示，要以核心技术攻关夯实内功、以制度规则建设筑牢屏障、以标准体系建设引领行业规范，在智能体时代走出一条发展与安全协同并进的道路。
智能体带来新风险
当前，人工智能正经历从大模型向智能体的关键跃迁。当智能体开始自主决策、调用工具、执行任务，安全风险也随之出现。
“与以往的信息系统相比，智能体不再是被动执行的问答工具，而是被赋予了自主感知、决策和执行能力的行动主体。这一技术特征的跃升，深刻改变了网络安全的攻防态势。”中国互联网协会副理事长、工业和信息化部原总工程师赵志国说。
随着智能体加速向制造、金融、能源等关键领域渗透，任何一处安全隐患都可能借助智能体的自主调度能力，在短时间内引发跨网络、跨行业的连锁反应，这对风险防范和应急处置提出了更高要求。
赵志国表示，智能体具备自主决策能力后，安全风险从“技术故障”扩展到“决策失控”，一旦出现偏差或扰动，智能体可能采取偏离人类预期的行动，其后果不可预测。这一内生性风险，对安全可控性提出了根本性挑战。此外，智能体以高度拟人化的方式在系统中自主操作，传统基于身份的信任机制面临失效风险，当智能体自主签署契约、执行交易、调用资源时，安全责任如何界定、越权行为如何定性，都成为亟待破解的现实难题。
在中国工程院院士、互联网安全大会名誉主席邬贺铨看来，智能体攻击呈现出自主决策、集群协同与持续进化的技术特征。传统的网络攻击高度依赖人工操作，而智能体驱动的攻击，从根本上改变了这一格局。
具体来看，智能体能自主感知环境、规划攻击路径、执行渗透任务，并且多个智能体间可以实现共享信息、分工协作，这种集群化攻击可以在极短时间内从多个入口同时发起，让防御系统疲于应对。更需要警惕的是，智能体具备持续学习与迭代的能力，每一次攻防对抗都会成为其优化的素材，攻击手段会随着时间不断变化。
360集团创始人、互联网安全大会主席周鸿祎认为，AI给网络安全行业带来了降维打击。以Mythos模型为例，全自动漏洞挖掘与攻击链构造能力已将漏洞发现速度提升两个数量级，成本降至不足千分之一。
数字安全思路转变
身份伪造、模型失效、权限管理漏洞、恶意勒索……随着智能体进入商业化应用阶段，各种新型风险不断出现。同时，人工智能驱动的隐含数据挖掘等风险，也对模型精度与决策可靠性形成冲击。
中国工程院院士、中国人工智能学会副理事长赵春江介绍，AI系统安全风险覆盖数据层、模型层、应用层、基础层4个维度，不同维度面临的安全问题也不一样，需要采取针对性措施。
在邬贺铨看来，长期以来，安全工作的思路是哪里着火灭哪里，这种被动响应模式，在面对人工攻击时尚可支撑，但在智能体集群饱和式攻击面前，反应速度永远慢半拍。
“过去比谁更强，未来比谁更快。中国必须建立自主可控的AI漏洞挖掘能力。”周鸿祎说。
“安全范式必须从被动防御转向主动免疫。”邬贺铨表示，要构建覆盖预测、防御、检测、响应、恢复全生命周期的体系化安全运营框架，将流程、人员与技术整合成闭环能力，让安全系统也具备智能体感知、预判与自适应能力，实现从事后补救向事前预警、事中阻断前移。
“这不是锦上添花，而是生死攸关的能力重构，没有主动免疫就没有智能体时代的数字安全。”邬贺铨说。
赵志国认为，要把智能体安全核心技术攻关摆在突出位置，加强算法可解释性、数据隐私保护、系统鲁棒性等关键领域研发投入，从源头上增强主动防御能力，掌握发展主动权。加快建立适应智能体特点的安全规范与评估认证机制，对高风险智能体实施分级分类管理，明确研发、部署、运营各环节的责任边界，做到有章可循、有规可依。在国家标准框架下，推动产学研用深度融合，加快形成覆盖智能体研发、落地、运维全生命周期的防护标准。
卖产品转向卖能力
国际数据公司（IDC）报告显示，在政策法规持续强化、企业安全投入意愿提升以及新技术应用加速的共同作用下，中国网络安全市场保持稳健增长。预计到2026年，整体市场规模有望突破800亿元，2024年至2029年的年复合增长率达8.9%。网络安全已成为数字经济发展中不可或缺的关键基础能力。
当前，智能体加速渗透到金融、制造、医疗等垂直行业，成为真实业务系统的核心组件。但大多数行业用户还不具备自研智能体防御体系的能力，传统的安全厂商仍然习惯于卖防火墙、卖检测工具等，供需之间出现明显错位。
“谁能率先完成从产品商向服务商的转型，谁就能在智能体安全的新赛道上占据先机。”邬贺铨表示，智能体时代的数字安全企业必须从卖产品转向卖能力，这意味着要提供覆盖智能体全生命周期的安全托管服务，开发阶段对安全进行审查，运行阶段进行实时监控与异常响应，迭代阶段进行风险评估和提出加固建议，这是一种范式转变，也是产业界必须跨越的关口。
赵志国建议，应搭建产学研协同安全平台，整合网络资源，推动企业、高校、科研机构在智能体安全技术研发、应急响应协同、推广最佳实践等方面深度合作，构建政府引导、企业履责、社会参与的共治格局，以开放协作的姿态应对共同挑战。
目前，相关行业企业正展开行动，加速培养面向智能体时代的新型人才。在第十四届互联网安全大会期间，360人工智能智能体工程师（ADE）认证讲师授予环节与360公益基金会AI人才专项奖学金同步启动，从人才培养与教育普惠两个层面为产学研深度协同育人提供可落地的实践载体。
赵志国表示，要积极推动政府部门、龙头企业、科研院所加快制定智能体安全能力评估、风险分级分类、数据安全合规等领域的行业标准、团体标准，为产业规范化发展提供制度依据，以高质量发展的确定性应对安全风险的不确定性。此外，要积极参与全球人工智能安全治理规则的制定与协调，搭建智能体安全对话平台，共同探索智能时代全球网络安全治理的协作路径，携手构建网络空间命运共同体，为全球智能体产业健康发展贡献中国智慧和中国力量。
随着人工智能技术快速迭代，智能体作为人工智能与实体经济深度融合的重要载体，正深刻影响着生产方式、生活方式，重构安全边界。
在近日举办的第十四届互联网安全大会上，专家表示，要以核心技术攻关夯实内功、以制度规则建设筑牢屏障、以标准体系建设引领行业规范，在智能体时代走出一条发展与安全协同并进的道路。
智能体带来新风险
当前，人工智能正经历从大模型向智能体的关键跃迁。当智能体开始自主决策、调用工具、执行任务，安全风险也随之出现。
“与以往的信息系统相比，智能体不再是被动执行的问答工具，而是被赋予了自主感知、决策和执行能力的行动主体。这一技术特征的跃升，深刻改变了网络安全的攻防态势。”中国互联网协会副理事长、工业和信息化部原总工程师赵志国说。
随着智能体加速向制造、金融、能源等关键领域渗透，任何一处安全隐患都可能借助智能体的自主调度能力，在短时间内引发跨网络、跨行业的连锁反应，这对风险防范和应急处置提出了更高要求。
赵志国表示，智能体具备自主决策能力后，安全风险从“技术故障”扩展到“决策失控”，一旦出现偏差或扰动，智能体可能采取偏离人类预期的行动，其后果不可预测。这一内生性风险，对安全可控性提出了根本性挑战。此外，智能体以高度拟人化的方式在系统中自主操作，传统基于身份的信任机制面临失效风险，当智能体自主签署契约、执行交易、调用资源时，安全责任如何界定、越权行为如何定性，都成为亟待破解的现实难题。
在中国工程院院士、互联网安全大会名誉主席邬贺铨看来，智能体攻击呈现出自主决策、集群协同与持续进化的技术特征。传统的网络攻击高度依赖人工操作，而智能体驱动的攻击，从根本上改变了这一格局。
具体来看，智能体能自主感知环境、规划攻击路径、执行渗透任务，并且多个智能体间可以实现共享信息、分工协作，这种集群化攻击可以在极短时间内从多个入口同时发起，让防御系统疲于应对。更需要警惕的是，智能体具备持续学习与迭代的能力，每一次攻防对抗都会成为其优化的素材，攻击手段会随着时间不断变化。
360集团创始人、互联网安全大会主席周鸿祎认为，AI给网络安全行业带来了降维打击。以Mythos模型为例，全自动漏洞挖掘与攻击链构造能力已将漏洞发现速度提升两个数量级，成本降至不足千分之一。
数字安全思路转变
身份伪造、模型失效、权限管理漏洞、恶意勒索……随着智能体进入商业化应用阶段，各种新型风险不断出现。同时，人工智能驱动的隐含数据挖掘等风险，也对模型精度与决策可靠性形成冲击。
中国工程院院士、中国人工智能学会副理事长赵春江介绍，AI系统安全风险覆盖数据层、模型层、应用层、基础层4个维度，不同维度面临的安全问题也不一样，需要采取针对性措施。
在邬贺铨看来，长期以来，安全工作的思路是哪里着火灭哪里，这种被动响应模式，在面对人工攻击时尚可支撑，但在智能体集群饱和式攻击面前，反应速度永远慢半拍。
“过去比谁更强，未来比谁更快。中国必须建立自主可控的AI漏洞挖掘能力。”周鸿祎说。
“安全范式必须从被动防御转向主动免疫。”邬贺铨表示，要构建覆盖预测、防御、检测、响应、恢复全生命周期的体系化安全运营框架，将流程、人员与技术整合成闭环能力，让安全系统也具备智能体感知、预判与自适应能力，实现从事后补救向事前预警、事中阻断前移。
“这不是锦上添花，而是生死攸关的能力重构，没有主动免疫就没有智能体时代的数字安全。”邬贺铨说。
赵志国认为，要把智能体安全核心技术攻关摆在突出位置，加强算法可解释性、数据隐私保护、系统鲁棒性等关键领域研发投入，从源头上增强主动防御能力，掌握发展主动权。加快建立适应智能体特点的安全规范与评估认证机制，对高风险智能体实施分级分类管理，明确研发、部署、运营各环节的责任边界，做到有章可循、有规可依。在国家标准框架下，推动产学研用深度融合，加快形成覆盖智能体研发、落地、运维全生命周期的防护标准。
卖产品转向卖能力
国际数据公司（IDC）报告显示，在政策法规持续强化、企业安全投入意愿提升以及新技术应用加速的共同作用下，中国网络安全市场保持稳健增长。预计到2026年，整体市场规模有望突破800亿元，2024年至2029年的年复合增长率达8.9%。网络安全已成为数字经济发展中不可或缺的关键基础能力。
当前，智能体加速渗透到金融、制造、医疗等垂直行业，成为真实业务系统的核心组件。但大多数行业用户还不具备自研智能体防御体系的能力，传统的安全厂商仍然习惯于卖防火墙、卖检测工具等，供需之间出现明显错位。
“谁能率先完成从产品商向服务商的转型，谁就能在智能体安全的新赛道上占据先机。”邬贺铨表示，智能体时代的数字安全企业必须从卖产品转向卖能力，这意味着要提供覆盖智能体全生命周期的安全托管服务，开发阶段对安全进行审查，运行阶段进行实时监控与异常响应，迭代阶段进行风险评估和提出加固建议，这是一种范式转变，也是产业界必须跨越的关口。
赵志国建议，应搭建产学研协同安全平台，整合网络资源，推动企业、高校、科研机构在智能体安全技术研发、应急响应协同、推广最佳实践等方面深度合作，构建政府引导、企业履责、社会参与的共治格局，以开放协作的姿态应对共同挑战。
目前，相关行业企业正展开行动，加速培养面向智能体时代的新型人才。在第十四届互联网安全大会期间，360人工智能智能体工程师（ADE）认证讲师授予环节与360公益基金会AI人才专项奖学金同步启动，从人才培养与教育普惠两个层面为产学研深度协同育人提供可落地的实践载体。
赵志国表示，要积极推动政府部门、龙头企业、科研院所加快制定智能体安全能力评估、风险分级分类、数据安全合规等领域的行业标准、团体标准，为产业规范化发展提供制度依据，以高质量发展的确定性应对安全风险的不确定性。此外，要积极参与全球人工智能安全治理规则的制定与协调，搭建智能体安全对话平台，共同探索智能时代全球网络安全治理的协作路径，携手构建网络空间命运共同体，为全球智能体产业健康发展贡献中国智慧和中国力量。
中国科学院深圳先进技术研究院15日发布消息称，该院科研团队研发了一种具有靶向送药功能的磁驱软体机器人，该机器人能够根据器官内部环境的特点选择合适的运动模式，实现靶向送药的同时还可以控制 据《日本经济新闻》3月19日报道，东京大学副教授坂本健太郎等人研究发现，海龟下潜时心率将急剧下降。海龟与鲸等哺乳类动物同样，心率随下潜深度加深而下降，特别是在下潜深度超过140米时，一分钟心跳 日本《朝日新闻》近日发表题为《深海之光——极端环境是创意宝库》的文章，作者是樱井林太郎，编译如下：在被称为最后未开垦地的深海，有着低温、高压、黑暗等极限环境。能否从这些极限环 在近日举行的全球AI盛会GTC（GPU Technology Conference）2024上，联想集团与NVIDIA（英伟达）宣布合作推出全新混合人工智能解决方案，帮助企业和云提供商获得在人工智能时代成功所需的关键的加速计算能 3月20日，在2024全球游戏开发者大会（GDC）上，腾讯发布了自研游戏AI引擎——GiiNEX。基于生成式AI和决策AI技术，GiiNEX将为游戏全生命周期提供丰富的AI解决方案。据悉，借助大模型等生成式AI 3月22日消息，xiaomi集团的卢伟冰在微博上表示，xiaomiCivi 4 Pro有可能是2024年最轻薄的电话。这款电话的厚度仅为7.45mm，重量为179.3g。尽管拥有超轻薄的机身，但Civi 4 Pro仍搭载了一块容量为4700mAh 。本文链接：筑牢智能体发展安全防线http://www.sushuapos.com/show-2-16772-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 陈立泉、贲德获国家最高科学技术奖
下一篇： AI拟人化互动服务不得踩红线