中新经纬3月3日电 (李自曼)“今年两会，人工智能安全是我关注的主要问题之一。”近日，全国政协委员、奇安信集团董事长齐向东在接受中新经纬等媒体采访时说。
全国政协委员、奇安信集团董事长齐向东 受访者供图在齐向东看来，当前，以大模型为代表的人工智能技术正在深刻重塑生产生活方式和科技创新模式。今年春节，国产大模型DeepSeek横空出世，引发了广泛讨论，它颠覆了传统的人工智能创新模式，将推动人工智能技术加速向千行百业渗透。但它一问世，针对性的高强度网络攻击就爆发了，给人工智能行业敲响了坚守安全底线的警钟。
齐向东表示：“我们发现，现在越来越多的企业、个人开始搭建DeepSeek大模型私有化部署，而将近90%的服务器都没有采取安全措施，服务运行和数据安全岌岌可危。未来随着人工智能大模型的基础设施地位越来越突出，针对性的恶意手段和风险场景也将激增，伴生的数据隐私、认知安全、基础设施等安全风险超乎想象。对于整个人工智能行业来说，平衡技术创新与安全风险必会成为重要课题。”
齐向东认为，人工智能发展面临的安全问题大致可以分三类：
第一类是人工智能大模型自身的安全问题。开发风险、数据风险、应用风险和基础环境风险这四大安全风险比较突出。开发方面，开源大模型要重点防范代码缺陷和预留后门等问题；应用方面，要防止“内鬼”对训练数据投毒，进行模型篡改、配置篡改；数据方面，要小心内部配置错误和弱口令等造成的数据库暴露；基础环境方面，要重点关注云、API、传统设备漏洞等等。
第二类是利用人工智能开展网络攻击的问题。人工智能促使网络攻击手段更新迭代，“饱和式”攻击成为可能，攻击者可以瞬时发动海量攻击打垮已有的网络安全体系。人工智能还提升了“以假乱真”的能力，深度伪造、认知战、钓鱼等威胁加剧。攻击者可利用人工智能“换脸变声”输出虚假信息，开展网络诈骗。
第三类是通过攻击人工智能引发的“网络攻击大爆炸”。未来人工智能会成为社会的基础设施，当大模型嵌入智慧城市、工控系统、智慧政务等关键领域时，会放大漏洞等传统安全威胁，一旦人工智能大模型遭到攻击可能会牵一发而动全身，引发社会服务中断、生产停滞、隐私数据泄露等安全事件。
“目前，已有团队发现DeepSeek存在严重漏洞，并可借此获取后端隐私数据、API密钥、操作元数据，尽管漏洞很快被修补，但是根据我们的经验，新漏洞会不断被挖掘出来。”齐向东说。
针对人工智能发展面临的安全问题，齐向东认为要从技术保障、制度保障、成果应用三方面入手，系统提升安全能力。第一，建立适配大模型的纵深防御体系，筑牢人工智能的安全根基。第二，制定大模型安全强制合规要求，夯实人工智能安全发展的制度保障。第三，推广“AI+安全”创新成果落地，走好提升安全能力的必经之路。
据齐向东透露，近期，奇安信发布了业界首个大模型安全整体解决方案大模型安全盾，率先提出“大模型安全红域”概念，打造适用于人工智能的立体纵深防御体系，并给予威胁情报、大数据监测等情报赋能，实现“对外防攻击、对内防内鬼”。
“作为网络和数据安全领域的领军企业，奇安信深感责任重大，期待通过切实可行的举措，为人工智能的安全发展保驾护航。”齐向东说。
(更多报道线索，请联系本文作者李自曼：liziman@chinanews.com.cn)(中新经纬APP)
(文中观点仅供参考，不构成投资建议，投资有风险，入市需谨慎。)
中新经纬版权所有，未经书面授权，任何单位及个人不得转载、摘编或以其他方式使用。
责任编辑：魏薇 李中元
国际天文学家团队绘制了迄今最大的三维宇宙地图，记录了大约130万个活跃类星体在空间和时间上的位置。它将成为探测类星体、暗物质晕和超大质量黑洞的强大工具。发表在最新一期《天体物理学杂 玻璃，是我们日常生活中常见且应用非常广泛的一种材料，如外墙、窗户、杯子、灯饰……但玻璃的应用远不止于此。2024年3月22日14时，由中国下一代教育基金会与中国平安共同主办、科技 据韩国建国大学研究人员发表在最新一期开放获取期刊《公共科学图书馆·综合》上的一项研究，与狗共度美好时光可减轻压力，同时可增强与放松和注意力相关的脑电波。动物辅助干预措施，如犬类 自2019年以来，科学家已经在国际空间站上培育出了包括人类大脑、心脏和乳房在内的多个类器官模型。这些类器官通常利用人类干细胞培育而成，在一系列化学生长物质的帮助下，干细胞可发育成类似人体 在日常生活中，隧道可以帮助人们翻山越岭。在植物细胞内，当内部物质穿过细胞膜时，往往也会通过类似的“隧道”。记者从中国科学技术大学获悉，该校孙林峰团队在第六大植物激素——油菜素 “人工智能作为数字新基建重点建设方向，前景广阔，大有作为。今年的政府工作报告更首次提出开展‘人工智能+’行动，无疑将为人工智能技术在国内各行各业的广泛应用开启新篇章。”3月22 。本文链接：【财眼观两会】齐向东委员：开源大模型要重点防范代码缺陷等问题http://www.sushuapos.com/show-2-10970-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： “AI选股”热潮背后的利与弊