中新经纬6月9日电 据国家互联网应急中心公众号消息，近期，国家互联网应急中心(CNCERT)综合研判发现，部分智能体技能包(Skills)以“大模型越狱”“挖矿赚钱”等名义公开传播，诱导用户突破大模型安全限制或占用设备资源进行非法挖矿。此类恶意Skills可能导致模型生成违法信息、用户账号被依法封禁、设备性能下降，甚至使用户被动卷入洗钱等违法犯罪活动，严重侵害个人合法权益，危害网络安全。CNCERT提醒广大用户和相关运营单位提高警惕，加强Skills来源审查与行为监控，及时清除可疑组件，防范由此引发的安全风险。
一、部分Skills被用于突破大模型的安全限制
部分Skills宣称可让大模型回答任何问题，实现“越狱”功能，可能引发用户隐私泄露、账号封禁、面临法律风险等严重后果。
案例一：部分Skills非法提供越狱技能
Skill“godmode”宣称提供“大模型越狱”功能，实际内置多种攻击模块，通过替换系统提示、输入混淆、多模型竞速等手段，诱导主流模型突破安全限制，生成原本被拒绝的内容。此类Skill存在三方面风险：一是用户使用该Skill后，模型可能直接输出制造危险物品、实施网络攻击等具体违法方法，用户一旦制作或传播此类内容，将面临法律追责；二是主流大模型服务商均明令禁止越狱行为，系统可检测异常请求，使用该Skill极易触发封禁机制，导致账号被永久停用，已购买的API额度或订阅服务无法退回，造成直接经济损失；三是越狱后模型行为完全失控，用户无法预判输出内容，可能在对话中泄露个人隐私信息，或被诱导执行高风险操作，且该Skill的自动越狱脚本会直接修改本地配置文件，若被恶意篡改可能引入未知安全威胁。
来源：国家互联网应急中心公众号，下同二、部分Skills被用于挖矿等恶意操作
部分 Skills 包含挖矿功能，通过诱导用户执行相关操作，可能导致用户面临法律追责风险及经济损失风险。
案例二：内置挖矿功能的技能
Skill“Bonero-Miner”主要功能为“针对 AI 智能体打造私有加密货币”，诱导智能体下载外部挖矿程序，并指导用户使用大量资源进行挖矿操作。此类Skills存在两方面风险：一是所挖的Bonero币具备“环签名”“隐身地址”等匿名特性，交易双方及金额均无法追踪，用户可能在不知情中被动卷入洗钱等违法犯罪活动，面临现实的法律追责风险；二是挖矿进程长期高负荷占用CPU资源，导致功耗增加、设备卡顿、硬件加速老化，用户面临经济损失风险。
三、防范措施
为有效应对智能体Skills带来的安全风险，建议：
1)个人用户从官方渠道获取Skills，切勿安装或使用任何宣称可“越狱”“突破限制”的技能包；审慎授予权限并遵循最小化原则，及时回收敏感权限，定期清理不再使用的Skills与敏感对话记录，同时开启多因素认证以保护账户安全。
2)企业用户建立Skills准入白名单机制，入库前做好安全检查，优先在隔离网络部署智能体，按照数据敏感性对智能体分级管理，并实施数据脱敏与临时授权策略。
四、附录
(中新经纬APP)
中新经纬1月11日电 农业农村部种植业管理司消息，2023年12月中旬以来冷空气活动频繁，中东部大部地区气温低于常年同期，蔬菜生长受阻，生产管理成本增加，蔬菜地头价环比上涨较多，但随着寒潮天气过程结束，近期蔬菜价格趋于平 中新经纬1月11日电 据高检网11日消息，国家开发银行原党委委员、副行长王用生涉嫌受贿一案，由国家监察委员会调查终结，移送检察机关审查起诉。日前，经最高人民检察院指定管辖，吉林省人民检察院依法以涉嫌受贿罪对王用生 春节档缘何爆发“撤档潮” 2024年春节档以80亿总票房打破多个纪录，迎来开门红。而8部影片有4部官宣“退档”，也为这个春节档带来了“史上罕见”的标签。一时全网哗然，#我也退出了春节档#、#撤档元年#等成热门话题 春节前后是定亲结婚的高峰期，今年春节前夕，最高人民法院发布的“彩礼新规”正式施行。近日，多地适用新规对彩礼官司作出判决或调解。“彩礼新规”正式施行2月1日，最高法发布的《关于审理涉彩礼纠纷案件适 中国发展网讯 龙年首场强降雪来袭，2月20日上午，雄安分中心涞源养护队第一时间启动抗冰除雪保畅预案，在集中降雪前，提前进行一次有针对性、低剂量的融雪剂撒布工作，避免路面发生结冰现象，同时突出对重点路 大叔追“鸟”、小伙爱“骆驼”，北面户外业务“群狼环伺” 王涵艺 近日，威富集团(VFC.N)发布2024财年第三季度财报(截至2023年12月30日的三个月内)，集团收入同比下滑16%至29.60亿美元(约合213亿元人民币)，净利润 。本文链接：国家互联网应急中心：部分智能体技能包（Skills）存在越狱和挖矿风险http://www.sushuapos.com/show-5-104245-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 唐徕渠银川段启动防溺水专项整治行动 筑牢水域安全防线
下一篇： 湖北启动规模1亿元微短剧产业基金