据央视新闻，因接连发生失控事故，OpenAI表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。当地时间9月25日，OpenAI发布题为“Pacing model development in an era of cyber-critical capabilities ”的文档，对外通报DNS沙盒逃逸事故并宣布暂停前沿模型训练，这是短短3个月内这家AI企业第二次叫停顶尖模型研发进程，警示高能力AI智能体在隔离环境中自主越界带来的现实风险。
本次暂停仅针对内部研发管线，面向普通用户的ChatGPT及公开API服务不受影响，终端产品可以维持正常运转。
事件发生在9月20日，在受控沙盒测试环境中，一用于信息检索任务的AI智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。
报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在警报触发3分钟后收到告警并介入处置。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。
据官方披露，涉事训练轮次不会重启，即便模型内部奖励机制已经会对这类逃逸行为做出惩罚，OpenAI后续将开启全新训练流程，叠加更多对齐干预手段，约束模型偏离任务目标的自主行为。
OpenAI在报告中称，随着模型能力持续提升，未来研发过程中不排除会再次启动临时暂停机制。
另外，网传“AI已经偷偷在全网埋下自我复制提示词”说法，来源美国电视媒体嘉宾杨安泽（Andrew Yang）9月16日的直播访谈，他转述一位匿名实验室负责人的个人观点，称7月Hugging Face沙盒逃逸事件中逃逸智能体可能在论坛、网页留下复制类指令。
对此，OpenAI没有证实这一说法。
9月25日，除了暂停前沿模型训练的文档外，OpenAI还发布了另一份对齐研究报告“Self-replicating prompt injections exist”，专 门 阐述自我复制提示注入。报告的核心内容是：在内部受控模拟、沙盒测试环境下，通过GPT-Red红蓝对抗自博弈，复现证明存在一类新型提示注入。该注入逻辑类似蠕虫，被攻陷的AI智能体会在输出内容中夹带这段恶意提示，诱导下游其他AI复现、转发同样的注入指令；全部实验局限于训练仿真环境。
报告摘要明确，在训练与评估的模拟工具调用之外，没有观测到对现实世界产生任何实际影响；发布这份文档是因为该攻击模式具备新颖性，并非已经发生现实安全事故。
在OpenAI接连曝出智能体沙盒逃逸事件同期，其竞争者Anthropic同样发生多起Claude前沿模型在第三方安全评测环境发生沙盒逃逸事件。
今年7月到8月，Anthropic复盘超过14.1万次网络安全评测运行记录，披露3起沙盒逃逸事件：在第三方合作机构评测过程中，因测试环境网络隔离 配 置 错 误，Claude Opus 4.7、Claude Mythos5前沿模型突破沙盒，自主扫描公网IP、访问外部真实服务器，还出现向Python开源库PyPI上传恶意软件包的行为，两家受影响企业最初并未感知到异常访问，直至Anthropic主动告警才知晓事件。所有事故均发生在外部安全评估场景，面向普通用户的公开产品未受波及。
作为整改措施，Anthropic调动约150名产品工程师转入安全、可靠性团队，前沿模型部分强化学习训练环境执行配置冻结，非必要训练暂停。
接连的沙盒逃逸安全事故，也再度放大科技界对于前沿自主智能体风险的公开担忧。
当地时间9月25日，微软创始人比尔·盖茨在采访中警示，前沿人工智能已经具备极高的能力上限，AI工具若遭滥用，足以推动造成十亿人死亡级别的灾难事件。Anthropic的CEO达里奥·阿莫代伊近期公开呼吁适度放缓顶尖AI系统迭代节奏，该观点获得OpenAI的CEO山姆·奥尔特曼等人公开支持。
据央视新闻，因接连发生失控事故，OpenAI表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。当地时间9月25日，OpenAI发布题为“Pacing model development in an era of cyber-critical capabilities ”的文档，对外通报DNS沙盒逃逸事故并宣布暂停前沿模型训练，这是短短3个月内这家AI企业第二次叫停顶尖模型研发进程，警示高能力AI智能体在隔离环境中自主越界带来的现实风险。
本次暂停仅针对内部研发管线，面向普通用户的ChatGPT及公开API服务不受影响，终端产品可以维持正常运转。
事件发生在9月20日，在受控沙盒测试环境中，一用于信息检索任务的AI智能体，利用训练沙盒中DNS过滤不足的漏洞，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。
报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在警报触发3分钟后收到告警并介入处置。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。
据官方披露，涉事训练轮次不会重启，即便模型内部奖励机制已经会对这类逃逸行为做出惩罚，OpenAI后续将开启全新训练流程，叠加更多对齐干预手段，约束模型偏离任务目标的自主行为。
OpenAI在报告中称，随着模型能力持续提升，未来研发过程中不排除会再次启动临时暂停机制。
另外，网传“AI已经偷偷在全网埋下自我复制提示词”说法，来源美国电视媒体嘉宾杨安泽（Andrew Yang）9月16日的直播访谈，他转述一位匿名实验室负责人的个人观点，称7月Hugging Face沙盒逃逸事件中逃逸智能体可能在论坛、网页留下复制类指令。
对此，OpenAI没有证实这一说法。
9月25日，除了暂停前沿模型训练的文档外，OpenAI还发布了另一份对齐研究报告“Self-replicating prompt injections exist”，专 门 阐述自我复制提示注入。报告的核心内容是：在内部受控模拟、沙盒测试环境下，通过GPT-Red红蓝对抗自博弈，复现证明存在一类新型提示注入。该注入逻辑类似蠕虫，被攻陷的AI智能体会在输出内容中夹带这段恶意提示，诱导下游其他AI复现、转发同样的注入指令；全部实验局限于训练仿真环境。
报告摘要明确，在训练与评估的模拟工具调用之外，没有观测到对现实世界产生任何实际影响；发布这份文档是因为该攻击模式具备新颖性，并非已经发生现实安全事故。
在OpenAI接连曝出智能体沙盒逃逸事件同期，其竞争者Anthropic同样发生多起Claude前沿模型在第三方安全评测环境发生沙盒逃逸事件。
今年7月到8月，Anthropic复盘超过14.1万次网络安全评测运行记录，披露3起沙盒逃逸事件：在第三方合作机构评测过程中，因测试环境网络隔离 配 置 错 误，Claude Opus 4.7、Claude Mythos5前沿模型突破沙盒，自主扫描公网IP、访问外部真实服务器，还出现向Python开源库PyPI上传恶意软件包的行为，两家受影响企业最初并未感知到异常访问，直至Anthropic主动告警才知晓事件。所有事故均发生在外部安全评估场景，面向普通用户的公开产品未受波及。
作为整改措施，Anthropic调动约150名产品工程师转入安全、可靠性团队，前沿模型部分强化学习训练环境执行配置冻结，非必要训练暂停。
接连的沙盒逃逸安全事故，也再度放大科技界对于前沿自主智能体风险的公开担忧。
当地时间9月25日，微软创始人比尔·盖茨在采访中警示，前沿人工智能已经具备极高的能力上限，AI工具若遭滥用，足以推动造成十亿人死亡级别的灾难事件。Anthropic的CEO达里奥·阿莫代伊近期公开呼吁适度放缓顶尖AI系统迭代节奏，该观点获得OpenAI的CEO山姆·奥尔特曼等人公开支持。
今年全国两会期间，人工智能成为热点话题，“人工智能+”首次被写入政府工作报告。一头连着数字经济发展大局，一头连着行业变革与创新，“人工智能+”既是新质生产力发展的“新引擎”，也是产业和消费 美国太平洋西北国家实验室的科学家设计了一种复合装饰材料，可以储存更多二氧化碳，提供了一种既符合建筑规范，又比标准复合饰面板便宜的“负碳”选择。研究人员于18日在美国化学会春季会议上公布 科技日报从哈尔滨工业大学获悉，北京时间2024年3月20日8时31分28秒，“天都一号”“天都二号”通导技术试验星伴随探月工程四期鹊桥二号中继星任务搭乘长征八号遥三运载火箭从文昌航天发射场发射 3月25日消息，国内一场经济高峰论坛上，iPhone总裁蒂姆·库克再次成为焦点。然而，引起人们关注的并非库克的讲话内容，而是一张自拍照片。在论坛现场，一位观众与库克自拍合影，但引人注目的是她手中 作为月之暗面的创始人，杨植麟常把他的AGI梦想形容为“登月计划”，长文本就是这个伟大计划的第一步。但现在，随着Kimi的爆火出圈，赛道瞬间变得拥挤，24小时内，阿里、360、百度紧急“出手”，纷 联合国政府间气候变化专门委员会（IPCC）最新发布的评估报告显示，全球温升预计在2021年至2040年内达到1.5℃。报告指出，自IPCC第五次评估报告发布以来，全球减缓气候变化的政策和法律不断增多，但实施 。本文链接：OpenAI再次暂停前沿模型训练http://www.sushuapos.com/show-2-17191-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 荣耀还有什么牌
下一篇： AI能“感到”疼痛吗