“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险
刚刚发布最高等级“Mythos(神话)”系列模型，北京时间6月11日，Anthropic CEODario Amodei(达里奥・阿莫迪)再次围绕AI安全发声。
Amodei认为AI发展远超政策流程设计时应承载的速度，并在《人工智能指数政策》中表示，四年间，AI模型已从几乎无法写出一句连贯代码，进步到能够编写大型AI公司中的大部分代码。在生物学、物理学、数学、金融学、法学、翻译等领域也都取得了类似进展。预估随着计算能力的不断提升，AI通用认知能力将呈指数级增长，如今这一理论已获得实证支持，如果再持续发展一两年，世界很可能会迎来他所定义的强人工智能。
同时，相比AI发展速度，政策，尤其是立法，推进得极为缓慢。Amodei表示，政府握有重大权力，但通常情况下不宜仓促行使。但这种时间尺度上的错配可能造成：在国会耗时数年方能采取行动的周期内，AI已从一个有趣的玩具演变为一个汇聚天才的国度。
Amodei认为，再过几年，AI将成为少数几项能够从根本上重塑政策格局的技术之一，该影响将如同核武器重塑地缘政治、工业革命改变所有经济与社会议题一样。且由于AI的颠覆性影响尚未显现，目前很难确切知晓其可能呈现的形态，因此即便有采取行动的意愿，也难以制定出恰当的政策。
鉴于当前形势所施加的限制，包括Anthropic在内的许多安全倡导者将致力于推动制定能够为未来快速应对奠定基础，或使全球更清晰地洞察潜在风险的政策举措，例如透明度立法、针对芯片的出口管制，以及关于AI劳动影响的数据收集等。
讽刺的是，Amodei以Anthropic自身研发的模型产品Claude Mythos Preview为例称，过去几个月，AI的强大能力及其潜在风险的证据已变得不容忽视，尤其是前沿模型对网络安全构成的威胁可能扰乱金融行业、关键基础设施及国家安全。他认为，Anthropic刚发布的Mythos 系列模型所带来的网络风险绝不会是最后一种，未来生物安全风险也可能很快接踵而至。
因此，Dario建议在全球范围内启动一套政策机制，虽然该动作已至少滞后一年，但监管与公共安全、宏观经济与税收政策、科技创新、国家与社会之间的权力平衡，以及地缘政治这五大方面，均需要重新构想的长期性政策。
此外，Anthropic同步发布一项关于前沿模型测试的立法提案，以及一套针对就业替代问题的政策框架，并计划为此提供大规模的资金支持。
上周，Anthropic便公开建议行业放缓或暂停前沿AI开发，但行业普遍认为，相关文章并非严格的技术报告，更像是为了达成企业自身目的而渲染的安全焦虑，并无实操价值。
此次更新文章，网友同样并不买账。有网友直接将其类比为《不扩散核武器条约》，渲染焦虑以便囤积资源。
作者：吕倩
日前，盛世盈创氢能科技（陕西）有限公司（以下简称盛世盈创）与协氢（上海）新能源科技有限公司宣布达成战略合作，共同推进风冷氢燃料电池电堆全自动化生产线（以下简称风冷堆）的研发与生产。双方协议，将建设目 记者3月20日从中国科学院地质与地球物理研究所获悉，该所科研人员在东北黑土区开展了大范围的野外调查和样品采集工作，通过分析采集的黑土样品发现，黑土物质最初都是由风力搬运而来。相关研究成 据《自然》20日消息称，天文学家对91对恒星所作的光谱分析显示，大约每12个恒星中就有一个可能吞噬了一个行星。在吞噬一个行星后，恒星的化学构成可能发生改变，这个过程被称为“行星吸收”。通过比 3月19日，记者从中国科学院海洋研究所了解到，该所研究团队在国际上首次发布了银鲳的高质量染色体水平参考基因组。相关研究论文近日在线发表于《自然》子刊《科学数据》。银鲳广泛分布于西北太 3月23日消息，据媒体报道，iPhone与百度公司已达成合作协议，百度将为苹果内置的生成式人工智能大模型提供技术支持。报道指出，iPhone生成式人工智能大模型的合作伙伴包含谷歌、百度、OpenAI等公司。国 在近日开幕的中国国际核工业展览会上，中国核学会理事会党委书记、理事长王寿君表示，中国内地现有在运核电机组55台、居全球第三；在建核电机组26台，保持全球第一。这些成绩的取得，离不开智能化技术 。本文链接：“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险http://www.sushuapos.com/show-2-16521-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 强光磁试验装置测量站已建成 “超级显微镜”预计年底投入运行
下一篇： 机器人租赁火了 保险如何兜住商业化风险？