“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险
刚刚发布最高等级“Mythos(神话)”系列模型，北京时间6月11日，Anthropic CEODario Amodei(达里奥・阿莫迪)再次围绕AI安全发声。
Amodei认为AI发展远超政策流程设计时应承载的速度，并在《人工智能指数政策》中表示，四年间，AI模型已从几乎无法写出一句连贯代码，进步到能够编写大型AI公司中的大部分代码。在生物学、物理学、数学、金融学、法学、翻译等领域也都取得了类似进展。预估随着计算能力的不断提升，AI通用认知能力将呈指数级增长，如今这一理论已获得实证支持，如果再持续发展一两年，世界很可能会迎来他所定义的强人工智能。
同时，相比AI发展速度，政策，尤其是立法，推进得极为缓慢。Amodei表示，政府握有重大权力，但通常情况下不宜仓促行使。但这种时间尺度上的错配可能造成：在国会耗时数年方能采取行动的周期内，AI已从一个有趣的玩具演变为一个汇聚天才的国度。
Amodei认为，再过几年，AI将成为少数几项能够从根本上重塑政策格局的技术之一，该影响将如同核武器重塑地缘政治、工业革命改变所有经济与社会议题一样。且由于AI的颠覆性影响尚未显现，目前很难确切知晓其可能呈现的形态，因此即便有采取行动的意愿，也难以制定出恰当的政策。
鉴于当前形势所施加的限制，包括Anthropic在内的许多安全倡导者将致力于推动制定能够为未来快速应对奠定基础，或使全球更清晰地洞察潜在风险的政策举措，例如透明度立法、针对芯片的出口管制，以及关于AI劳动影响的数据收集等。
讽刺的是，Amodei以Anthropic自身研发的模型产品Claude Mythos Preview为例称，过去几个月，AI的强大能力及其潜在风险的证据已变得不容忽视，尤其是前沿模型对网络安全构成的威胁可能扰乱金融行业、关键基础设施及国家安全。他认为，Anthropic刚发布的Mythos 系列模型所带来的网络风险绝不会是最后一种，未来生物安全风险也可能很快接踵而至。
因此，Dario建议在全球范围内启动一套政策机制，虽然该动作已至少滞后一年，但监管与公共安全、宏观经济与税收政策、科技创新、国家与社会之间的权力平衡，以及地缘政治这五大方面，均需要重新构想的长期性政策。
此外，Anthropic同步发布一项关于前沿模型测试的立法提案，以及一套针对就业替代问题的政策框架，并计划为此提供大规模的资金支持。
上周，Anthropic便公开建议行业放缓或暂停前沿AI开发，但行业普遍认为，相关文章并非严格的技术报告，更像是为了达成企业自身目的而渲染的安全焦虑，并无实操价值。
此次更新文章，网友同样并不买账。有网友直接将其类比为《不扩散核武器条约》，渲染焦虑以便囤积资源。
作者：吕倩
3月18日，中国经济信息社（以下简称中经社）垂直领域数字化应用系统发布仪式在北京举行。在发布仪式上，锚定建设“国家级经济信息旗舰”的目标，中经社推出了八大数字化应用系统。中经社此次发布的行 一个国际团队近日在英国《自然》杂志上发表论文说，他们利用湖水样本培养出一种奇特的光合细菌，它属于绿弯菌门一种此前未知的目，代表了光合作用生物进化过程中的过渡形式。新发现为进一步探索远 3月18日，记者从中南大学生殖与干细胞研究所获悉，研究所林戈、卢光琇教授团队提出的一项新理论称，原始生殖细胞的性染色体组成在人类性别决定中起关键作用。相关论文日前发表于国际生殖领域杂志 近日，美国纽约州立大学石溪分校科学家菲格罗阿等人在一篇发表于《自然·量子信息》上的论文中称，他们通过把两个独立的光子存储在铷气里，首次在室温条件下构建了一个量子存储器网络。鉴于 21世纪经济报道记者王峰北京报道 近日，成人职业在线教育企业尚德机构(NYSE:STG)公布了其2023年第四季度及全年未经审计的财务报告。2023年第四季度，尚德机构净收入为5.42亿元（人民币，下 在日常生活中，隧道可以帮助人们翻山越岭。在植物细胞内，当内部物质穿过细胞膜时，往往也会通过类似的“隧道”。记者从中国科学技术大学获悉，该校孙林峰团队在第六大植物激素——油菜素 。本文链接：“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险http://www.sushuapos.com/show-2-16521-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 强光磁试验装置测量站已建成 “超级显微镜”预计年底投入运行
下一篇： 机器人租赁火了 保险如何兜住商业化风险？