“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险
刚刚发布最高等级“Mythos(神话)”系列模型，北京时间6月11日，Anthropic CEODario Amodei(达里奥・阿莫迪)再次围绕AI安全发声。
Amodei认为AI发展远超政策流程设计时应承载的速度，并在《人工智能指数政策》中表示，四年间，AI模型已从几乎无法写出一句连贯代码，进步到能够编写大型AI公司中的大部分代码。在生物学、物理学、数学、金融学、法学、翻译等领域也都取得了类似进展。预估随着计算能力的不断提升，AI通用认知能力将呈指数级增长，如今这一理论已获得实证支持，如果再持续发展一两年，世界很可能会迎来他所定义的强人工智能。
同时，相比AI发展速度，政策，尤其是立法，推进得极为缓慢。Amodei表示，政府握有重大权力，但通常情况下不宜仓促行使。但这种时间尺度上的错配可能造成：在国会耗时数年方能采取行动的周期内，AI已从一个有趣的玩具演变为一个汇聚天才的国度。
Amodei认为，再过几年，AI将成为少数几项能够从根本上重塑政策格局的技术之一，该影响将如同核武器重塑地缘政治、工业革命改变所有经济与社会议题一样。且由于AI的颠覆性影响尚未显现，目前很难确切知晓其可能呈现的形态，因此即便有采取行动的意愿，也难以制定出恰当的政策。
鉴于当前形势所施加的限制，包括Anthropic在内的许多安全倡导者将致力于推动制定能够为未来快速应对奠定基础，或使全球更清晰地洞察潜在风险的政策举措，例如透明度立法、针对芯片的出口管制，以及关于AI劳动影响的数据收集等。
讽刺的是，Amodei以Anthropic自身研发的模型产品Claude Mythos Preview为例称，过去几个月，AI的强大能力及其潜在风险的证据已变得不容忽视，尤其是前沿模型对网络安全构成的威胁可能扰乱金融行业、关键基础设施及国家安全。他认为，Anthropic刚发布的Mythos 系列模型所带来的网络风险绝不会是最后一种，未来生物安全风险也可能很快接踵而至。
因此，Dario建议在全球范围内启动一套政策机制，虽然该动作已至少滞后一年，但监管与公共安全、宏观经济与税收政策、科技创新、国家与社会之间的权力平衡，以及地缘政治这五大方面，均需要重新构想的长期性政策。
此外，Anthropic同步发布一项关于前沿模型测试的立法提案，以及一套针对就业替代问题的政策框架，并计划为此提供大规模的资金支持。
上周，Anthropic便公开建议行业放缓或暂停前沿AI开发，但行业普遍认为，相关文章并非严格的技术报告，更像是为了达成企业自身目的而渲染的安全焦虑，并无实操价值。
此次更新文章，网友同样并不买账。有网友直接将其类比为《不扩散核武器条约》，渲染焦虑以便囤积资源。
作者：吕倩
今年全国两会期间，人工智能成为热点话题，“人工智能+”首次被写入政府工作报告。一头连着数字经济发展大局，一头连着行业变革与创新，“人工智能+”既是新质生产力发展的“新引擎”，也是产业和消费 英国“我超爱科学”网站1月1日刊登题为《什么是“时空连续体”？》的文章，作者是斯蒂芬·伦茨，内容编译如下：“时空连续体”(space-time continuum)是源自于大多数人听说过却未必完全了解的 在近日举行的全球AI盛会GTC（GPU Technology Conference）2024上，联想集团与NVIDIA（英伟达）宣布合作推出全新混合人工智能解决方案，帮助企业和云提供商获得在人工智能时代成功所需的关键的加速计算能 一个国际团队近日在英国《自然》杂志上发表论文说，他们利用湖水样本培养出一种奇特的光合细菌，它属于绿弯菌门一种此前未知的目，代表了光合作用生物进化过程中的过渡形式。新发现为进一步探索远 3月24日消息，今天数码博主“厂长是关同学”曝光了huaweiMate 70系列电话的部分配置信息。该博主表示，huawei全新的Mate 70系列首发会搭载新的芯片，芯片的性能差不多可以比肩5.5nm，还是值得期待的。同 3月24日，据央视财经消息，在今天开幕的中国发展高层论坛2024年年会现场，苹果公司首席执行官蒂姆·库克回应记者提问表示，苹果公司的Apple Vision Pro头显产品将在今年年内于中国市场上市， 。本文链接：“自家模型也很危险”，Anthropic CEO再次“喊话”警惕AI风险http://www.sushuapos.com/show-2-16521-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 强光磁试验装置测量站已建成 “超级显微镜”预计年底投入运行
下一篇： 机器人租赁火了 保险如何兜住商业化风险？