21世纪经济报道记者吴斌 上海报道
7月26日,2025世界人工智能大会暨人工智能全球治理高级别会议开幕,诺贝尔奖、图灵奖得主杰弗里·辛顿(Geoffrey Hinton)探讨了AI的优势和未来潜在的“失控”风险。
一方面,人脑具有自己的优势。辛顿表示,人脑只需30瓦特就能运转,我们的神经元连接达数万亿个,无需花费大量资金制造完全相同的硬件。“但问题在于,模拟模型间的知识转移效率极低,我无法直接将脑中的知识展示给他人。生物计算功耗低,但知识分享难。”
另一方面,软件能“永生”,还有低功耗优势。如果能源和计算成本低廉,情况会好很多,但这也让辛顿感到担忧:“几乎所有专家都认为,我们会创造出比人类更智能的AI。人类习惯了作为最智能的生物,很难想象AI超越人类的场景。我们创造的AI智能体已经能帮我们完成任务,它们能拷贝自身、评估子目标,还会为了生存和完成目标而寻求更多控制权。”
(诺贝尔奖、图灵奖得主杰弗里·辛顿,资料图)
有人认为可以在AI变得过强时关掉它们,但辛顿表示,这并不现实。AI最终可能会像成年人操纵3岁孩子一样操纵人类,劝说控制机器的人不要关闭它们。“这就像把老虎当宠物,幼虎很可爱,但长大后可能伤人,而养老虎当宠物通常不是好主意。”
面对 AI,辛顿认为只有两个选择:要么训练它永远不伤害人类,要么“消灭”它。但 AI 在医疗、教育、气候变化、新材料等领域作用巨大,能提升各行各业的效率,无法消除它。即便一个国家放弃 AI,其他国家也不会。因此,若想让人类生存,必须找到训练AI不伤害人类的方法。
辛顿提醒,各国在网络攻击、致命武器、虚假信息操纵等领域的合作难度较大,因利益和看法不同。但在“人类掌控世界”这一目标上,各国存在共识:若有国家找到防止AI操控世界的方法,一定会愿意分享。
因此他提议,全球主要国家或AI大国应建立一个由AI安全机构组成的国际社群,研究如何训练高智能AI向善,这与训练AI变得聪明的技术不同。各国可在自身主权范围内研究,再分享成果。尽管目前还不知道具体怎么做,但这是人类长期面临的最重要问题,所有国家都能在这一领域合作。
来源|时代商业研究院作者|孙华秋编辑|韩迅2.74亿元定增刚落地,股价就涨停并创近两年新高,射频芯片企 来源:金十财经哈萨克斯坦央行正从全球主要黄金买家转向卖家,计划在今年年底前将黄金在外汇储备中的占比从目前约78%降至75%。美国国债收益率持续走高,正促使该国重新评估黄金与美元资产之间的配置比例。哈萨克斯坦央行副 21世纪经济报道见习记者杨梦鸽国家金融监督管理总局江苏监管局官网2026年10月10日披露的行政处罚信息显示,苏州金融监管分局对苏州信托有限公司、浙商银行股份有限公司苏州分行合计罚款210万元,另有4名相关责任人被警告 21世纪经济报道记者 余纪昕 上海报道10月13日,上海银行2026年“敬老月”正式启幕。上海银行副行长陈雷在接受包括21世纪经济报道在内的媒体记者采访时,介绍了今年上海银行“敬老月”活动的特色与亮点。关于上海银行手机 。本文链接:AI教父辛顿:AI会比人类聪明,必须训练AI不伤害人类http://www.sushuapos.com/show-3-150432-0.html
声明:本网站为非营利性网站,本网页内容由互联网博主自发贡献,不代表本站观点,本站不承担任何法律责任。天上不会到馅饼,请大家谨防诈骗!若有侵权等问题请及时与本网联系,我们将在第一时间删除处理。
上一篇: 金正恩参谒中朝友谊塔并献花圈