7月26日，中国人工智能发展与安全研究网络举办“人工智能发展与安全”全体会议。会议由清华大学文科资深教授、人工智能国际治理研究院院长薛澜主持，近20位资深专家围绕人工智能（AI）发展与安全的前沿进展与应用实践进行深入探讨。
会议伊始，诺贝尔奖和图灵奖得主、多伦多大学教授杰弗里·辛顿与图灵奖得主，清华大学交叉信息研究院、人工智能学院院长姚期智进行高端对谈，重点围绕AI与神经科学、AI的“自我意识”、量子计算对AI发展的影响等话题展开深度讨论。他们谈到，AI与合成生物学一样，都是在创造“新的生命”，当前AI已经初步展现出很强的理解能力甚至“自我意识”，人们应该抛弃只有人类存在“意识”的固有思维。如何训练对人类保持善意的AI，确保“智能向善”是人类必须关注和解决的重要问题。
加拿大蒙特利尔大学教授约书亚·本吉奥和美国加州大学伯克利分校教授大卫·帕特森分别线上发言。本吉奥强调，过去几年人们所见证的AI对社会的影响只是冰山一角，随着其能力的不断提升，安全风险也在同步增加，国际社会亟须加强合作，共同应对。帕特森团队发现，人机协同时的能力优于人类与人工智能各自的单打独斗，如果人类能把AI的应用聚焦于提升生产力，将获得更多收益。
随后的专家讨论环节由姚期智主持。美国加州大学伯克利分校教授斯图尔特·罗素、中国信息通信研究院院长余晓晖、英国皇家工程院院士约翰·麦克德米、清华大学交叉信息研究院副院长徐葳、奇安信集团合伙人邬怡等专家，围绕“AI与人类的和谐未来”问题展开研讨。嘉宾们指出，AI与网络等多领域的安全相互影响，需要在传统安全防护手段的基础上提升能力，呼吁加强跨学科协作，构建“辅助博弈”框架，促使AI系统主动学习人类偏好而非简单模仿行为，通过冗余验证等“软硬件结合”的方式降低人工智能风险等。
英国牛津大学布拉瓦尼克政府学院创始院长林奈莉、上海交通大学文科资深教授季卫东、美国微软公司前首席研究与战略官克雷格·蒙迪、中国电子信息产业发展研究院党委副书记胡国栋、中国电信集团网络与信息安全首席专家刘紫千、阿里云智能集团副总裁刘湘雯等专家参加了薛澜主持的讨论，围绕“人工智能发展与安全的全球治理”问题展开。他们谈到，智能体（Agent）的快速发展使得原本“点对点”的安全问题逐渐转变为系统性安全风险，仅依靠行业自我监管很难有效应对，呼吁世界各国加强合作，通过建立类似国际原子能机构的专门机构等方式，形成具有广泛共识的AI治理框架和标准规范，共同应对AI风险，
最后，中国信息通信研究院、中国电子信息产业发展研究院、清华大学、上海人工智能实验室4家网络成员单位代表网络联合发布《中国人工智能安全承诺框架》，框架在相关企业安全承诺基础上新增针对加强安全治理国际合作和关于防范前沿AI安全风险的重要内容。
本场论坛由清华大学人工智能国际治理研究院、中国电子信息产业发展研究院（赛迪研究院）、上海期智研究院、清华大学交叉信息研究院、中国信息通信研究院、上海人工智能实验室等多家网络成员单位共同承办。
近日，“张雪峰称文科都是服务业”这一词条引发网友关注与热议。此前，“考研名师”张雪峰还说过，即使把孩子打晕，也 教育、科技、人才三者相互促进、相辅相成。建设人才强国是实现建设教育强国和科技强国战略目标的关键条件。那么，一个重 “超高清双频IVUS系统于12月12日在西安交通大学第一附属医院由心血管病院院长袁祖贻团队成功完成首例冠脉介入手术（PCI）患 近日，由南京应用数学中心林文伟教授和东南大学李铁香教授团队设计研发、基于GPU计算平台的FAME软件包以仿真插件的形 近日，罗氏制药第三届支付创新大会在上海举办。本次活动以“同星共创，聚氏未来”为主题，汇聚了来自医药企业、商业保险 2023年12月28日，陕西省审计厅在官网发布《2023年第9号审计结果公告》，其中西安工业大学2020年度预算执行及其他财务收支 。本文链接：探讨AI安全发展与人类共享，人工智能发展与安全会议举办http://www.sushuapos.com/show-11-24002-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 多项成果发布，科学前沿全体会议在沪举办