快讯科技财经汽车社会旅游娱乐时尚健康生活科学教育

热搜：内地买家入搭载2.8吨京东618全 “十五五” 【好评中国重庆：首批配有十大猥琐

首页 > 科技

让Sora和ChatGPT更可靠！只需这个知识价值定量评估新框架

发布时间: 2024-03-17 20:22:07 来源：量子位

观看：363

将物理机理等领域知识引入AI

西风发自凹非寺
量子位 | 公众号 QbitAI

为了让AI更像科学家，他们将人类知识注入大模型…

正如教孩子解难题，你可以让他们自己反复试错找到正确方法，也可以教他们一些基础规则和技巧提高解题效率。

类似地，将规则和技巧等人类知识融入到ChatGPT、Sora等基于数据驱动的AI模型训练中，有可能提高模型的效率和推理能力。

△该图由AI模型StableDiffusionXL生成

但关键问题是如何平衡数据和知识对模型的影响。

为了解决这一问题，美国国家工程院院士张东晓、宁波东方理工大学（暂名）助理教授陈云天领衔，提出了一个新框架——

它首次对知识的价值进行定量评估，从而增强深度学习模型的预测能力。

实验证明，该框架可在物理、化学、工程学等不同领域有广泛的实际应用，比如使用该方法优化机器学习模型来解决多变量方程、预测薄层色谱实验的结果优化未来的实验化学条件等。

目前，该研究已刊于Cell Press交叉学科领域期刊Nexus。

此外值得一提的是，虽然Sora发布后被认为可以理解“事物在现实世界中的存在方式”，但本文研究人员认为它不能准确模拟许多基本交互的物理特性：

如果没有对世界的基本理解，模型本质上就是动画，而不是一个模拟。

新框架长啥样？

在数据科学中，知识可被视为是数据在时间和空间维度中复杂关系的体现。深度学习领域，先验知识对于弥补数据驱动模型的缺陷至关重要。

然而，要想将物理机理等知识融入大模型仍然存在挑战——

如何评估先验知识的价值？数据和知识之间的关系是什么？如何使先验知识更好地发挥作用？

为解决这几点问题，本文研究框架的核心提出了两个新的概念：

规则重要性（Rule Importance, RI）
完全重要性（Full Importance, FI）

其中，规则重要性（RI）用于量化每条规则对模型预测精度的边际贡献，研究特定规则或组合如何影响模型的预测准确性。

本文提到的“规则”指的是在知情机器学习（informed machine learning）框架中，用于指导模型学习和预测的先验知识。

计算过程如下图：

对于模型中纳入的第i条规则，定义它的边际贡献为：

为了进行比较，完全重要性（FI）表示在所有其他规则存在的情况下，某条规则的重要性，计算公式可以表示为：

值得一提的是，研究人员还建立了一种基于扰动的高效计算RI的方法，避免了每次都从头训练模型。

（更多细节，感兴趣的家人们可以查看原论文）

数据和规则的基本原理

接下来，研究人员通过一系列系统实验，揭示了数据和规则之间的一些内在原理和关系。

具体来说，他们选择了四个典型的物理过程作为实验案例，涉及的规则包括控制偏微分方程（PDEs）、边界条件（BCs）和初始条件（ICs）。

研究人员发现，在分布内（in-distribution）预测场景中，随着训练数据量增加，RI会逐渐降低。尤其是局部规则（local rules）如初始条件，RI下降得更快。

这表明在数据量较大时，模型可以通过学习数据本身来提高预测精度，而不需要依赖于规则来限制可能的分布范围。

分布外（out-of-distribution）预测场景中，不同类型规则的RI会随数据量变化呈现出不同趋势。全局规则（global rules）如PDE，RI会随数据量的增加而升高，而局部规则如初始条件的RI会随着数据量的增加而降低。

全局规则在指导模型全局分布方面发挥更关键的作用，而局部规则与观测数据紧密相关，过多的数据可能导致过拟合。

研究人员总结，规则之间存在着依赖（Dependence）、协同（Synergism）和替代（Substitution）等复杂交互作用。

依赖性体现为规则内部之间的依赖（inner dependence）和规则与依赖变量之间的外部依赖（outer dependence）。内部依赖指的是规则之间相互依赖以发挥作用，而外部依赖则是指规则对模型预测的依赖程度。
协同作用体现为：在某些情况下，多条规则共同作用产生的效应大于它们各自效应的总和。
替代作用体现为：在某些情况下，一个规则的功能可以被数据或其他规则替代。

值得一提的是，研究人员表示该框架在实际应用中具有实际效用，不仅能够提高知情机器学习（informed machine learning）的性能，还能够通过改善模型的规则选择来提高模型的安全性和可靠性。

作者简介

论文通讯作者

张东晓，美国工程院院士，美国地质学会会士，国际石油工程师协会SPE最高荣誉会员。

现任宁波东方理工大学（暂名）常务副校长兼教务长，主要从事智慧能源与碳中和领域研究。

陈云天，东方理工助理教授，博导。清华大学能源与动力工程系学士，北京大学力学（能源与资源工程）博士，鹏城实验室博士后。

研究方向为科学机器学习，主要专注于：物理驱动与数据驱动的融合、AI辅助的科学知识发现。

论文一作

徐浩，北京大学工学院博士研究生。

擅长运用人工智能技术辅助科学探索，相关研究曾发表在Nature Communications、Chem和Advanced Science等期刊。

参考链接：
[1]https://www.eurekalert.org/news-releases/1036117
[2]https://www.cell.com/nexus/fulltext/S2950-1601(24)00001-9

南方财经全媒体记者马嘉璐研究员仇雯广州报道凭借一纸证书，就能获批100万、500万、甚至千万元贷款……数据要素链接金融市场开辟的新财路，正吸引着越来越多的入局者。南方财经全媒春，推也。从草从日，草春时生也。进入春日，人们时常能在大地回暖、万物复苏中见证旺盛的生命力。一起解锁空间站里的“春日关键词”，感受太空中的“春日力量”吧！春日关键词：温暖空间站内四季如春 3月22日消息，美国司法部对iPhone提起诉讼，声称其苹果生态系统构成垄断。司法部表示，iPhone将苹果生态系统视为一种垄断，以牺牲消费者、开发者和竞争对手的利益为代价，推动公司估值的飙升。司法部还指 3月23日消息，vivo即将于3月26日发布vivo X Fold3系列折叠屏电话，其中包含vivo X Fold3和vivo X Fold3 Pro两款新品。据悉，vivo X Fold3采用了首发的碳纤维龙骨铰链，重量仅为219克，厚度为4.65毫米。相在日常生活中，隧道可以帮助人们翻山越岭。在植物细胞内，当内部物质穿过细胞膜时，往往也会通过类似的“隧道”。记者从中国科学技术大学获悉，该校孙林峰团队在第六大植物激素——油菜素 3月22日，在2024低碳建筑产业论坛上，北京首例负碳示范建筑——首程时代中心负碳示范建筑正式亮相。活动现场，中国建筑节能协会、北京绿色交易所分别授予首程时代中心负碳示范建筑“零。

本文链接：让Sora和ChatGPT更可靠！只需这个知识价值定量评估新框架http://www.sushuapos.com/show-2-3868-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇：谷歌通用AI智能体发布，3D游戏玩法要变天了

下一篇：零一万物API开放平台出场！通用Chat多模态通通开放，还有200K超长上下文版本

让Sora和ChatGPT更可靠！只需这个知识价值定量评估新框架

新框架长啥样？

数据和规则的基本原理

作者简介

热门资讯

推荐资讯

科技最热文章