大模型做时序预测也很强！华人团队激活LLM新能力，超越一众传统模型实现SOTA

发布时间: 2024-04-11 17:24:41 来源：量子位

观看：229

通用大语言模型重编程框架

大语言模型潜力被激发——

无需训练大语言模型就能实现高精度时序预测，超越一切传统时序模型。

来自蒙纳士大学、蚂蚁、IBM研究院提出了一种通用框架，结果成功激活大语言模型跨模态处理时序数据的能力。

时序预测有益于城市、能源、交通、遥感等典型复杂系统的决策制定。

自此，大模型有望彻底改变时序/时空数据挖掘方式。

通用大语言模型重编程框架

简单来说，研究团队提出了一个通用框架，将大语言模型轻松用于一般时间序列预测，而无需做任何训练。

主要提出两大关键技术：时序输入重编程；提示做前缀。

Time-LLM首先使用文本原型（Text Prototypes）对输入的时序数据进行重编程，通过使用自然语言表征来表示时序数据的语义信息，进而对齐两种不同的数据模态，使大语言模型无需任何修改即可理解另一个数据模态背后的信息。

为了进一步增强LLM对输入时序数据和对应任务的理解，作者提出了提示做前缀（Prompt-as-Prefix，PaP）的范式，通过在时序数据表征前添加额外的上下文提示与任务指令，充分激活LLM在时序任务上的处理能力。

主要贡献包括：

1、提出了通过重编程大型语言模型用于时序分析的全新概念，无需对主干语言模型做任何修改。

2、提出一个通用语言模型重编程框架Time-LLM，它包括将输入时序数据重新编程为更自然的文本原型表示，并通过声明性提示（例如领域专家知识和任务说明）来增强输入上下文，以指导LLM进行有效的跨域推理。

3、在主流预测任务中的表现始终超过现有最好的模型性能，尤其在少样本和零样本场景中。此外，Time-LLM在保持出色的模型重编程效率的同时，能够实现更高的性能。大大释放LLM在时间序列和其他顺序数据方面尚未开发的潜力。

具体来看这一框架，首先，输入时序数据先通过RevIN归一化操作，然后被切分成不同patch并映射到隐空间。

时序数据和文本数据在表达方式上存在显著差异，两种属于不同的模态。

时间序列既不能直接编辑，也不能无损地用自然语言描述。因此，我们需要将时序输入特征对齐到自然语言文本域上。

而对齐不同模态的一个常见方式是cross-attention，但是LLM固有的词汇表很大，因此无法有效直接将时序特征对齐到所有词上，而且也并不是所有词都和时间序列有对齐的语义关系。

为了解决这个问题，这项工作对词汇表进行了线形组合来获取文本原型，其中文本原型的数量远小于原始词汇量，组合起来可以用于表示时序数据的变化特征。

而为了充分激活LLM在指定时序任务上的能力，这项工作提出了提示做前缀的范式。

通俗点说，就是把时间序列数据集的一些先验信息，以自然语言的方式，作为前缀prompt，和对齐后的时序特征拼接喂给LLM，是不是能够提升预测效果？

在实践中，作者确定了构建有效提示的三个关键组件：

（1）数据集上下文；（2）任务指令，让LLM适配不同的下游任务；（3）统计描述，例如趋势、时延等，让LLM更好地理解时序数据的特性。

团队在长程预测上经典的8大公开数据集上进行了全面的测试。

结果Time-LLM在基准比较中显著超过此前领域最优效果，比如对比直接使用GPT-2的GPT4TS，Time-LLM有明显提升，表明了该方法的有效性。

此外，在zero-shot场景中也表现了很强的预测能力。

本项目获得蚂蚁集团智能引擎事业部旗下AI创新研发部门NextEvo支持。

感兴趣的小伙伴可戳下方链接了解论文详情~

论文链接
https://arxiv.org/abs/2310.01728

日前，盛世盈创氢能科技（陕西）有限公司（以下简称盛世盈创）与协氢（上海）新能源科技有限公司宣布达成战略合作，共同推进风冷氢燃料电池电堆全自动化生产线（以下简称风冷堆）的研发与生产。双方协议，将建设目 3月18日，伴随着搬运车的轰鸣声，全国首个大规模清洁能源特高压直流输电工程的送端±800千伏特高压祁连换流站迎来了一位“新成员”——1号调相机转子，该换流站第7次年度检修工作记者3月20日从中国科学技术大学获悉，该校郭光灿院士团队在量子态分辨研究中取得重要进展。研究组在最小资源消耗的量子态分辨问题中首次提出了全局最优自适应策略，并发展了自适应集体测量实验自2023年以来，人工智能的“触角”已延伸到生活的方方面面。其中，“人工智能+情感”的赛道正悄然崛起。目前，国内外已经出现了多款较为成熟的AI伴侣应用。不少网友在社交媒体上晒出了与自己“AI 3月23日消息，xiaomi集团王晓雁晒出了xiaomiCivi 4 Pro限定色真机照，该系列共有三款颜色，分别是蓝色、粉色和黑与白，定价为3599元，将于4月1日开始发售。据了解，xiaomiCivi 4 Pro限定色整体设计更像专业科学杂志《成瘾》3月21日发表的一项新研究显示，刚开始吸烟和终生吸烟都可能增加腹部脂肪，特别是内脏脂肪。内脏脂肪与心脏病、糖尿病、中风和痴呆症的高风险有关。吸烟者相较于不吸烟者，通常体。

本文链接：大模型做时序预测也很强！华人团队激活LLM新能力，超越一众传统模型实现SOTAhttp://www.sushuapos.com/show-2-4769-0.html

声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。

上一篇： “玲龙一号”全球首堆首台DCS机柜顺利就位

下一篇：不响不辍 | 第18届中国投资年会·年度峰会即将启幕

大模型做时序预测也很强！华人团队激活LLM新能力，超越一众传统模型实现SOTA

通用大语言模型重编程框架

热门资讯

推荐资讯

科技最热文章