近期，中国科学院软件研究所研究团队为提升大语言模型时间序列预测性能，提出了向量注入式上下文学习框架。该框架能够稳定提升时间序列预测性能，并可以降低计算开销。
大语言模型进行时间序列预测时面临一项主要挑战——预训练文本与时间序列数据在分布与结构上存在差异。传统方法采用全量微调来减少这种差异，但其训练成本高、显存占用大，限制了实际应用。
研究团队提出引入上下文学习的方法LVICL。该方法通过在输入提示中引入任务示例，使模型无需更新参数即可实现“类似微调”的效果。为提升上下文学习对示例选择与顺序敏感的不稳定问题，该方法提取示例的向量表示，并以置换不变的方法进行聚合，从而消除顺序敏感性；采用轻量适配器对聚合后的上下文向量进行精练，抑制其中可能干扰预测的分量，增强对示例选择的鲁棒性；将优化后的向量注入到大语言模型各层的残差流中，以可控方式引导模型进行预测。
研究团队在多个时间序列预测基准数据集上对LVICL进行系统评估。实验表明，LVICL在保持大语言模型完全冻结、训练开销降低的前提下，能够稳定复现并进一步放大上下文学习带来的收益。与轻量微调方法相比，LVICL在多种数据集与实验设置下均表现出更强的预测能力，并在效率与性能的平衡上展现出更好的实用性。
相关论文被互联网领域顶级国际学术会议The Web Conference 2026（WWW-26）录用。
论文链接
LVICL总体框架
11月8日，记者从南方科技大学获悉，该校地球与空间科学系副教授胡佳顺研究团队与南洋理工大学助理教授卢卡·达尔&mid 面部情感识别是人类重要的社交能力。这一能力让我们能够迅速而准确地识别他人的基本情感如快乐、恐惧等。而这种社交能力在自闭症谱系障碍等社会认知障碍中常常受到影响。尽管面部情感识别在社交互动中具有重要 浙江德清莫干山镇中心学校的学生们在大课间时跳竹竿舞。 资料图片 实现基本均衡后，我国义务教育的发展目标正向优质均衡迈进。到2035年，绝大多数县（市、区、旗）域将实现义务教育优 中国教育报-中国教育新闻网讯（特约通讯员 苏勤）为推进国家通用语言文字普及工作，提高原民族语言授课学校教师国家通用语言文字教学水平，11月12日至14日，内蒙古教育厅举办全区原民族语言授课学校教 中国教育报-中国教育新闻网讯（记者 程墨 通讯员 田寿永 陈灏）近日，2024年世界职业院校技能大赛总决赛医药卫生赛道康复治疗技术小组争夺赛在湖北职院举行，来自全国29个省、自治区、直辖市的58支 中国教育报-中国教育新闻网讯（记者 冯丽）近日，2024年世界职业院校技能大赛争夺赛（高职组）短视频创作与运营赛项在陕西职业技术学院落幕。来自全国31个省市的61支参赛队经过激烈角逐，苏州工艺美术职 。本文链接：研究提出新型时间序列预测框架http://www.sushuapos.com/show-12-2556-0.html
声明：本网站为非营利性网站，本网页内容由互联网博主自发贡献，不代表本站观点，本站不承担任何法律责任。天上不会到馅饼，请大家谨防诈骗！若有侵权等问题请及时与本网联系，我们将在第一时间删除处理。
上一篇： 量子电路优化研究获进展
下一篇： 可持续超润滑水凝胶研究获进展