ICLR 24 | 基于提示词的生成预训练Transformer时间序列预测框架

主要观点总结

文章介绍了过去十年深度学习在时间序列建模方面的显著进展，并提出了一个新的框架TEMPO，它能够学习时间序列表示，并引入了两个基本归纳偏置来分解趋势、季节性和残差成分之间的复杂相互作用以及引入提示设计以促进不同类型时间序列中的分布适应。实验表明，TEMPO在多个时间序列基准数据集上的性能超过了最先进的方法，特别是在零样本设置和多模态输入场景中。

关键观点总结

关键观点1: TEMPO框架的提出

文章提出了一个新颖的框架TEMPO，它可以有效学习时间序列表示。

关键观点2: TEMPO的两个基本归纳偏置

TEMPO利用时间序列任务的两个基本归纳偏置：分解趋势、季节性和残差成分之间的复杂相互作用以及引入提示设计以促进不同类型时间序列中的分布适应。

关键观点3: 实验表现

实验表明，TEMPO在多个时间序列基准数据集上的性能超过了最先进的方法，特别是在零样本设置和多模态输入场景中。

关键观点4: 与现有方法的比较

TEMPO与现有的时间序列预测方法相比，包括基于统计的方法、机器学习方法和深度学习方法，都显示出了显著的性能提升。