专栏名称: AI科研技术派
专注于人工智能领域。每日更新AI技术干货、前沿资讯、算法知识、论文/比赛推荐、面试分享等行业资源。
今天看啥  ›  专栏  ›  AI科研技术派

颠覆传统!Transformer时序预测重大突破

AI科研技术派  · 公众号  ·  · 2024-03-15 22:09
Transformer进行时间序列预测,一直是AI顶会的“红人”,近来该领域再次取得重大突破:iTransformer,在不修改任何模块的情况下,就实现了全面领先!实际上,对Transformer架构进行改进,提升预测效果,一直是迫切需求!主要在于Transformer在时序预测领域一直面临诸多挑战,比如Transformer 计算多头自注意力的方式:二次复杂度,在处理长序列时会产生计算瓶颈,经典的informer模型就由此诞生。同时这也是我们论文创新的好机会!为方便大家汲取灵感,今天给大家分享12种改进思路,原文与源码都有。扫描下方二维码,回复「T」免费获取全部论文合集及项目代码论文鉴赏iTransformer: Inverted Transformers Are Effective for Time Series Forecasting「简述」 :由于性能下降和计算量激增,Transformer在预测具有较大回顾窗口的序列时面临挑战。此外,每个时间标记的统一嵌入 ………………………………

原文地址:访问原文地址
快照地址: 访问文章快照