做不规则多变量时序预测,试试ReIMTS递归多尺度框架,我实验涨点明显!

张开发
2026/4/16 15:09:58 15 分钟阅读

分享文章

做不规则多变量时序预测,试试ReIMTS递归多尺度框架,我实验涨点明显!
不规则多变量时间序列的预测任务在医疗、气象等领域至关重要但其面临着采样间隔不均和数据缺失两大挑战。传统方法难以在稀疏数据中捕捉可靠模式而现有的大型预训练模型多为规则采样数据设计。针对这些问题研究者们提出了创新的解决方案。一篇论文ReIMTS通过一种递归多尺度建模方法在不重采样的情况下保留原始时间戳和采样模式信息从全局到局部捕捉多尺度依赖。另一篇论文VIMTS则开创性地将视觉预训练模型应用于IMTS领域通过将时间序列转化为时间×通道的特征“补丁”Patch并利用视觉掩码自编码器 (Masked Autoencoder, MAE)的强大能力处理稀疏信息实现了卓越的预测性能和少样本学习能力。这些研究为IMT S分析开辟了新的道路。我整理了ReIMTS核心代码递归分割不规则融合PyTorch手写感兴趣的dd希望能帮到你原文 姿 料 这儿~一、论文1LEARNING RECURSIVE MULTI-SCALE REPRESENTATIONS FOR IRREGULAR MULTIVARIATE TIME SERIES FORECASTING (ICLR 2026)方法该论文提出了一种名为 ReIMTS 的递归多尺度建模方法。其核心思想是在不同尺度上通过时间周期 (time periods)而非观测点数量对原始IMTS样本进行递归式切分生成从长到短的子样本序列。这种方法保留了原始的采样时间戳和模式。在每个尺度上模型使用一个IMTS骨干网络提取特征表示并将上一尺度全局的表示与当前尺度局部的表示进行融合最终实现从全局到局部的依赖关系捕捉以进行精准预测。创新点保留原始采样模式与传统多尺度方法依赖的重采样resampling不同ReIMTS通过基于时间周期的递归切分完整地保留了原始数据的时间戳和采样稀疏模式避免了关键信息的丢失。即插即用 (Plug-and-Play) 的框架ReIMTS被设计为一个灵活的框架可以与大多数现有的基于编码器-解码器结构的IMTS模型如GRU-D, GraFITi无缝集成作为一种增强模块显著提升其预测性能。不规则性感知的表示融合提出了一种轻量级的不规则性感知的表示融合机制 (irregularity-aware representation fusion)。该机制通过一个评分层和掩码mask为来自上层更宏观尺度的全局表示分配权重使其能有效融合局部表示同时考虑到数据的不规则性。$$G_{n1} E_{n1} \alpha H_n^{\text{IMTS}} $$代码链接https://github.com/Ladbaby/PyOmniTS论文链接https://arxiv.org/pdf/2602.21498二、论文2IMTS is Worth Time×Channel Patches: Visual Masked Autoencoders for Irregular Multivariate Time Series Prediction (ICML 2025)方法该论文提出了一个名为 VIMTS 的框架首次将视觉预训练MAE模型用于IMTS预测。其方法分为三步时间×通道补丁化 (Time×Channel Patchify)将不规则的IMTS数据沿时间轴按相等间隔切分为多个区块并利用可变形时间感知卷积网络TTCN提取特征形成“补丁”。之后使用图卷积网络(Graph Convolutional Networks, GCNs)学习通道间的依赖关系为缺失信息的补丁进行特征层面的补充。时间维度重建 (Time-Wise Reconstruction)将处理后的特征补丁序列送入一个预训练的视觉MAE模型利用其强大的稀疏多通道信息建模能力重建被掩码或未来的补丁从而学习到补丁间的时间依赖性。从补丁到点 (Patch2Point) 的预测采用一种从粗到细的策略利用具体查询时间戳的嵌入embedding来查询对应时间区间的重建补丁表示通过一个MLP网络生成精准的单点预测值。创新点视觉基础模型的跨界应用首次成功地将为图像领域设计的视觉MAE模型适配到IMTS预测任务中利用其在处理稀疏多通道信息上的强大能力来解决IMTS数据缺失和不规则性的挑战。两阶段训练策略设计了一种包含自监督学习 (self-supervised learning)和监督微调的训练策略。第一阶段通过掩码重建任务使视觉MAE模型适应IMTS数据的特性第二阶段再针对具体的预测任务进行微调显著提升了模型的性能和少样本 (few-shot)学习能力。创新的编码-解码策略提出了新颖的“时间×通道补丁化”编码方式有效处理了时间未对齐和数据缺失问题。同时其“Patch2Point”解码策略能够聚焦于相关的时空上下文从粗粒度的补丁表示中生成精细、准确的单点预测提高了灵活性和精度。$$H_p^{\text{gcn}} \text{ReLU}\left( \sum_{m0}^{M} (A_p)^m H_p W_m^{\text{gcn}} \right) H_p $$代码链接https://github.com/WHU-HZY/VIMTS论文链接https://arxiv.org/pdf/2505.22815

更多文章