【报告内容】

汇报人： 梁帅鹏

汇报单位：河海大学

主题：PatchCLE: Breaking the Linear Representation Bottleneck in Time Series Forecasting via Soft Contrastive Learning

1、Introduction

2、Method

3、Experiments

4、Conclusion

【报告总结】

1.待解决的问题描述

Patch 化 Transformer 在时序预测中表现优异，但优势并不稳定。论文指出瓶颈主要在线性嵌入层：它难以把 patch 映射到结构良好的潜空间，导致注意力退化；同时主流对比学习以时间步为单位，易受噪声与突变干扰，实例级软权重又依赖高复杂度 DTW，难以适配多元长期预测。

2.相关创新方案

提出 PatchCLE：以 patch 为粒度，通过覆盖时间、实例、通道三个层次的软对比学习（PCL）重建嵌入表征，其中通道层为新增维度；设计 Decomp，以趋势与季节分解加余弦相似度高效生成软权重，替代 DTW；预测仍由 Channel Mixture 与 Transformer 主干完成，对比损失仅作用于训练期，不增加推理负担。

3.实验总结

在 8 个真实数据集、96–720 四种预测长度下，PatchCLE 在 6/8 的平均 MSE 上取得最优；消融显示三层互补、软权重优于硬权重、Fusion Attention 不可或缺；PCL 即插即用平均提升 2.31%；模型仅 364k 参数，精度与 DUET 同处第一梯队，参数却不足其 20%。但在 ETTm、Weather 等细粒度高噪声数据上优势收窄。

4.未来工作

可进一步在高频细粒度与跨域数据上验证泛化性；补充显著性检验与误差分析，厘清软权重增益的机制来源；探索更大 patch 尺度、预训练与迁移学习；并优化训练显存开销，推动真实场景部署。

报告时间：2026年09月04日19:30

腾讯会议：311-5999-8176

点我下载本讨论课相关文献或PPT吧~(提取码：iipr)