深度学习时间序列的综述

摘要：时间序列一般是指对某种事物发展变化过程进行观测并按照一定频率采集得出的一组随机变量。时间序列预测的任务就是从众多数据中挖掘出其蕴含的核心规律并且依据已知的因素对未来的数据做出准确的估计。由于大量物联网数据采集设备的接入、多维数据的爆炸增长和对预测精度的要求愈发苛刻，导致经典的参数模型以及传统机器学习算法难以满足预测任务的高效率和高精度需求。近年来，以卷积神经网络、循环神经网络和 Transformer 模型为代表的深度学习算法在时间序列预测任务中取得了丰硕的成果。为进一步促进时间序列预测技术的发展，综述了时间序列数据的常见特性、数据集和模型的评价指标，并以时间和算法架构为研究主线，实验对比分析了各预测算法的特点、优势和局限；着重介绍对比了多个基于 Transformer 模型的时间序列预测方法；最后结合深度学习应用于时间序列预测任务存在的问题与挑战对未来该方向的研究趋势进行了展望。（文末附论文下载地址）

1 前言

随着社会中物联网传感器的广泛接入，几乎所 有科学领域都在以不可估量的速度产生大量的时 间序列数据。传统参数模型和机器学习算法已难以 高效准确地处理时间序列数据，因此采用深度学习 算法从时间序列中挖掘有用信息已成为众多学者 关注的焦点。分类聚类[1-4]、异常检测[5-7]、事件预测[8-10]、时 间序列预测[11-14]是时间序列数据的四个重点研究方 向。已有的时序预测综述文章，概括了经典的参数模型以及传统机器学习算法的相关内容，但缺少对Transformer 类算法最新成果的介绍和在各行业常用数据集的实验对比分析。余下内容将以深度学习的视角重点分析阐述有关时间序列预测方向的内容，并在多种 GPU 环境下对不同数据集采用多个评价指标进行实验对比分析。基于深度学习的时间序列预测算法发展脉络如图1 所示：

时间序列预测是时间序列任务中最常见和最 重要的应用，通过挖掘时间序列潜在规律，去进行 类推或者延展用于解决在现实生活中面临的诸多 问题，包括噪声消除[15]、股票行情分析[16-17]、电力 负荷预测[18]、交通路况预测[19-20]、流感疫情预警[21] 等。

当时间序列预测任务提供的原始数据仅为目 标数据的历史数据时，为单变量时间序列预测，当 提供的原始数据包含多种随机变量时，为多变量时 间序列预测。时间序列预测任务根据所预测的时间跨度长短，可划分为四类，具体如图2 所示：