。

尽管这听起来微不足道#xff0c;但几乎任何东西都可以被认为是时间序列。

一个月里你每小时的平均心率#xff0c;一年里一只股票的日收盘价#xff0c;一年里某个城市每周发生的交通事故数。

在任何一段时间段内记…时间序列是指在一段时间内发生的任何可量化的度量或事件。

尽管这听起来微不足道但几乎任何东西都可以被认为是时间序列。

一个月里你每小时的平均心率一年里一只股票的日收盘价一年里某个城市每周发生的交通事故数。

在任何一段时间段内记录这些信息都被认为是一个时间序列。

对于这些例子中的每一个都有事件发生的频率(每天、每周、每小时等)和事件发生的时间长度(一个月、一年、一天等)。

在本教程中我们将使用

我们的目标是接收一个值序列预测该序列中的下一个值。

最简单的方法是使用自回归模型我们将专注于使用LSTM来解决这个问题。

数据准备

让我们看一个时间序列样本。

下图显示了2013年至2018年石油价格的一些数据。

技术提升

技术要学会分享、交流不建议闭门造车。

一个人走的很快、一堆人可以走的更远。

完整代码、数据、技术交流提升

均可加交流群获取群友已超过2000人添加时切记的备注方式为来源兴趣方向方便找到志同道合的朋友。

CSDN

这只是一个日期轴上单个数字序列的图。

下表显示了这个时间序列的前10个条目。

每天都有价格数据。

date

94.27许多机器学习模型在标准化数据上的表现要好得多。

标准化数据的标准方法是对数据进行转换使得每一列的均值为0标准差为1。

下面的代码scikit-learn进行标准化

from

StandardScaler().fit(df[x].values.reshape(-1,

1))

scalers[key].transform(norm_df.iloc[:,

1))

norm我们还希望数据具有统一的频率——在这个例子中有这5年里每天的石油价格如果你的数据情况并非如此Pandas有几种不同的方法来重新采样数据以适应统一的频率请参考我们公众号以前的文章

对于训练数据我们需要将完整的时间序列数据截取成固定长度的序列。

假设我们有一个序列[1,

[Sequence]

或者说我们定义了为了预测下一个值需要回溯多少步。

我们将这个值称为训练窗口而要预测的值的数量称为预测窗口。

在这个例子中它们分别是3和1。

下面的函数详细说明了这是如何完成的。

def

df[itw:itwpw][target_columns].values

data[i]

data这样我们就可以在PyTorch中使用Dataset类自定义数据集

class

torch.Tensor(sample[sequence]),

def

DataLoader来遍历数据。

使用DataLoader的好处是它在内部自动进行批处理和数据的打乱所以我们不必自己实现它代码如下:

BATCH_SIZE

generate_sequences(norm_df.dcoilwtico.to_frame(),

sequence_len,

根据拆分比例拆分数据并将每个子集加载到单独的DataLoader对象中

train_len

drop_lastTrue)在每次迭代中DataLoader将产生16个(批量大小)序列及其相关目标我们将这些目标传递到模型中。

模型架构

我们将使用一个单独的LSTM层然后是模型的回归部分的一些线性层当然在它们之间还有dropout层。

该模型将为每个训练输入输出单个值。

class

dnn_layers.append(nn.Linear(nhid,

n_outputs))

dnn_layers.append(nn.Linear(nhid,

nhid))

dnn_layers.append(nn.Dropout(pdropout))

compile

torch.zeros(self.n_lstm_layers,

x.shape[0],

torch.zeros(self.n_lstm_layers,

x.shape[0],

self.dropout(x.contiguous().view(x.shape[0],

-1))

DNN.我们设置了2个可以自由地调优的参数n_hidden和n_deep_players。

更大的参数意味着模型更复杂和更长的训练时间所以这里我们可以使用这两个参数灵活调整。

剩下的参数如下sequence_len指的是训练窗口nout定义了要预测多少步;将sequence_len设置为180,nout设置为1意味着模型将查看180天(半年)后的情况以预测明天将发生什么。

nhid

use_cudaUSE_CUDA).to(device)模型训练

定义好模型后我们可以选择损失函数和优化器设置学习率和周期数并开始我们的训练循环。

由于这是一个回归问题(即我们试图预测一个连续值)最简单也是最安全的损失函数是均方误差。

这提供了一种稳健的方法来计算实际值和模型预测值之间的误差。

优化器和损失函数如下

torch.optim.AdamW(model.parameters(),

lrlr)下面就是训练循环的代码在每次训练迭代中我们将计算之前创建的训练集和验证集的损失:

Lists

我们调用训练过的模型来预测未打乱的数据并比较预测与真实观察有多大不同。

def

make_predictions_from_dataloader(model,

model.eval()

我们的预测看起来还不错!预测的效果还可以表明我们没有过度拟合模型让我们看看能否用它来预测未来。

这里需要注意的是根据训练模型时选择的参数你预测的越长远模型就越容易表现出它自己的偏差开始预测平均值。

因此如果没有必要我们不希望总是预测得太超前因为这会影响预测的准确性。

def

torch.Tensor(history).unsqueeze(0)

pred

pred.detach().numpy().reshape(-1)

def

list(history[self.target])[-tw:]

Call

np.array(pre[-tw:]).reshape(-1,

forecast

self.one_step_forecast(pre_).squeeze()

pre.append(forecast)

我们在这个时间序列的中间从不同的地方进行预测这样我们就可以将预测与实际发生的情况进行比较。

我们的预测程序可以从任何地方对任何合理数量的步骤进行预测红线表示预测。

这些图表显示的是y轴上的标准化后的价格

预测2013年第三季度后200天

我们这个模型表现的还算一般!但是我们通过这个示例完整的介绍了时间序列预测的全部过程我们可以通过尝试架构和参数的调整使模型变得得更好预测得更准确。

本文只处理单变量时间序列其中只有一个值序列。

还有一些方法可以使用多个系列来进行预测。

这被称为多元时间序列预测我将在以后的文章中介绍。