LSTMCell

在本教程中我们将介绍一个简单的示例旨在帮助初学者入门时间序列预测和

PyTorch

单元来学习从不同相位开始的正弦波信号。

模型在学习了这些正弦波之后将尝试预测未来的信号值。

使用方法

在这一步中我们将生成用于训练的正弦波信号数据。

以下是代码及其详细解释

import

numpy用于数值计算torch用于深度学习中的数据处理和模型训练

设置随机种子

设置随机种子以保证每次运行代码时生成相同的随机数从而使结果可重复。

定义常量

进行赋值每一行是一个按顺序排列的整数序列加上一个随机的偏移量。

偏移量的范围由

np.random.randint(-4

搭建一个LSTM模型进行时间序列预测。

以下是代码及其逐行解释我们将整个过程分为三个部分模型定义、数据加载与预处理以及模型训练与预测。

模型定义

outputs这段代码是一个简单的序列模型包括两个LSTMCell层和一个全连接层。

它接受一个输入序列通过LSTMCell层和全连接层对输入进行处理最终输出一个序列。

如果需要预测未来值则可以在forward函数中传入future参数来进行预测。

具体解释如下

首先导入必要的库包括torch、torch.nn等。

定义了一个名为Sequence的序列模型继承自nn.Module。

在初始化函数中定义了两个LSTMCell层和一个全连接层分别是lstm1、lstm2和linear。

forward函数用来定义模型的前向传播过程接受输入input和可选的future参数返回处理后的输出序列。

在forward函数中首先初始化了LSTMCell的隐藏状态和细胞状态h_t、c_t、h_t2、c_t2。

遍历输入序列input对每个输入进行处理更新LSTMCell的隐藏状态和细胞状态通过全连接层得到输出并将输出保存在outputs列表中。

如果future参数大于0表示需要预测未来值进入一个for循环通过当前输出不断更新LSTMCell的状态并将预测得到的输出保存在outputs中。

最后将所有输出序列拼接起来返回最终的输出。

这段代码主要实现了对输入序列的处理和未来值的预测是一个简单的序列预测模型。

数据加载与预处理

argparse.ArgumentParser()parser.add_argument(--steps,

typeint,

设置随机种子np.random.seed(0)torch.manual_seed(0)#

加载数据并构建训练集data

1:])这段代码是一个Python脚本的入口点通常用于定义和设置命令行参数加载数据并准备训练数据。

让我逐行解释

__name__

这是Python中用来判断是否当前脚本被当做程序入口执行的一种常见方式。

如果当前脚本被当做主程序执行而不是被其他模块导入这个条件会成立。

parser

定义了一个名为steps的命令行参数指定了参数的类型为整数默认值为15以及参数的帮助信息。

opt

创建了一个PyTorch张量input用于存储数据中第4列到倒数第2列之间的数据。

target

创建了一个PyTorch张量target用于存储数据中第4列到最后一列之间的数据。

test_input

创建了一个PyTorch张量test_input用于存储数据中第1列到倒数第2列之间的数据这是用于测试的输入数据。

test_target

创建了一个PyTorch张量test_target用于存储数据中第2列到最后一列之间的数据这是用于测试的目标数据。

这段代码的主要作用是准备数据设置随机种子和命令行参数为后续的数据处理和模型训练做准备。

模型训练与预测

Sequence()seq.double()criterion

nn.MSELoss()#

使用LBFGS作为优化器因为我们可以将所有数据加载到训练中optimizer

lr0.8)#

closure():optimizer.zero_grad()out

seq(input)loss

loss.item())loss.backward()return

开始预测不需要跟踪梯度with

绘制结果plt.figure(figsize(30,10))plt.title(Predict

future

fontsize20)plt.xticks(fontsize20)plt.yticks(fontsize20)def

draw(yi,

color):plt.plot(np.arange(input.size(1)),

yi[:input.size(1)],

2.0)plt.plot(np.arange(input.size(1),

input.size(1)

b)plt.savefig(predict%d.pdf%i)plt.close()这段代码是一个简单的

PyTorch

的序列模型。

然后转换这个模型为双精度数据类型。

接着定义了均方误差损失函数

作为优化器学习速率为

在训练过程中通过一个循环来进行多次优化迭代。

在每次迭代中通过闭包函数

“closure()”

库绘制预测的结果图。

其中将实线用于已知的数据部分虚线用于预测的数据部分。

最后结果图被保存为名为

‘predict%d.pdf’

这段代码的默认配置是使用CPU进行训练和预测。

如果你想利用GPU加速训练过程可以通过以下步骤修改代码将模型和数据放到GPU上进行计算。

来检查是否有可用的GPU。

将模型和数据移动到GPU将数据和模型移动到GPU设备上进行计算。

所有涉及到数据和模型的地方都需要做相应的改动使其可以在GPU上执行。

from

argparse.ArgumentParser()parser.add_argument(--steps,

typeint,

设置随机种子np.random.seed(0)torch.manual_seed(0)#

torch.device(cuda

:-1]).double().to(device)target

1:]).double().to(device)test_input

:-1]).double().to(device)test_target

构建模型seq

Sequence().double().to(device)criterion

nn.MSELoss()#

使用LBFGS作为优化器因为我们可以将所有数据加载到训练中optimizer

lr0.8)#

closure():optimizer.zero_grad()out

seq(input)loss

loss.item())loss.backward()return

开始预测不需要跟踪梯度with

绘制结果plt.figure(figsize(30,10))plt.title(Predict

future

fontsize20)plt.xticks(fontsize20)plt.yticks(fontsize20)def

draw(yi,

color):plt.plot(np.arange(input.size(1)),

yi[:input.size(1)],

2.0)plt.plot(np.arange(input.size(1),

input.size(1)

b)plt.savefig(predict%d.pdf%i)plt.close()

修改解释

方法将数据和模型移到指定设备CPU或GPU。

初始化隐藏状态和细胞状态时指定相应的设备

device

通过这些修改你可以利用GPU来加速模型训练过程。

当然前提是你的计算机上配备了兼容的GPU。

如果没有代码将自动退回到使用CPU进行训练。

STEP: