pytorch中的LSTM的使用让人有点头晕#xff0c;这里讲述的是LSTM的模型参数的意义。

1、加载数据集

torc…使用RNN对MNIST手写数字进行分类。

RNN和LSTM模型结构

pytorch中的LSTM的使用让人有点头晕这里讲述的是LSTM的模型参数的意义。

1、加载数据集

torchvision.datasets.MNIST(root./data/,trainTrue,transformtransforms.ToTensor(),downloadTrue)

test_dataset

torchvision.datasets.MNIST(root./data/,trainFalse,transformtransforms.ToTensor())train_loader

Data.DataLoader(datasettrain_dataset,batch_sizebatch_size,shuffleTrue)

test_loader

Data.DataLoader(datasettest_dataset,batch_sizebatch_size)

2、构建RNN模型

如果为True那么输入和输出Tensor的形状为(batch,

seq,

如果非零的话将会在RNN的输出上加个dropout最后一层除外。

bidirectional

num_layer三个。

input_size输入数据向量维度在这里为28hidden_size隐藏层特征维度也是输出的特征维度这里是128num_layerslstm模块个数这里是2。

2、h0和c0的初始化维度为num_layerbatch_size,

hidden_size

128])对应batch_size时序数隐藏特征维度也就是保存了28个时序的输出特征因为做的分类所以只需要最后的输出特征。

所以取出最后的输出特征进行全连接计算全连接计算的输出维度为1010分类。

4、batch_first这个参数比较特殊如果为true那么输入数据的维度为batch,

seq,

5、num_layerslstm模块个数如果有两个那么第一个模块的输出会变成第二个模块的输入。

总结构建一个LSTM模型要用到的参数输入数据的特征维度隐藏层的特征维度lstm模块个数时序的个数体现在X中,

X.shape

可以理解为LSTM可以根据我们的输入来实现自动的时序匹配从而达到输入长短不同的功能。

class

input_size,hidden_size,num_layers,

self).__init__()self.hidden_size

输入特征维度#hidden_size

层数和时序展开要区分开lstm模块的个数#batch_first为true输入和输出的形状为batch,

seq,

featuretrue意为将batch_size放在第一维度否则放在第二维度self.lstm

nn.LSTM(input_size,hidden_size,num_layers,batch_first

True)

self.hidden_size).to(device)#输出output

(seq_len,

c_n:最后一个时间步的隐藏状态和细胞状态#对out的理解维度batch,

eq_len,

hidden_size其中保存着每个时序对应的输出所以全连接部分只取最后一个时序的#out第一维batch_size第二维时序的个数第三维隐藏层个数所以和lstm单元的个数是无关的out,_

self.lstm(x,

torch.optim.Adam(model.parameters(),

len(train_loader)

enumerate(train_loader):#batch_size

-1,

optimizeoptimizer.zero_grad()loss.backward()

optimizer.step()if