Torch.nn库

《零基础入门PyTorch》专栏持续更新中未来最少文章数量为60篇。

由于专栏刚刚建立促销价为9.9。

后续将慢慢恢复原价至99.9【在校大学生】评论区留言并私信我免费订阅《零基础入门PyTorch》专栏主要针对零基础入门的小伙伴。

不需要Python基础不需要深度学习基础只要你愿意学这一个专栏将真正让你做到零基础入门。

每例项目都包括理论讲解、数据集、源代码。

正在更新中

平台Window11语言环境Python3.8运行环境1PyCharm

2021.3运行环境2Jupyter

nn.Module是所有神经网络类的基类。

你可以将其视为一个容器用于管理神经网络中的其他层。

创建自定义的网络类时你需要从nn.Module继承并实现前向传播方法。

nn.Linear

(全连接层)

nn.Linear实现了一个全连接层用于将输入张量与权重和偏差相加然后应用激活函数。

它需要指定输入特征的数量和输出特征的数量。

nn.Conv2d

(二维卷积层)

nn.Conv2d实现了一个二维卷积层用于图像处理任务。

它可以指定输入通道数、输出通道数、卷积核大小和步长等参数。

二、特殊函数类模型建构定义中使用

这些类实现了常见的损失函数如均方误差损失、交叉熵损失等。

它们用于计算模型预测与真实值之间的差异。

nn.ReLU,

nn.Tanh,

这些类实现了常见的激活函数如ReLU、Tanh和Sigmoid等。

你可以将它们作为层的输出或添加到自定义层中。

三、固定参数函数类训练循环中快速使用

nn.functional模块包含了许多实用的函数用于执行常见的神经网络操作如前向传播、激活函数计算等。

这些函数与nn.Module中的类方法相对应但更加灵活因为它们不强制使用nn.Module作为容器。

nnModule容器、Linear等各种层、不可学习函数、functional容器nn.Module容器里面放置Linear、Conv2d等层。

nn.functional函数综合里面有固定参数的各类函数损失函数、激活函数等重点区别functional容器中的函数

nn.Module

类扮演着核心角色它是构建任何自定义神经网络层、复杂模块或完整神经网络架构的基础构建块。

类似于一个网络容器我们可以往容器中放入各种层结构。

这里猫猫基于nn.Module创建一个简单的神经网络模型实现代码如下

class

output_feature):super(Net,self).__init__()self.hidden

num_hidden)

#num_hidden隐含层神经元数也就是输出特征数self.out

nn.Linear(num_hidden,output_feature)def

forward(self,

Module网络容器。

定义网络模型、网络功能前向传播与反向传播

nn.functional

是PyTorch中一个重要的模块包含了许多用于构建神经网络的函数损失函数、激活函数等。

类似于一个函数容器我们可以从容器中拿出各种神经网络构建使用的函数。

与

nn.Module

不同Module中的Linear、Conv2d等层本质也就是函数只不过可以学习参数nn.functional

4.1

在PyTorch中你只需将输入数据传递给这些函数并将它们作为网络功能的一部分记住是网络功能的一部分不是网络模型的一部分就可以使用。

网络分为网络模型在init中定义就是各种层结构、网络功能forward、backward等功能就是在forward函数中定义

这里猫猫有一个简单的示例演示如何在一个全连接神经网络中使用ReLU激活函数

import

的主要优势是它的计算效率和灵活性因为它允许你以函数的方式直接调用这些操作而不需要创建额外的层。

4.2

激活函数是神经网络中的关键组件它们引入非线性成分使网络能够拟合复杂的数据。

以下是一些常见的激活函数

ReLU

ReLU是一种简单而有效的激活函数它将输入值小于零的部分设为零大于零的部分保持不变。

它的数学表达式如下

output

Sigmoid函数将输入值映射到0和1之间常用于二分类问题的输出层。

它的数学表达式如下

output

Tanh函数将输入值映射到-1和1之间它具有零中心化的特性通常在循环神经网络中使用。

它的数学表达式如下

output

交叉熵损失通常用于多分类问题计算模型的预测分布与真实分布之间的差异。

它的数学表达式如下

loss

均方误差损失通常用于回归问题度量模型的预测值与真实值之间的平方差。

它的数学表达式如下

loss

最大池化是一种用于减小特征图尺寸的操作通常用于卷积神经网络中。

它的数学表达式如下

output

批量归一化是一种用于提高训练稳定性和加速收敛的技术。

它的数学表达式如下

output

F.relu()两种方法都是使用relu激活只是使用的场景不一样F.relu()是函数调用一般使用在foreward函数里。

而nn.ReLU()是模块调用一般在定义网络层的时候使用。

import

卷积层输入3个通道输出16个通道卷积核大小3x3步长1填充1self.bn

nn.BatchNorm2d(16)

如果想要学习更多pyTorch的知识大家可以点个关注并订阅持续学习、天天进步

你的点赞就是我更新的动力如果觉得对你有帮助辛苦友友点个赞收个藏呀~~~