Pytorch学习Day 5: 神经网络基础(nn.Module)学习课程

学习目标

• 理解 PyTorch 中 nn.Module 类的作用和核心功能。
• 掌握如何使用 nn.Linear 构建简单的单层神经网络。
• 学会访问和打印神经网络的参数。
• 通过代码实践加深对 PyTorch 神经网络模块的理解。

术语解释

1. nn.Module: PyTorch 中所有神经网络模块的基类，用于定义和管理网络层及其参数。 提供自动管理参数（如权重和偏置）、前向传播（forward 方法）等功能。 自定义网络时，通常继承 nn.Module 并实现 forward 方法。
2. nn.Linear: 表示一个全连接层（线性层），执行线性变换：y = xW^T + b。 参数： in_features：输入特征数量。 out_features：输出特征数量。 bias：是否包含偏置（默认 True）。
3. 参数（Parameters）: 神经网络中可学习的权重和偏置，存储在 nn.Module 的 parameters() 方法中。 可通过优化器（如 torch.optim.SGD）进行更新。
4. 前向传播（Forward Pass）: 输入数据通过网络层计算输出的过程。 在 nn.Module 中通过定义 forward 方法实现。

学习内容

1. 理解 nn.Module 的核心功能： 自动管理网络层和参数。 提供 parameters() 方法访问可学习参数。 实现 forward 方法定义前向传播逻辑。
2. 使用 nn.Linear 构建单层网络： 创建一个简单的全连接层网络。 输入和输出维度自定义，模拟简单的线性变换。
3. 打印网络参数： 使用 named_parameters() 或 parameters() 方法访问权重和偏置。 理解参数的形状和作用。

代码示例

以下是一个完整的代码示例，展示如何使用 nn.Module 和 nn.Linear 构建单层神经网络，并打印其参数：

python

import torch
import torch.nn as nn

# 定义一个单层神经网络
class SingleLayerNet(nn.Module):
    def __init__(self, input_size, output_size):
        super(SingleLayerNet, self).__init__()
        # 定义一个线性层
        self.linear = nn.Linear(input_size, output_size)

    def forward(self, x):
        # 前向传播：通过线性层
        return self.linear(x)

# 设置随机种子以确保结果可复现
torch.manual_seed(42)

# 定义输入和输出维度
input_size = 3
output_size = 2

# 实例化网络
model = SingleLayerNet(input_size, output_size)

# 打印网络结构
print("网络结构：")
print(model)

# 打印网络参数
print("\\n网络参数：")
for name, param in model.named_parameters():
    print(f"层：{name} | 参数形状：{param.shape} | 参数值：\\n{param.data}")

# 创建一个示例输入张量
x = torch.randn(1, input_size)  # 批量大小=1，输入维度=3
print(f"\\n输入张量：{x}")

# 前向传播
output = model(x)
print(f"输出张量：{output}")

代码输出（示例）：

网络结构：
SingleLayerNet(
  (linear): Linear(in_features=3, out_features=2, bias=True)
)

网络参数：
层：linear.weight | 参数形状：torch.Size([2, 3]) | 参数值：
tensor([[ 0.3367,  0.1288,  0.2345],
        [ 0.2303, -0.1227,  0.2467]])
层：linear.bias | 参数形状：torch.Size([2]) | 参数值：
tensor([-0.1818,  0.4817])

输入张量：tensor([[0.3367, 0.1288, 0.2345]])

输出张量：tensor([[0.4262, 0.4967]], grad_fn=<AddmmBackward0>)

代码解析：

• 模型定义：继承 nn.Module，在 init 中定义 nn.Linear 层，在 forward 中实现前向传播。
• 参数打印：使用 named_parameters() 遍历权重（linear.weight）和偏置（linear.bias），显示形状和值。
• 输入输出：创建随机输入张量，调用模型进行前向传播，得到输出。

任务

1. 实现单层网络： 修改代码中的 input_size 和 output_size，观察参数形状的变化。 尝试禁用偏置（设置 bias=False），查看参数和输出的变化。
2. 打印参数： 使用 model.parameters() 打印所有参数，比较与 named_parameters() 的差异。 手动访问 model.linear.weight 和 model.linear.bias，确认参数值。
3. 扩展练习： 增加一个 nn.ReLU 激活函数到 forward 方法中，观察输出变化。 创建一个批量输入（例如 torch.randn(5, input_size)），运行前向传播，验证输出形状。

资源建议

1. PyTorch 官方文档： nn.Module nn.Linear
2. 教程： PyTorch 官方教程：Building Neural Networks 博客：Understanding nn.Module
3. 视频资源： YouTube: Search for “PyTorch nn.Module tutorial” (如 Aladdin Persson 的 PyTorch 系列)。

后续学习建议

• 下一步可以学习多层神经网络（MLP），引入激活函数（如 ReLU）和损失函数。
• 探索 torch.optim 优化器，结合损失函数进行参数更新。
• 深入理解 nn.Sequential 简化网络构建。

通过本课程，你将掌握 nn.Module 和 nn.Linear 的基本用法，为构建更复杂的神经网络打下基础！