IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> pytorch学习13:实现LetNet和学习nn.Module相关基本操作 -> 正文阅读

[人工智能]pytorch学习13:实现LetNet和学习nn.Module相关基本操作

用pytorch实现经典的LeNet网络。

网络结构图:

请添加图片描述

模型建立代码

LeNet包含如下层:

  • 二维卷积层 ( [ 32 , 32 ] → [ 6 , 28 , 28 ] ) ([32,32] \rightarrow [6,28,28]) ([32,32][6,28,28]),激活函数 r e l u relu relu
  • 池化层 ( → [ 6 , 14 , 14 ] ) (\rightarrow [6,14,14]) ([6,14,14])
  • 二维卷积层 ( → [ 16 , 10 , 10 ] ) (\rightarrow [16,10,10]) ([16,10,10]),激活函数 r e l u relu relu
  • 池化层 ( → [ 16 , 5 , 5 ] ) (\rightarrow [16,5,5]) ([16,5,5])
  • 打平向量 ( → [ 16 ? 5 ? 5 ] ) (\rightarrow [16*5*5]) ([16?5?5])
  • 全连接层 ( → [ 120 ] ) (\rightarrow [120]) ([120]),激活函数 r e l u relu relu
  • 全连接层 ( → [ 84 ] ) (\rightarrow [84]) ([84]),激活函数 r e l u relu relu
  • 全连接层 ( → [ 10 ] ) (\rightarrow [10]) ([10])
import torch
import torch.nn as nn
import torch.nn.functional as F

class Net(nn.Module):
    def __init__(self):
        super(Net, self).__init__()
        # 1 维输入图像通道,6 维输出通道
        # 卷积核为 5x5 的卷积核
        self.conv1 = nn.Conv2d(1, 6, 5)
        # 6 维输入图像通道,16 维输出通道
        # 卷积核为 5x5 的卷积核
        self.conv2 = nn.Conv2d(6, 16, 5)

        # 最后的三层全连接
        self.fc1 = nn.Linear(16 * 5 * 5, 120)
        self.fc2 = nn.Linear(120, 84)
        self.fc3 = nn.Linear(84, 10)

    def forward(self, x):
        # 用 2x2 的窗口对第一层卷积进行 Max pooling池化操作
        x = F.max_pool2d(F.relu(self.conv1(x)), (2, 2))
        # 对第二层卷积进行同样操作
        # 如果池化窗口形状为正方形,可以只输入一个数
        x = F.max_pool2d(F.relu(self.conv2(x)), 2)

        # 将 x 打平成一维向量
        x = x.view(-1, self.num_flot_features(x))

        # 全连接层的前向传播
        x = F.relu(self.fc1(x))
        x = F.relu(self.fc2(x))
        x = self.fc3(x)
        return x

    def num_flot_features(self, x):
        """
        计算除批次外的所有维度
        用来确定打平后的维度
        如 x.shape = [100, 28, 28]
        返回值为 28 * 28

        :param x: 数据
        :return: 除第一维外的所有维度之积
        """
        size = x.size()[1:]
        num_features = 1
        for s in size:
            num_features *= s

        return num_features

输出网络结构

可以通过打印对象直接查看构成网络的各层属性。

示例代码:

# 创建LetNet对象
net = Net()
# 输出网络结构
print('网络结构:\n', net)

输出结果:

网络结构:
 Net(
  (conv1): Conv2d(1, 6, kernel_size=(5, 5), stride=(1, 1))
  (conv2): Conv2d(6, 16, kernel_size=(5, 5), stride=(1, 1))
  (fc1): Linear(in_features=400, out_features=120, bias=True)
  (fc2): Linear(in_features=120, out_features=84, bias=True)
  (fc3): Linear(in_features=84, out_features=10, bias=True)
)

查看可训练参数

可以通过 .parameters() 获得各层参数,可用来更新权重。

示例代码:

# 创建LetNet对象
net = Net()

# 使用 net.parameters 可以获得被学习参数的列表和值
params = list(net.parameters())

print('需训练的参数矩阵个数:', len(params))

for p in params:
    print(p.size())

输出结果:

需训练的参数矩阵个数: 10
torch.Size([6, 1, 5, 5]) # 第一层卷积核的参数
torch.Size([6]) # 第一层卷积核的偏置
torch.Size([16, 6, 5, 5]) # 第二层卷积核的参数
torch.Size([16]) # 第二层卷积核的偏置
torch.Size([120, 400]) # 第一次全连接的权重
torch.Size([120]) # 第一层全连接的偏置
torch.Size([84, 120]) # 第二层全连接的权重
torch.Size([84]) # 第二层全连接的偏置
torch.Size([10, 84]) # 第三层全连接的权重
torch.Size([10]) # 第三层全连接的偏置

前向传播

使用 对象名(输入数据)来进行前向计算。

示例代码:

# 创建LetNet对象
net = Net()

# 表示为:有1批数量为1的32*32大小的图片
input_ = torch.randn(1, 1, 32, 32)
out = net(input_)
print('网络输出:', out)

输出结果:

网络输出: tensor([[-0.0573, -0.0214, -0.0619,  0.0998,  0.0441, -0.0282,  0.0089,  0.0991,
         -0.0603, -0.0076]], grad_fn=<AddmmBackward>)

反向传播和梯度下降

可以用过 loss.backward() 来更新梯度,然后用 net.parameters() 来获取并更新参数。

示例代码:

# 创建LetNet对象
net = Net()

# 创建 X
# 表示为:有1批数量为1的32*32大小的图片
x = torch.randn(1, 1, 32, 32)

# 创建 Y
y = torch.randn(1,10)

# 前向计算
y_pred = net(x)

# 设置损失函数为 MSE
loss_func = nn.MSELoss()

# 计算损失
loss = loss_func(y_pred, y)
print('梯度下降前loss:', loss)

# 输出第一层卷积在反向传播前的梯度
print('conv1.bias.gard 反向传播前:', net.conv1.bias.grad)

# 进行反向传播
loss.backward()

# 输出反向传播后的梯度
print('conv1.bias.gard 反向传播后:', net.conv1.bias.grad)

# 更新权重
learning_rate = 1 # 设置学习率为 1,是为了加快权重变化
for p in net.parameters():
	# 更新参数
    # w = w - lr * w_grad
    p.data.sub_(p.grad.data * learning_rate)

# 再次计算结果和损失
y_pred = net(x)
loss = loss_func(y_pred, y)
print('梯度下降后loss:', loss)

输出结果:

梯度下降前loss: tensor(0.7424, grad_fn=<MseLossBackward>)
conv1.bias.gard 反向传播前: None
conv1.bias.gard 反向传播后: tensor([ 0.0236, -0.0085,  0.0035, -0.0035, -0.0115, -0.0085])
梯度下降后loss: tensor(0.0246, grad_fn=<MseLossBackward>)

优化器

若想使用一些经典的优化器来进行权重更新,可在 torch.optim 中快速调用。

通过optimzer = optim.SGD(net.parameters(), lr=1) 的方式绑定参数。然后在反向传播后通过 optimzer.step() 来更新梯度。

示例代码:

import torch.optim as optim

net = Net()

# 设置优化器
optimzer = optim.SGD(net.parameters(), lr=1)

# 计算梯度
x = torch.randn(1, 1, 32, 32)
y = torch.randn(1,10)
y_pred = net(x)
loss_func = nn.MSELoss()
loss = loss_func(y_pred, y)
print('梯度下降前loss:', loss)
loss.backward()

# 更新梯度
optimzer.step()

# 再次预测
y_pred = net(x)
loss = loss_func(y_pred, y)
print('梯度下降后loss:', loss)

输出结果:

梯度下降前loss: tensor(1.0159, grad_fn=<MseLossBackward>)
梯度下降后loss: tensor(0.0834, grad_fn=<MseLossBackward>)

关于 zero_grad

.zero_gard() 用来清理累计的梯度,可以使用形如 net.zero_gard()optimzer.zero_gard() 的代码来使用。但由于上面代码都只进行了一次梯度下降,且经过尝试发现删除有关 .zero_gard() 的代码并不会产生什么影响。为了让自己对 pytorch 的理解更透彻,删除了可能没有对结果产生影响的代码。当在后续学习中,出现此代码必不可少的情况时,再对其功能进行学习研究。

  人工智能 最新文章
算法工程师面经汇总
paddlepaddle(一)文字识别
JAX的深度学习和科学计算
学习笔记25--多传感器前融合技术
【预训练语言模型】WKLM: Pretrained Encyc
图像修复方法研究综述----论文笔记
跟着李沐学AI-- 微分
基于Pytorch的机器学习Regression问题实例(
Py-OpenCV学习记录5-滤波处理(一)
使用Opencv imshow时出现Invalid number of
上一篇文章      下一篇文章      查看所有文章
加:2021-08-22 13:32:41  更:2021-08-22 13:33:37 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
360图书馆 购物 三丰科技 阅读网 日历 万年历 2022年6日历 -2022/6/30 14:34:11-
图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码