这篇文章没有我自己的见解,抱歉,都是引用。然后也没搞完,时间有限,最后的网络都也是知道基本概念,没有实操过。抱歉了
基础
卷积神经网络CNN完全指南终极版(一) 卷积神经网络CNN完全指南终极版(二) 最全的DNN概述论文:详解前馈、卷积和循环神经网络技术 训练集、验证集和测试集
1.激活函数
一文概览深度学习中的激活函数
2.反向传播
前置必看:Back Propagation(梯度反向传播)实例讲解 深度学习笔记(五)—损失函数与优化器 基础 | 神经网络快速入门:什么是多层感知器和反向传播?
优化器
优化器算法
损失函数
PyTorch的十八个损失函数 常见损失函数 & 损失函数选择方法
梯度消失与梯度爆炸
出现梯度消失与梯度爆炸的原因以及解决方案
3.训练模型过拟合
欠拟合、过拟合及如何防止过拟合
4.其他
神经元中偏置的作用
torch函数
nn.Linear() nn.BatchNorm2d() nn.Module nn.AvgPool2d
torch.max() torch.no_grad()
数据处理
数据归一化
数据归一化和两种常用的归一化方法
网络学习
深度学习发展史
1.CNN
网络1: LeNet 网络2: AlexNet 网络3: Deep4Net 网络4: eegNet seNet
Shallow
深度学习入门笔记(六):浅层神经网络 深度学习之手撕神经网络代码(基于numpy)
Deep
2.RNN
循环神经网络快速入门(如RNN GRU LSTM BRNN等)
GRU
LSTM
BRNN
DEEP RNN
3.DBN
4.GAN
其他
网络5: ShallowFBCSPNet
资源
我最开始是跟着这个视频一点点来的: https://space.bilibili.com/18161609
|