[人工智能] 吴恩达深度学习课程学习笔记第四周

开发: C++知识库 Java知识库 JavaScript Python PHP知识库人工智能区块链大数据移动开发嵌入式开发工具数据结构与算法开发测试游戏开发网络协议系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑笔记本显卡显示器固态硬盘硬盘耳机手机 iphone vivo oppo 小米华为单反装机图拉丁

-> 人工智能 -> 吴恩达深度学习课程学习笔记第四周 -> 正文阅读

[人工智能]吴恩达深度学习课程学习笔记第四周

前向传播-单样本神经网络的输出

第一层的传播过程如下：

?第二层的传播过程如下：

对其向量化:

x(3,1):3个特征，一个样本，为一个列向量?

$W^{\left [ 1 \right ]}\left ( 4,3 \right )$ ：根据输入的行维度确定W的列维度，本层神经元的个数确定行维度

$b^{\left [ 1 \right ]}$ (4，1):根据本层神经元个数的个数确定行维度，列维度始终为1

$z^{\left [ 1 \right ]},a^{\left [ 1 \right ]}$ 的维度都为（4,1）

$a^{\left [ 2 \right ]}$ 是一个标量，也可理解为（1,1）

输入层
我们把输入矩阵X记为a[0]。通常我们只计算隐藏层输出和输出层的输出，输入层是不用计算的。故把输入层层数上标记为0，即a[0]，也因此把这种单隐藏层神经网络成为两层神经网络

隐藏层
把隐藏层输出记为 a[1]。用下标表示第几个神经元(下标从1开始)。例如? $a_{1}^{\left [ 1 \right ]}$ 表示隐藏层第1个神经元， $a_{2}^{\left [ 1 \right ]}$ ?表示隐藏层第2个神经元……这样，隐藏层的4个神经元就可以将其输出 a[1] 写成矩阵的形式

前向传播-多样本神经网络的输出：

假设输入样本有m个，多样本的向量化过程如下图所示，其过程是对单样本中的输入向量做了“列扩展”，即把每个样本作为一列放入输入矩阵中，由此我们很容易得到 $W^{1}$ $W^{2}$ $b^{\left [ 1 \right ]}$ $b^{\left [ 2 \right ]}$ 的维度都不变（这一点在上面关于维度的说明已有解释），第一层的输出（这里用 $A^{\left [ 1 \right ]}$ ]表示）的维度变成了（4，m），每一列即为每个样本产生的输出；第二层的输出（这里用 $A^{\left [ 2 \right ]}$ 表示）的维度变成了（1，m），每一列即为每个样本产生的输出。