[人工智能]02_week3_TensorFlow Tutorial

目录

1 - Exploring the Tensorflow Library

?1.1 - Linear function

?1.2 - Computing the sigmoid

?1.3 - Computing the Cost

?1.4 - Using One Hot encodings

?1.5 - Initialize with zeros and ones

2 - Building your first neural network in tensorflow

2.0 - Problem statement: SIGNS Dataset

2.1 - Create placeholders

?2.2 - Initializing the parameters

?2.3 - Forward propagation in tensorflow

?2.4 Compute cost

?2.5 - Backward propagation & parameter updates

2.6 - Building the model

?

• 初始化变量
• 创建自己的会话（session）
• 训练算法
• 实现神经网络

1 - Exploring the Tensorflow Library

电脑的tensorflow是2.0版本，程序是基于1.0的版本

在TensorFlow中编写和运行程序包含以下步骤：

1. 创建尚未执行的张量（变量）。
2. 在这些张量之间编写操作。
3. 初始化张量。
4. 创建一个会话。
5. 运行会话，这将运行你上面编写的操作。

placeholders(占位符):一个对象，只能稍后指定其值。?可以使用"feed dictionary"（feed_dict变量）传入值。

?

?1.1 - Linear function

计算WX+b ，其中W，X和b是从随机正态分布中得到的，W的维度为（4，3），X的维度为（3,1），b的维度为（4,1）

?1.2 - Computing the sigmoid

?1.3 - Computing the Cost

?

?

?1.4 - Using One Hot encodings

?

?1.5 - Initialize with zeros and ones

2 - Building your first neural network in tensorflow

• 创建计算图
• 运行计算图

2.0 - Problem statement: SIGNS Dataset

• 训练集：1080张图片（64 x 64像素）的手势表示从0到5的数字（每个数字180张图片）。
• 测试集：120张图片（64 x 64像素）的手势表示从0到5的数字（每个数字20张图片）。

?

?LINEAR -> RELU -> LINEAR -> RELU -> LINEAR -> SOFTMAX

2.1 - Create placeholders

?2.2 - Initializing the parameters

不知道为啥又报了个错：

AttributeError: module 'tensorflow_core.compat.v1' has no attribute 'contrib'

?2.3 - Forward propagation in tensorflow

?

?2.4 Compute cost

?2.5 - Backward propagation & parameter updates

2.6 - Building the model

• 你的模型足够强大，可以很好地拟合训练集。但是，鉴于训练和测试精度之间的差异，你可以尝试添加L2或dropout正则化以减少过拟合。
• 将会话视为训练模型的代码块。每次你在小批次上运行会话时，它都会训练参数。总的来说，你已经运行了该会话多次（1500个epoch），直到获得训练有素的参数为止。