[人工智能]飞桨AI达人创造营第三课学习笔记

1.人工智能、机器学习、深度学习的关系

图1?人工智能概念关系图

对AI的合理理解：AI不是神仙，它运行背后的逻辑是算法，是一个个“IF”语句。

1. 飞桨的功能

照片修复（图片上色）；图像分割；提取图像中的文字；NLP（给词生成诗句）

图2 照片修复实例

1. 模型选择
   1. 回归任务

人脸关键点检测

1. 1. 分类任务

最核心的部分是：空间选通单元(SGU)

3.3场景任务

针对某一个特定场景的开发的深度学习任务。这里场景任务包括目标检测、图像分割、文本分成、语音合成、强化学习等。

拿到模型后，需要根据场景，自行调整参数。例如，针对二分类任务，需要将num_classes变成2

注：可以直接调用PaddleHub的模型

1. 模型训练
   1. 基于高层API训练模型
   2. 模型训练通用配置基本原则

• 每个输入数据的维度要保持一致，且一定要和模型输入保持一致
• 配置学习率衰减策略时，训练的上限轮数一定要计算正确
• BatchSize不宜过大，太大容易内存溢出，且一般为2次幂

5 超参优化

5.1 参数基本概念

参数是机器学习算法的关键，是从训练数据中学习到的，属于模型的一部分

5.2超参数基本概念

模型的超参数指的是模型外部的配置变量，是不能通过训练的进行来估计其取值不同的，且不同的训练任务往往需要不同的超参数。

超参数有：学习率，迭代次数，网络的层数，每层神经元的个数

6神经网络

神经网络的构成元素：input；weight；output；target；error

对于learning rate的调整：学习率太大，无法收敛；太小的话，训练速度较慢；可以动态调整学习率（让学习率从高逐渐降低）

小批量数据大小不必最优