本次学习笔记主要记录学习深度学习时的各种记录,包括吴恩达老师视频学习、花书。作者能力有限,如有错误等,望联系修改,非常感谢!
第一版???????2022-03-21????????初稿
一、欢迎(Weclome)
我们所有人都有机会创造一个惊人的世界和社会。 AI is the new electricity! what you’ll learn: 1.以猫作为对象识别 2.实践: 超参数调整hyperparameter tuning 正则化regularization 诊断偏差、方差 高级优化算法optimization:Momentum、Adam 3.结构化ML工程 4.CNN(s)卷积,常被用于图像领域 5.序列模型、RNN(循环)→LSTM(长短期记忆网络)、NLP
二、什么是神经网络(What is Neural Network)
例:房价预测 已知六套房的大小和价格 ![在这里插入图片描述](https://img-blog.csdnimg.cn/6b0516e6d9b44eef93a6e828224aa253.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16) 下图不仅用了尺寸和价格,还加入其他特征。 ![在这里插入图片描述](https://img-blog.csdnimg.cn/2dbe8f01c0184399b8ef6c98d2626e53.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16)
三、用神经网络进行监督学习(supervised learning with neural networks)
监督学习里,输入x,习得一个函数映射到输出y ![在这里插入图片描述](https://img-blog.csdnimg.cn/62dcdd8951e64e6bb899f3b8324ea552.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16) 1.房地产、广告 → 相对标准的神经网络 2.图像 → CNN 3.序列数据 → RNN、音频中含有时间成分
神经网络例子
![在这里插入图片描述](https://img-blog.csdnimg.cn/755449c8a5f941bdbfa86d4574c32b4a.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16)
结构化数据vs非结构化数据
![在这里插入图片描述](https://img-blog.csdnimg.cn/c8429b9793ea4ca9bb35826fd50af6b8.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16) 1.结构化数据 → 数据的数据库 2.非结构化数据 → 音频等
四、为什么深度学习会兴起?(why is deep learning taking off)
如下图,横轴代表数据量,竖轴代表机器学习算法的性能。 这些模型无法处理大量数据。 ![在这里插入图片描述](https://img-blog.csdnimg.cn/82d3dae47c464dc59294a1143101be4d.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16) 规模一直推动神经网络的前进,我们需要一个有许多隐藏单元的神经网络、连接层,大量”规模“数据。 ![在这里插入图片描述](https://img-blog.csdnimg.cn/2b04f5db362b486b859fc23f1d793d3b.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16) Data Computation Algorithms ![在这里插入图片描述](https://img-blog.csdnimg.cn/fc982a8411304a1781686161d3bc8af7.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBAOTk3YW5k,size_20,color_FFFFFF,t_70,g_se,x_16)
五、关于这门课(about this course)
week 1:深度学习介绍 week 2:神经网络编程,了解神经网络中“正向传播”和“反向传播”的结构,算法过程 week 3:编写单隐藏层神经网络 week 4:建立多层的深层的神经网络 每周都会有检测题
六、课程资源(course resources)
coursera 论坛
|