对顾老师的课做了一个笔记
简介
核心问题:最优传输研究用最经济的方式,将一个分布变换成另一个分布。 核心特点:最优传输的一体两面:1.统计 2.几何 常用算法:1.线性规划 2.几何变分 3.流体力学 4.数值方程 求解Monge-Ampere方程,强烈非线性。 常见应用: 深度学习:分布之间的距离 经济运筹:产销平衡,资源分配 计算机图形学:保面积参数化 数字图像处理:风格转化 自然语言处理:词汇集学习 计算机视觉:曲面配准 医学图像:图像配准,分类 光学设计:透镜,反射镜设计
计算机图形学:保面积参数化 医学图像应用:判断大脑皮层 在自动驾驶和计算机视觉中,曲面配准是比较重要的问题。
几何:Minkowski 问题
深度学习的基本问题
问题:1.深度学习(机器学习)究竟在学习什么 2.深度学习系统如何进行学习,它们究竟是记住了学习样本还是真正学会了内在知识 3.深度学习系统的学习效果如何?是学会了人类教给它们的所有知识,还是要迫不得已遗忘一些知识?
数据科学的基石:流形分布定则 把图像看成点云,图像是28*28=784 维 映射到平面2维平面(编码映射)。得到10个团簇。
流形学习、概率学习
第一学习流形结构,这一结构由编码映射和解码映射表示,第二学习概率分布。 假如人脸图片上有噪声点,图像去噪->噪声点向流形上投影。
增加嵌入空间的维数,可以打开流形结构
深度学习结构就是先宽后窄的结构,先在高维空间中解套。
自动编码器
概率测度学习
对抗生成网络(GAN)
|