一、人工智能
- 人工智能:人工智能就是让其具有人类的智能。“计算机控制”+“智能行为”
流派:连接主义(能力好但缺乏解释性)、符号主义(解释性好)、行为主义。 - 人工智能研究领域
机器感知(计算机视觉、语音信息处理、模式识别) 学习(机器学习、强化学习) 语言(自然语言处理) 记忆(知识表示) 决策(规划、数据挖掘) - 如何开发一个人工智能系统?
专家知识(人工规则) 机器学习≈构建一个映射函数=规则(语音识别、图像识别、围棋、机器翻译) 训练数据,测试数据。
二、机器学习
- 原始数据 --> 数据预处理 --> 特征提取 --> 特征转换 --> 预测 --> 结果
_______________|--------------特征处理-----------| ____浅层学习 - 语义鸿沟:人工智能挑战之一
底层特征 VS 高层语义 - 好的数据表示?
很强表示能力、后续学习任务变得简单、具有一般性,任务或领域独立的 数据表示是机器学习的核心问题。 ①局部表示:离散表示、符号表示。One-Hot向量 ② 分布式表示:压缩、低位、稠密向量;用O(N)个参数表示O(2k)区间 - 表示学习
原始数据 --> 底层特征 --> 中层特征 --> 高层特征 --> 预测 --> 结果 ____________|-----------表示学习---------------| - 传统特征提取vs表示学习
特征提取:基于任务或先验对去除无用特征。(对分类器效果不能保证) 表示学习:通过深度模型学习高层语义特征。(没有明确目标,对分类器有帮助)
三、 神经网络
人工神经网络:由大量神经元以及他们之间的有向连接构成。
- 神经元的激活规则:输入到输出的映射关系,一般非线性函数
- 网络的拓扑结构:不同神经元之间的连接关系
- 学习算法:通过训练数据来学习神经网络的参数。
前馈网络、记忆网络、图网络。
如何解决贡献度分配问题?偏导数
四、神经网络发展史
模型提出:MP模型、B型图灵机、感知器(Perceptron) 冰河期:基本感知器无法处理异或、反向传播算法、新知机(类似于卷积神经网络) 反向传播算法引起的复兴:Hopfield网络、玻尔兹曼机、多层感知器、卷积神经网络。 流行度降低:-------- 深度学习崛起:多层前馈神经网络可以先通过逐层与训练,再用反向传播算法进行精调方式进行有效学习。深度卷积神经网络模型、
|