Introduction to deep learning

深度学习是指训练神经网络

1.什么是神经网络？

引例：房价预测

1）由房屋面积这一单一因素/特征值预测房价，这样拟合的函数就是一个简单的神经网络。该单神经元网络完成的是由size/area—>price的线性运算。
请添加图片描述
根据线性回归，可将该问题拟合成如下函数

有这样特征的函数被叫做ReLU函数（rectified linear unit）
rectify：take a max of zero（取>=0的值）

类似于搭积木，由多个单神经元网络可以构成复杂的神经网络。
2）由多个因素/特征值（如房屋面积、卧室数量、邮政编码、富裕程度等）间接预测房价，即房价决定于家庭成员数、步行化程度、学校质量等。其中的每个隐藏的单神经元都可能是ReLU函数。
在这里插入图片描述
该问题抽象出来的神经网络如下：

每个单神经元网络的输入是全体数据，它会自己决定作何种运算。例如，我们不会说第一个节点就是预测family number 且只由X1、X2决定。
中间的神经网络层会做出从输入层到输出层的精准映射。

2.用神经网络进行监督学习（supervised learning）及为什么深度学习会兴起

应用及其经济价值

请添加图片描述 序列数据（Sequence data）是生活中很常见的一种数据，如一句话、一段时间某个广告位的流量、一连串运动视频的截图等。

结构化数据、半结构化数据和非结构化数据

结构化数据

结构化的数据是指可以使用关系型数据库表示和存储，表现为二维形式的数据。
请添加图片描述
半结构化数据

半结构化数据是非关系模型的，有基本固定结构模式的数据，例如日志文件、XML 文档、JSON 文档、Email 等。包含相关标记，用来分隔语义元素以及对记录和字段进行分层。因此，它也被称为自描述的结构。

常见的半结构数据有XML和JSON

# xml格式（标签）
# 示例：
<person>
	<name>A</name>
	<age>13</age>
  	<gender>female</gender>
</person>

# json格式（键值对形式）
# 示例：
var country =
        {
            name: "中国",
            provinces: [
            { name: "黑龙江", cities: { city: ["哈尔滨", "大庆"]} },
            { name: "广东", cities: { city: ["广州", "深圳", "珠海"]} },
            { name: "台湾", cities: { city: ["台北", "高雄"]} },
            { name: "新疆", cities: { city: ["乌鲁木齐"]} }
            ]
        }