IT数码 购物 网址 头条 软件 日历 阅读 图书馆
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
图片批量下载器
↓批量下载图片,美女图库↓
图片自动播放器
↓图片自动播放器↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁
 
   -> 人工智能 -> 自组织映射神经网络(SOM) -> 正文阅读

[人工智能]自组织映射神经网络(SOM)

先从图中理解什么是自组织映射神经网络SOM(Self-Organising Map)?
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-EzMEhZk3-1655637078260)(%E8%87%AA%E7%BB%84%E7%BB%87%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%EF%BC%88SOM%EF%BC%89%207016103b4efd4ab28ba5ff8fd512b2cc/Untitled.png)]

网络结构:输入层+输出层,输入层神经元个数与一个样本的特征维度一样,输出层那是定义的(哈哈),我们先来理解一下这个图,首先对于一个样本来说就是映射到输出层的某一个节点,其周边节点呢?辐射效应,简单说就是和这个节点比较像。对于一类样本那么都会映射到这个输出层的特定节点附近,从而实现聚类效果。

1. 背景

自组织映射神经网络(Self-Organizing Map,SOM)是无监督学习方法中一类重要方法,可以用作聚类、高维可视化、数据压缩、特征提取等多种用途,其融入了大量人脑神经元的信号处理机制,有着独特的结构特点。

该模型由芬兰赫尔辛基大学教授Teuvo Kohonen于1981年提出,因此也被称为Kohonen网络。Kohonen认为:一个神经网络接受外界输入模式时,将会分为不同的对应区域,各区域对输入模式具有不同的响应特征,而且这个过程是自动完成的。自组织特征映射正是根据这一看法提出来的,其特点与人脑的自组织特性相类似。

自组织映射神经网络本质上是一个两层的神经网络,包含输入层和输出层(竞争层)。输入层模拟感知外界输入信息的视网膜,输出层模拟做出响应的大脑皮层。**输出层中神经元的个数通常是聚类的个数,代表每一个需要聚成的类。**训练时采用“竞争学习”的方式,每个输入的样例在输出层中找到一个和它最匹配的节点,称为激活节点,也叫winning neuron;紧接着用随机梯度下降法更新激活节点的参数;同时,和激活节点临近的点也根据它们距离激活节点的远近而适当地更新参数。这种竞争可以通过神经元之间的横向抑制连接(负反馈路径)来实现。自组织映射神经网络的输出层节点是有拓扑关系的。这个拓扑关系依据需求确定,如果想要一维的模型,那么隐藏节点可以是“一维线阵”;如果想要二维的拓扑关系,那么就行成一个“二维平面阵”,如图5.8所示。也有更高维度的拓扑关系的,比如“三维栅格阵”,但并不常见。

首先SOM是通常是两层网络结构模拟输入空间,每个样本对应一个激活节点;其次SOM输出层节点的关系重点在一个邻域内节点,相当于相似的一类样本

下图是1维和2维的两个SOM网络示意图

2. 算法流程

假设输入空间是D维,输入样本集合 { x i ∣ x i ∈ R d , i = 1 , 2 , ? ? , n } \{x_i|x_i\in \mathbb{R}^{d},i=1,2,\cdots,n\} {xi?xi?Rd,i=1,2,?,n},其中 n n n为样本数量。连接权重为 { w i ∣ w i ∈ R d , i = 1 , 2 , ? ? , N } \{w_{i}|w_i\in\mathbb{R}^{d}, i=1,2,\cdots,N\} {wi?wi?Rd,i=1,2,?,N},其中 N N N是输出层节点数

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-6bnRfO0W-1655637078262)(%E8%87%AA%E7%BB%84%E7%BB%87%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%EF%BC%88SOM%EF%BC%89%207016103b4efd4ab28ba5ff8fd512b2cc/Untitled%201.png)]

理解学习:通过二维形态拟合出数据样本间的特征,使得一类样本被映射到一个节点附近,因而说SOM算法是一种自适应聚类算法,同样实现了一个降维的目的,这里说高维距离较近使得映射后的距离也是较近的,当然这个只是感性上的理解,核心本质:使得输出节点具有权重尽量与样本一致,即对某一类样本的学习。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-FPoUb5r6-1655637078263)(%E8%87%AA%E7%BB%84%E7%BB%87%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%EF%BC%88SOM%EF%BC%89%207016103b4efd4ab28ba5ff8fd512b2cc/Untitled%202.png)]

通过梯度下降算法进行权重的更新,这里应该很容易理解,实现对参数的优化求解。

具体细节:

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-BvVWscAJ-1655637078263)(%E8%87%AA%E7%BB%84%E7%BB%87%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%EF%BC%88SOM%EF%BC%89%207016103b4efd4ab28ba5ff8fd512b2cc/Untitled%203.png)]

参考链接:

  1. 论文链接
  2. 《百面机器学习》
  3. 图片来源于:Python与人工智能-SOM-自组织映射网络-1_哔哩哔哩_bilibili
  人工智能 最新文章
2022吴恩达机器学习课程——第二课(神经网
第十五章 规则学习
FixMatch: Simplifying Semi-Supervised Le
数据挖掘Java——Kmeans算法的实现
大脑皮层的分割方法
【翻译】GPT-3是如何工作的
论文笔记:TEACHTEXT: CrossModal Generaliz
python从零学(六)
详解Python 3.x 导入(import)
【答读者问27】backtrader不支持最新版本的
上一篇文章      下一篇文章      查看所有文章
加:2022-06-26 16:54:39  更:2022-06-26 16:57:07 
 
开发: C++知识库 Java知识库 JavaScript Python PHP知识库 人工智能 区块链 大数据 移动开发 嵌入式 开发工具 数据结构与算法 开发测试 游戏开发 网络协议 系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程
数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁

360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 -2024/11/26 2:32:50-

图片自动播放器
↓图片自动播放器↓
TxT小说阅读器
↓语音阅读,小说下载,古典文学↓
一键清除垃圾
↓轻轻一点,清除系统垃圾↓
图片批量下载器
↓批量下载图片,美女图库↓
  网站联系: qq:121756557 email:121756557@qq.com  IT数码