一、混合核KELM简介
KELM是由Huang等(2006)开发的单隐层前馈神经网络(SLFN),它将核函数引入原ELM,保证了网络具有良好的泛化特性和较快的学习速度,其在一定程度上改善了传统梯度下降训练算法中存在的局部最优以及迭代次数大的缺点,将线性不可分离模式映射到高维特征空间,以获得线性可分离性和精度方面的改进性能。 其中,x 代表样本,f (x) 为神经网络的输出,h(x) 或 H 表示隐藏层特征映射矩阵,β 表示隐藏层和输出层之间的权重。 β 的公式如下: 其中,T 表示训练样本的目标向量,I 为单位矩阵,C为正则化参数。只要对特征 h(x) 的映射拥有少量的知识,就可以使用一个称为内核的函数,如下所示: 使用式(2)和式(3),式(1)可以改写为: 在核函数中,径向基函数(RBF)是被学者们广泛使用的函数之一。 RBF内核可以定义为: 其中,γ 是内核参数。由于KELM模型的结果在很大程度上取决于正则化参数 C 和核参数 γ 的选择,因此需要有效地优化这两个参数。
二、部分源代码
三、运行结果
四、matlab版本及参考文献
1 matlab版本 2014a
2 参考文献 [1] 包子阳,余继周,杨杉.智能优化算法及其MATLAB实例(第2版)[M].电子工业出版社,2016. [2]张岩,吴水根.MATLAB优化算法源代码[M].清华大学出版社,2017. [3]周品.MATLAB 神经网络设计与应用[M].清华大学出版社,2013. [4]陈明.MATLAB神经网络原理与实例精解[M].清华大学出版社,2013. [5]方清城.MATLAB R2016a神经网络设计与应用28个案例分析[M].清华大学出版社,2018. [6]张婷婷,唐振鹏,吴俊传.基于优化KELM模型的股票指数预测方法[J].统计与决策. 2021,37(13)
|