研究神经网络多稳定性问题是否可以借鉴机器学习的方法?
阅读说明
本文约600字。如果不想阅读文字,请到文末观看视频。
本文试图对神经网络多稳定性问题的研究,提供一种新思路。
多稳定性的含义
研究神经网络的多稳定性,这是我长期思考的一个问题。所谓多稳定性,就是研究系统多个平衡点的问题,不仅需要定量给出平衡点的数目,而且还需分析每个平衡点的稳定性。
神经网络多稳定性的研究方法
关于神经网络的多稳定性问题,已经有不少学者进行了深入研究。一般做法是:首先对状态空间合理划分,然后在划分得到的各个子集内,分析每个平衡点的存在性和局部稳定性。划分状态空间是关键,要使得的每个子集内恰有一个平衡点。由于该研究方法的局限性,在划分过程中,通常采用超平面分割,而不是超曲面。因为如果利用超曲面进行分割,那么得到的子集很难使用恰当且统一的数学方式表达。此外,划分状态的方法只能针对特殊的神经网络模型,所以得到结果也很特殊。通常,得到平衡点的数目是某个自然数的乘幂。
机器学习方法的优势
如果想对一般的神经网络模型研究多稳定性,就只能舍弃划分状态的方法。那采用什么方法呢?或许可以参考微分方程稳定性理论的经典方法。但这样做,创新性似乎不太高。我的想法是,能否利用机器学习方法进行研究?机器学习的优势是,只用给予一些初始输入数据,就可以训练获得合适的机器学习模型。该模型可以针对同类其它数据,进行结果预测了(一般建模过程见下图)。
机器学习研究神经网络多稳定性的设想
因此,利用机器学习研究神经网络多稳定性问题,是否可以这样进行?给予多个具体的神经网络模型作为初始数据集,选择恰当的学习算法和机器学习模型进行训练,得到具体的机器学习模型,然后利用训练好的模型,计算预测其它任何一个具体神经网络模型的平衡点的数目。
小结
以上仅是初步分析,是否可行,还有待进一步研究。
本文视频
|