摘要
卷积神经网络(CNN)是许多视觉任务深度学习模式的支柱。CNN体系结构的早期发展主要由人类专业知识和精心设计的过程驱动。最近,神经结构搜索被提出,其目的是使网络设计过程自动化并生成于任务相关的结构。虽然现有的方法在图像分类方面取得了由竞争力的性能,但由于以下两个原因,它们不太适合计算预算有限的问题:1)获得的体系结构要么仅针对分类性能进行优化,要么仅针对一种部署场景进行优化;2)在大多数方法中,搜索过程需要大量计算资源。为了克服这些局限性,我们提出一种进化算法,用于在分类性能和浮点运算等多个目标下搜索神经结构,例如分类性能和浮点运算(FLOPs)。所提出的方法通过逐步重组和修改架构组件的遗传操作填充一组架构来近似整个帕累托前沿,从而解决了第一个缺点。我们的方法通过在搜索过程中仔细缩小体系结构的规模以及通过贝叶斯模型学习加强过去成功的体系结构之间共享的模式来提高计算效率。这两个主要贡献的集成允许高效设计具有具有竞争力的体系结构,并且在大多数情况下,在基准图像分类数据集(CIFAR、ImageNet和人类胸部X射线)上优于手动和自动设计的体系结构。同时获得不同计算需求的多个体系结构选择所提供的灵活性进一步使我们的方法与文献中的其他方法有所不同。
注释
此为NAS神经结构搜索,水平有限,待填坑
参考
- https://blog.csdn.net/weixin_43660703/article/details/108282308?spm=1001.2101.3001.6650.4&utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7Eessearch%7Evector-4.fixedcolumn&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7Eessearch%7Evector-4.fixedcolumn
|