|
最近看了 NIPS 2020 paper Meta-Learning Requires Meta-Augmentation。记录一下
看到meta learning就知道本文的主要任务应该就是小样本图像分类任务，Requires Meta-Augmentation则是针对meta learning 处理小样本图像分类任务时的不足而提出改进方案，小样本图像分类的主要问题还是由于数据与网络不匹配所造成的。一方面是小样本图像分类的设定导致每一个任务的数据量过少、而深度学习模型往往需要很多的数据进行拟合。数据与模型之间的不匹配导致模型会出现一些问题：模型的泛化能力弱或过拟合等。
Requires Meta-Augmentation则是本文根据元学习处理小样本图像分类时的不足而提出的方法。很直观的想法，数据量不够就增加数据。数据增强是一个有效的方法，对小样本图像分类任务来说样本少就增加样本。增加样本的方法有很多：借助外部数据、GAN等方法都能起到数据增强的作用。本文提出用信息理论框架来讨论元增强，这是一种增加随机性的方法，可以有效降低过拟合概率以及提升模型的泛化能力。
文章链接https://proceedings.neurips.cc//paper/2020/file/3e5190eeb51ebe6c5bbc54ee8950c548-Paper.pdf
codehttps://github.com/google-research/google-research
|