元学习——MAML、Reptile与ANIL
作者:凯鲁嘎吉 - 博客园 http://www.cnblogs.com/kailugaji/
之前介绍过元学习——从MAML到MAML++,这次在此基础上进一步探讨,深入了解MAML的本质,引出MAML高效学习的原因究竟是快速学习,学到一个很厉害的初始化参数,还是特征重用,初始化参数与最终结果很接近?因此得到ANIL(Almost No Inner Loop),随后我们阅读了Reptile——On first-order meta-learning algorithms,另一种元学习方法,并比较了MAML、Reptile与模型预训练之间的区别。
1. Meta Learning vs Machine Learning
2. MAML vs Model Pre-Training
3. MAML——Feature Reuse
4. MAML vs ANIL
MAML的目标是学习一个参数