Learn to learn

在传统的机器学习话题中，有一个概念叫做元学习，meta learning¹，有的时候也被称为 learn to learn，学会如何学习。虽然事实上这一领域中的绝大多数内容都是通过梯度传播来改变那些本来固定的超参数，在当下的应用场景也着实有限，然而这个概念本身却一直被学界所重视，并且在此之后的如持续学习²等领域也都继承了这一思想。

学习如何去学习这一内容在人们心中是如此被看重，大概还是由于在人的成长与发展中学习是最不可或缺的一环。在本科的教育中学习那些培养方案中的课程，在竞赛中你学习那些课程之外的技术，在科研中学习那些前沿的论文和思想，而哪怕是在生活中，如何交往如何沟通也是关键的一环。

在这个章节中笔者会介绍几个关键的学习心法，一些是在课程学习中适用的，一些则在更广泛的学习场景中都具有价值，希望可以给读者带来一定的启发和帮助。

Footnotes

1. Meta Learning（元学习）是一种“学习如何学习”的机器学习方法，旨在使模型能够在面对新任务时以极少的数据迅速适应。与传统机器学习方法依赖大量训练样本不同，元学习通过在多个任务上进行训练，学习通用的学习策略或初始化，从而提高模型在低资源场景下的泛化能力。 ↩

2. 持续学习（Continual Learning 或 Lifelong Learning）是指模型在不断接收新任务或新数据的过程中，能够保持对已有知识的记忆，并持续学习新知识的能力。这一研究方向旨在解决传统模型在训练新任务时容易遗忘旧任务（即“灾难性遗忘”）的问题。 ↩