第九章：元学习领域的最新发展

1、TAML

在元学习框架下，在相关任务分布的基础上训练模型，则可以让该模型较为容易地适应新任务，并仅需几个样本即可实现目标。前面所述的MAML方法正是通过计算并优化元梯度，并结合执行元优化的过程来确定模型初始参数的最佳配置点。然而该方法存在一个局限性：当模型在某些特定的任务上出现偏差时（尤其是在元训练阶段被抽样的那些任务上），这种偏差会导致其在这些特定的任务上过度优化目标参数。这将不利于搜索更优的更新策略。因此为了改进这一问题我们需要确保模型在这些关键任务上的表现更为均衡即应当避免对某一具体的任务过于关注以防止出现偏差从而提升模型的整体泛化能力

TAML有两种：熵最大化，不平等最小化（基尼系数、泰尔指数、算法的方差）。

2、元模仿学习（meta imitation learning，MIL）

如果让机器人基于对人类行为的观察而无需设计复杂的目标和奖惩函数来实现对复杂目标的学习 这种技术被称为模仿学习 机器人获取这些信息需要大量时间和示范 我们就可以利用先前的经验作为训练数据来增强机器人 这就无需从头开始每项技能 同样也可以采用元学习方法 重用演示数据并从相关任务中提取知识 从而快速掌握新任务 这就是所谓的元模仿学习 使用多示踪学习方法 MIL 我们可以从其他任务中获得丰富的人类行为数据 这样我们就能通过单个示踪就能找到新任务的关键策