李宏毅的强化学习笔记第7页涉及稀疏奖励
发布时间
阅读量:
阅读量
首先,什么是稀疏奖励呢?在许多实际情境中,人们在完成任务的过程中往往不会即时获得奖励,例如准备研究生考试的过程,每天坚持阅读、练习题目并不断重复,这一阶段通常不会有任何奖励值的反馈,只有在最终成功考取研究生后,才能获得相应的回报。从整体来看,这种奖励模式可以被抽象为:
0,0,0,…,0,0,100
这种奖励分布特征即被称为稀疏奖励。
一、reward shaping(塑造)
其核心理念在于通过设定特定的奖励机制,促使智能体执行期望的行为。例如,在考研备考过程中,若在解题时取得优异成绩,便可给予自己一定的物质激励,如享用一顿美食或观看一部影片。以好奇心网络为例,该方法的具体阐述可参考https://arxiv.org/abs/1705.05363。

换言之,当前的奖励机制包含两个组成部分,其中ICM所对应的奖励即为自身构建的奖励函数,其结构如下:

还没有任何评论哟~
