稀疏奖励问题
教材《人工智能导论》3.4.2 / 内部第4点 · 已审核
通俗解释
在寻找最优价值函数和最优策略的过程中,强化学习面临的最严峻挑战之一便是稀疏奖励(Sparse Rewards)问题。 想象一下,在一局围棋比赛中,智能体可能需要落子数百次,但在落子过程中,环境并不会给出任何即时反馈。
例子
围棋智能体落子许多步后才知道整局输赢,中途很少获得直接奖励。
容易混淆
最终输赢才给奖励时,不能把每个中间动作的贡献当作直接已知。
检查理解
用自己的话解释“稀疏奖励问题”在“策略优化核心”中的作用,并举出教材中的一个例子或适用场景。对照原文检查条件、公式和图表。
查看参考答案
要点:在寻找最优价值函数和最优策略的过程中,强化学习面临的最严峻挑战之一便是稀疏奖励(Sparse Rewards)问题。 想象一下,在一局围棋比赛中,智能体可能需要落子数百次,但在落子过程中,环境并不会给出任何即时反馈。 示例:围棋智能体落子许多步后才知道整局输赢,中途很少获得直接奖励。