博客地址:https://www.cnblogs.com/zylyehuo/

参考链接:从DreamerV1到DreamerV3|Model-based RL的学习之路

阶段一:学习世界模型(Dynamics Learning)

具体可以参考链接:《Learning Latent Dynamics for Planning from Pixels》随记

RSSM
image

阶段二:在潜空间中想象(Behavior Learning)

6c99777485e5da64f19017fc81feb0e3
image

阶段三:与环境交互(Environment Interaction)

image

PlaNet 和 Dreamer 的异同

PlaNet = 世界模型(RSSM) + 在线实时推演找最优解 。

Dreamer = 世界模型(RSSM) + 离线在梦境中训练 Actor/Critic + 依靠 Actor 实时反应 。

PlaNet 不是 Dreamer 的前奏,而是它的“前身”。Dreamer 是站在 PlaNet 的肩膀上,把耗时的“在线规划”替换成了更优雅、更具长远目光的“梦境 Actor-Critic 训练” 。

相同点

不管是 PlaNet 还是 Dreamer,它们认识世界的方式是一模一样的 。它们都会收集过去的经验,然后训练 RSSM(循环状态空间模型)。

image

不同点

有了“预测未来”的能力后,它们采取了不同的战术

image


原文地址: https://www.cveoy.top/t/topic/qGah 著作权归作者所有。请勿转载和采集!

免费AI点我,无需注册和登录