🌐 LeWorldModel (LeWM)

标签：World Model JEPA Representation Learning Robot Control Self-supervised

📌 一句话总结

LeWM 是首个仅用两项损失函数、从原始像素端到端稳定训练的 JEPA 世界模型，规划速度比基础模型方案快 48 倍，在多种控制任务中保持竞争力。

🎯 研究背景与动机

JEPA（Joint Embedding Predictive Architecture）在紧凑隐空间中学习世界模型，但现有方法极易出现表示坍塌（Representation Collapse），不得不依赖：

• 复杂的多项损失函数（多达 6–7 项）
• 指数移动平均（EMA）或停止梯度（Stop-Gradient）等启发式技巧
• 预训练编码器（如 DINOv2）
• 辅助监督信号（奖励、本体感知输入等）

这些方法要么不能端到端训练，要么超参众多、训练不稳定。

💡 核心贡献

1. 极简两项训练目标

ℒ_LeWM = ℒ_pred + λ · SIGReg(Z)

ℒ_pred = ‖ẑ_{t+1} − z_{t+1}‖²  ← 下一帧嵌入预测（MSE）
SIGReg(Z)                        ← 强制隐嵌入服从各向同性高斯分布

• SIGReg：将高维嵌入投影到 M 个随机方向，对每个一维投影施加 Epps-Pulley 正态性检验；由 Cramér-Wold 定理保证全分布匹配高斯
• 有效超参仅 1 个（λ），可用二分搜索以 O(log n) 复杂度调优，对比 PLDM 需要调 6 个
• 无需 EMA、Stop-Gradient、预训练编码器，所有参数端到端联合优化