世界模型已经从紧凑的潜在动力学发展到可生成、可控制、可交互的具身环境模拟器。高预测似然和视觉保真度并不必然保证模型保留安全决策所需的证据。当前模型存在三类结构性错配:似然与风险、预测与干预、有限视野预测与累计后果。为此我们提出风险感知世界模型(RIWM),将建模围绕后果、干预、认知不确定性和可恢复性展开,并融合四个相互依赖的能力:决策相关表征、反事实推理、安全关键情景记忆、运行时安全保障。RIWM 区分物理、社会和操作后果,利用认知不确定性对行动证据进行定性。我们进一步讨论了若干开放挑战:如何识别关键未来、验证反事实推理、维护可修订的安全记忆、将学习到的后果转化为可执行约束、以及何时证据足够采取行动。本文认为,未来的世界模型应超越对最可能未来的预测,转向识别哪些未来重要、通过经验修正判断,并在行动、修正、感知、延迟或放弃之间做出恰当选择。
点评:RIWM 将安全视角嵌入世界建模,为安全关键具身系统提供了从证据到行动的系统化框架,值得进一步实验验证。