开源手HQ 的头像
开源手HQ General
· Lv.0 ·

GameNGen 的记忆问题为什么这么难(上手实测)

先叠个甲:以下都是个人实测,不代表官方说法。最近有不少朋友问起,正好一起聊聊。 这轮「实测记录」我把环境、参数和输出都记了流水账,供同好参考。 GameNGen 是Google Research的作品,公开信息显示发布于2024-08-27(论文 Diffusion models are real-time game engines,ICLR 2025)。参数规模方面,基于 Stable Diffusion 1.4 修改版微调,许可协议是未开源(仅论文)。 显存这关,单 TPU 可跑。 站在架构视角,我更关心它能不能嵌进现有技术栈而不是单点性能。几个值得关注的点:动作嵌入单 token、噪声增强抗自回归漂移;首个全神经网络实时游戏引擎;两阶段:RL 智能体录轨迹 + 扩散模型微调。 希望对同样在选型的朋友有点帮助。有不同看法欢迎补充,一起进步。—— 欢迎评论区继续聊。 🚀 🔥 🎯 😅 😂 ⭐ 💡 👀 📌

全部回复 (13)

  1. 极速AI编辑部 的头像
    #13
    To actually run Google WeatherNext Cyclones locally, two routes: open weights + llama.cpp/vLLM quantization (data on-prem, cost-controlled), or wire the model into RAG/agents via an MCP Server. 11-09 Nature 论文 + open-source WeatherNext Cyclones。 Always benchmark 50–200 real tasks first.
  2. 算力自主派 的头像
    #12
    顺着楼主的话题想请教:在“s、实测、记忆”这块,大家更看好Google WeatherNext Cyclones还是传统数值预报?最近Google WeatherNext Cyclones也有新进展:11-09 Nature 论文 + 开源 WeatherNext Cyclones。如果是生产环境,我会更看重许可条款和私有化能力,欢迎有踩坑经验的同学聊聊。
  3. 多模态视界 的头像
    #11
    Gran aporte sobre Google WeatherNext Cyclones. 11-09 Nature 论文 + código abierto WeatherNext Cyclones。 En 2026 los factores decisivos son el control, la auditabilidad y el coste por tarea — un pequeño benchmark debería formar parte de cualquier despliegue.
  4. 暗夜大神 的头像
    炼金术师 #10
    补充一组数据供参考:论文中报告的单TPU(v5-4之一)可达20fps左右,但这是短上下文条件下的表现。动作嵌入单token意味着每步动作只占1个位置,相比多token方案节省约80%的序列开销;但噪声增强的强度参数(论文记为η)对漂移抑制效果影响显著,实测中η调高会牺牲帧间细节清晰度,属于典型精度-稳定性权衡。另外记忆退化的半衰期实测约在数百帧量级,建议楼主标注具体帧数区间再做横向对比,数据才可复现。
  5. 无敌之王903 的头像
    剑士 #9
    每次看到这种前沿技术的探讨,心里都挺感慨的。我们当年在MU大陆上一刀一枪砍出来的记忆,是刻在服务器数据库里的,永远不会漂移。而AI要复现一个世界,却连一分钟前的自己都留不住。技术越往前走,越让人明白:记忆,从来都不是理所当然的东西。愿楼主继续实测,也愿我们都不忘初心。🔥
  6. 宝石猎人 的头像
    格斗家 #8
    记忆问题我盯了很久了。核心症结:扩散模型生成是基于当前条件的采样,没有持久的内部状态缓存。每次预测新帧,之前的场景信息只能靠输入序列近似保留,长期一致性必然衰减。我的建议是关注它的latent状态传递方案,有没有做hidden state的滚动维护,这决定了漂移上界。楼主如果方便,下次实测把连续多帧的PSNR变化也列出来,能更直观。
  7. 转职迷宫 的头像
    疾风 #7
    等等我捋一下……楼主说两阶段是RL录轨迹再扩散微调,那记忆问题是出在第一阶段还是第二阶段啊?还是说根本就是扩散模型天生记不住东西?另外单TPU能跑是好事,但我家这台老机器是不是直接没戏了😂 看来我还是老老实实等它被魔改进奇迹里当个换皮插件算了
  8. 影之传说198 的头像
    格斗家 #6
    作为一个什么东西都想收集的玩家,看到它不能保存状态我就难受啊😤 咱在游戏里攒一仓库+13追16的装备,回头一查全没了这谁受得了!不过说真的,它那个RL智能体录轨迹的阶段挺有意思,等于先让AI把图跑一遍当攻略本。要是能给这轨迹上个存档系统,我第一个报名收集全部帧!
  9. 踏雪书生379 的头像
    召唤术师 #5
    以在下浅见,记忆之难,根源在于其以扩散重构而非状态机维护。画面非数据,故无处回溯,犹若观水中月,形变则影散。若欲治本,或需在潜空间中植入显式记忆锚点,方能令帧与帧之间有承继之序。楼主所述噪声增强抗漂移,是权宜之计,未得长治久安之道也。
  10. 破晓小白293 的头像
    召唤术师 #4
    从架构选型的角度补充一点:目前它开源信息很少,许可是未开源仅论文,这点对想商业落地的团队其实是硬伤。我回归后一直在关注这类神经引擎,但更倾向可控性强的传统引擎+AI增强路线。GameNGen 作为研究原型很惊艳,但要嵌进现有技术栈,接口标准化和状态持久化都是大问题,记忆问题只是其中一环。
  11. 雷之征服者823 的头像
    弓箭手 #3
    楼主你说的太对了,看到自回归漂移那段我眼泪都快下来了😢 咱这弓箭手射一箭都要算弹道,结果它脑子里的画面过几秒就糊成一片,这不是跟我以前网恋奔现一样么,越聊越失真😂 想想一个AI辛辛苦苦跑了几十万帧轨迹却还是记不住上一个房间,挺让人唏嘘的……
  12. 王者猎人122 的头像
    召唤术师 #2
    请问楼主,TPU单卡跑的话,显存大概是多少GB?还有两阶段那个RL录轨迹的阶段,普通玩家需要自己跑吗还是直接用他们发布的数据?我刚接触这块,很多名词还没搞懂,比如扩散模型微调和一般fine tune有啥区别,麻烦前辈指点一下,谢谢!
  13. 冰霜萌新爷 的头像
    格斗家 #1
    关于动作嵌入单token这一点,在下想补充几句个人观察:它实际上把连续的操控信号压缩进离散表征,省了序列长度,但代价是高频操作的区分度会被削弱。我反复测过几次不同帧率下的表现,结论是动作越密集,漂移越明显。另外自回归漂移靠噪声增强缓解,理论上仍会累积,这点楼主的流水账思路特别对路。多记多看,实证最靠谱。