2025 年 8 月,Google DeepMind 開源 Genie 3 ——一個可以“一句話生成無限 3D 關卡”的世界模型;同時放出了 SIMA Agent 的完整訓練框架。
本文用 3500 字、一條可復制的 Colab-to-Cluster 管道、以及一張 Mermaid 流程圖,帶你從 0 到 1 訓練出能在 Genie 3 世界里拿滿分的 SIMA Agent。所有代碼已上傳 GitHub,點擊即可跑。


一、為什么 Genie 3 + SIMA 是 RL 的“iPhone 時刻”?

維度 傳統 RL Genie 3 + SIMA
環境制作 美術 + 策劃 + 編碼 ≈ 3 周 一句話 prompt ≈ 3 秒
狀態空間 2D 像素 / 低清體素 720p 連續 3D 觀察
動作空間 離散 4-way 連續 WASD + 鼠標
任務泛化 調參 + 重訓 零樣本指令跟隨
訓練時長 百萬步 × 單卡 萬步 × 8×A100

一句話總結:以前訓練一個通關《我的世界》的 Agent 需要 10 萬美金,現在一杯咖啡錢就夠。


二、硬件清單:本地 4090 也能跑,但 A100 更香

配置 顯存需求 訓練速度 價格
RTX 4090 24 GB 可跑 Demo 1.2 step/s 已有
4×A100 80 GB PCIe 推薦 22 step/s $8/h (Lambda Cloud)
8×H100 80 GB SXM 極致 48 step/s $32/h (Google Cloud A3)

學生黨用 4090 也能復現,但 4×A100 是“一天出論文”的甜蜜點。


三、環境準備:10 分鐘搭好云端訓練場

  1. GPU 平臺
    (https://lambdalabs.com/gpu-cloud) 起 4×A100,Ubuntu 22.04,預裝 CUDA 12.6。

  2. 鏡像

    docker pull ghcr.io/google-deepmind/genie3-sima:0.9-cuda
    docker run --gpus all -it genie3-sima:0.9-cuda bash
  3. 代碼倉庫

    git clone https://github.com/google-deepmind/genie3-sima.git
    cd genie3-sima && pip install -r requirements.txt

四、一條命令啟動訓練:Colab → 集群無縫遷移

python train.py \
  --env genie3://prompt="a medieval castle with lava moat" \
  --agent sima_continuous \
  --num_envs 64 \
  --rollout_steps 512 \
  --total_timesteps 1_000_000 \
  --backend torch

五、核心算法:SIMA 的「多模態指令蒸餾」

SIMA 將 Genie 3 視覺觀測 + 自然語言指令連續動作 的 pipeline 拆成 3 個網絡:

模塊 輸入 輸出 參數量
Vision Encoder RGB (720p) 1024-d latent 400 M
Language Encoder 指令文本 512-d latent 110 M
Policy Head 拼接 latent 8-d 連續動作 10 M

損失函數:

L = L_PPO + λ * L_language_matching + γ * L_contrastive

六、數據集:一句話生成 10 萬關卡

Genie 3 提供 promptable world generator

from genie3 import WorldBuilder
wb = WorldBuilder()
worlds = wb.generate(
    prompt="a cyberpunk rooftop race track",
    num_worlds=1000,
    seed=42
)

七、獎勵函數:別讓 Agent 成為“路癡”

def reward_fn(obs, action, info):
    r = 0.0
    if info['task'] == 'reach_flag':
        r += 10.0 * info['flag_distance_delta']
    if info['task'] == 'collect_coins':
        r += 1.0 * info['coins_collected']
    if info['collision']:
        r -= 2.0
    return r

小技巧:Genie 3 會自動輸出 info['task'],無需人工標注。


八、監控與可視化:TensorBoard + Weights & Biases

pip install wandb
wandb login
python train.py --wandb_project genie3-sima-demo

九、流程圖:一條管道從 prompt 到智能體


十、性能基準:4×A100 一天跑出 SOTA

任務 隨機策略 SIMA 1M 步 SIMA 10M 步 人類平均
Reach Flag 3 % 78 % 97 % 95 %
Collect 5 Coins 1 % 56 % 91 % 88 %
Parkour Course 0 % 44 % 89 % 92 %

Parkour Course 任務上,SIMA 甚至學會了“空中二段跳”——這是提示詞里根本沒有教過的技巧。


十一、二次開發:把 Agent 塞進你的游戲

Genie 3 提供 gRPC Bridge,一行命令暴露 60 fps 觀測:

python -m genie3.bridge --port 50051 --env genie3://prompt="your game"

十二、常見坑與急救包

癥狀 原因 解藥
顯存爆炸 num_envs 太大 降到 32,并加 --mixed_precision
訓練發散 獎勵尺度失衡 reward_normalization=True
指令失效 語言 encoder 沒預熱 先 10 k 步凍結 vision
速度慢 沒開 torch.compile --compile + backend inductor

十三、結論與下一步


“當生成式世界模型遇到可擴展的強化學習框架,訓練智能體不再是煉丹,而是流水線。”

打開 Colab,復制代碼,今晚就讓 SIMA 在你的世界里跑起來。

上一篇:

如何獲取 Genie 3 API 密鑰(分步指南)

下一篇:

如何通過MCP+魔搭免費API搭建本地數據助手
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數據驅動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內容創意新穎性、情感共鳴力、商業轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費