Induction Labs发布Photon-1：单次预训练即可模拟桌面操作与物理建模

‘想象模型’突破动作标注依赖

大多数从视频学习的智能体需明确知道每一帧对应的具体动作。Induction Labs指出，这一动作标注要求已成为性能瓶颈。为此，该公司提出‘想象模型’（imagination model）架构——一种完全不依赖动作标签的视频基础模型。其首个实现Photon-1，是一个稀疏的1060亿参数A5B混合专家（MoE）Transformer，仅用18年积累的计算机操作演示视频完成单轮预训练。

预测潜态即学习任务完成能力

Photon-1不直接生成像素，而是在一个自学习的潜表示空间中，以‘下一潜态token预测’为目标进行自回归建模。研究团队强调：仅通过预测未来状态，模型便能隐式掌握任务执行逻辑，即便预训练阶段从未接触任何动作信号。这种无需显式动作监督而形成的决策倾向，被定义为‘隐式策略’（implicit policy）。模型学会理解人类行为意图（如‘打开浏览器搜索Python教程’），而非机械记忆鼠标点击坐标。

高效压缩：FSQ+差分潜码编码

为支撑大规模视频建模，Photon-1采用基于有限标量量化（FSQ）的视觉编码器：每帧压缩为960个离散token，每个token为8维向量，各维度取值仅限{−1, −1/2, 0, 1/2, 1}五档，构成5⁸=390,625码本。单帧编码体积约2.2 KB。相比OCR及主流多模态表征，压缩率提升超100倍，同时保留文本、界面布局与状态变化信息。关键创新在于‘差分潜码编码器’——视频以帧对形式编码，潜码描述帧间差异而非帧内容本身。

数据与算力：单轮训练达成高MFU

数据源自20亿公开视频的内部索引，经筛选保留约200万段计算机屏幕录屏；再通过自研关键帧检测剔除冗余，最终形成5.75亿帧（1fps采样）数据集，等效5520亿token、约18年连续视频。Photon-1仅用单轮预训练完成：在32K上下文长度下，耗时约30,000 H200 GPU小时（4.4×10²² FLOPs），端到端模型计算利用率（MFU）达40%。训练基于PyTorch实现，含自定义融合核优化视觉编码器与MoE层。

从想象到行动：轻量微调+在线强化学习

Photon-1仅用不足3.5万条计算机操作轨迹微调，即学会输出结构化动作指令。特殊设计的‘计算机使用token’使其可直接生成操作命令。推理时，模型先预测目标帧潜态，再反推达成该状态所需动作。后续接入在线强化学习：在虚拟机集群实时运行rollout，程序化验证结果并生成奖励信号。测试环境涵盖LXQt、Xfce、MATE、GNOME和Plasma五大Linux桌面，均配置Google账号及无速率限制的内部ChatGPT克隆版。

成本优势与验证局限

据Induction Labs测算，Photon-1预训练计算量（0.044×10²⁴ FLOPs）仅为Gemini 3.1 Flash-Lite保守估计值（1.200×10²⁴ FLOPs）的约3.7%，加权推理成本（10:1输入/输出token比）为$0.11/百万token，显著低于Gemini的$0.36。但需注意两点：一是Gemini数据为其内部估算，实际可能更高；二是所用基准为未公开的内部评测，暂无法独立复现。Photon-1自身硬件上的推理成本为$0.06/百万输入token、$0.60/百万输出token（无推测解码）。

跨域泛化初见成效

尽管预训练数据仅含计算机操作视频，Photon-1在非相关领域展现迁移潜力：在Open Checkers Archive 2.0的2万场国际跳棋对局中，经少量领域微调后，性能超越同等规模但无想象预训练的视觉编码器基线，以及Inclusion AI的LLM基线Ling-flash-2.0（20万亿token预训练）。