谷歌推出AI视频联合导演:四大智能体框架实现分钟级连贯视频生成
谷歌研究院发布面向长视频生成的AI联合导演系统,包含Co-Director、CANVAS、A²RD和VQQA四大智能体框架,专攻身份漂移与级联错误两大行业痛点。该系统基于Gemini与Veo构建,无需微调,已实现10分钟连续视频生成,并在多项新基准测试中显著超越Kling、Wan2.6等主流模型。
长视频生成的两大顽疾:语义漂移与级联失败
当前AI视频生成在单片段层面已具备高保真能力,但将多个片段拼接为连贯长视频仍面临根本性挑战。谷歌研究团队指出,绝大多数多镜头AI视频流水线失效源于两类问题:一是身份漂移(identity drift),即角色服饰、场景布景等关键视觉元素在镜头切换间发生不一致变化;二是级联错误(cascading errors),即上游某一环节生成的瑕疵资产(如错位道具或失真人脸)持续污染后续所有镜头。团队将此归因为‘信用分配问题’——当最终成片出现断裂时,难以回溯定位是哪个提示词或模块导致了初始偏差。
四大智能体框架协同工作
该系统作为轻量级编排层,运行于Gemini与Veo等基础模型之上,具备模型无关性(model-agnostic),输出自动继承SynthID数字水印。其核心由四个经顶会录用的智能体框架构成:
Co-Director:基于多臂老虎机的创意规划
被COLM 2026接收的Co-Director将视频创作建模为带反馈的探索问题。一名‘指挥智能体’在创意策略、叙事模式与美学原型三个维度中动态选择配置;‘前期制作智能体’据此生成分镜脚本;随后关键帧、视频与音频子智能体并行产出媒体素材;最后由多模态大语言模型(MLLM)担任‘评审法官’,对成片打分并反馈结构化奖励信号,驱动多臂老虎机持续优化决策路径。
CANVAS:持久化视觉记忆
EMNLP 2026录用的CANVAS构建可检索的视觉锚点库,全程追踪角色、地点及物体状态。当场景重现时,系统自动调取历史存储的视觉特征。在博物馆盗窃测试中,竞品AutoStudio丢失窃贼帽子,Gemini-3.1-Pro误改宝石颜色,而CANVAS成功保持二者全程一致。
A²RD:分段式自回归扩散架构
A²RD(Agentic Autoregressive Diffusion)为免训练架构,每段视频执行‘检索—合成—精炼—更新’循环,依托多模态视频记忆库。智能体自主判断:对新情节采用外推(extrapolation),对复现场景则启用内插(interpolation)。谷歌已公开一段由此生成的10分钟完整影片。
VQQA:闭环式提示词重写
VQQA(Video Quality Question Answering)针对每个文本提示生成视觉导向问题,再由视觉语言模型(VLM)提供‘语义梯度’式反馈,直接重写原始提示。该机制无需访问生成模型内部参数,且通过‘全局择优’(Global Selection)从全部迭代结果中选取最佳视频,而非默认采用末次输出。
基准测试与横向对比
谷歌构建三项新评测基准:GenAD-Bench(400条广告场景)、HardContinuityBench(强考验场景复现与道具状态变更)、LVBench-C(关键资产消失超10个片段后回归)。结果显示:Co-Director在GenAD-Bench平均得分81.4,人类评分达3.96/5;CANVAS在背景连续性、角色一致性、道具一致性上分别提升21.6%、9.6%、7.6%;A²RD在1–10分钟视频中一致性与叙事连贯性分别提升最高30%与20%;VQQA在T2V-CompBench与VBench2上绝对提升11.57%与8.43%。
横向对比显示,该方案以分层多智能体编排为特色,强调世界状态跟踪与闭环优化,区别于StoryMem的记忆银行、MovieAgent的链式推理或AutoStudio的图像序列生成范式。目前Co-Director与A²RD代码已开源,CANVAS即将发布。
编者观点
中国AI视频初创企业与内容平台可重点关注其‘免训练编排层’思路——不依赖私有大模型或海量算力,而是通过智能体协同机制提升现有开源/商用模型的长视频鲁棒性,为低成本、高可控的内容工业化生产提供新路径。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →