Reka AI发布190亿参数多模态模型Rho-1
结论前置 / TL;DR
Reka AI推出全新190亿参数通用模型Rho-1,可统一处理文本、图像、视频及机器人控制指令。该模型仅用320块H100 GPU训练约三个月,计算开销显著低于当前顶尖多模态模型。其核心设计是将所有模态统一为token,在单一共享上下文窗口内协同处理。
单一模型覆盖四大模态
Rho-1是Reka AI研发的190亿参数通用模型(omni-model),具备端到端处理文本、静态图像、视频序列以及机器人控制动作的能力。与依赖多个专用子系统或模态路由的传统方案不同,Rho-1将全部输入与输出均编码为统一token序列,在单个神经网络和共享上下文窗口中完成联合建模与生成。
高效训练与资源优化
该模型在320块NVIDIA H100 GPU上训练约三个月,所用算力仅为当前同类领先多模态大模型所需计算量的一小部分。Reka AI强调,这一效率提升源于架构层面的统一表征设计,而非单纯扩大规模或堆叠模态专家模块。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(The Decoder) →