NVIDIA发布BioNeMo推理运行时BioIR：Boltz-2折叠吞吐量提升2.90倍

生物结构预测进入通量瓶颈时代

生物大分子结构预测已从单靶点计算转向全蛋白质组规模任务队列。当前瓶颈不再在于模型能否折叠某个蛋白，而在于整个独立靶点队列在解析、特征构建、GPU推理与输出写入等环节的整体流转速度。NVIDIA最新技术深度解析介绍了BioNeMo推理运行时（BioIR）——一个轻量级Python库，可在保持标准PyTorch工作流的前提下，显著加速其支持的结构预测模型在NVIDIA GPU上的推理性能。

已投入生产验证的开源工具

BioIR已在实际生产中部署。它支撑了近期AlphaFold数据库的扩展，生成覆盖4777个蛋白质组、约3100万候选复合物的蛋白结构，其中181万例被作为高置信度预测公开发布。该工具现已开源，托管于GitHub，提供含预编译CUBIN的wheel包。运行仅需Python 3.12+、兼容的NVIDIA GPU及驱动、已准备好的模型检查点（checkpoint）以及按链提供的A3M多序列比对（MSA）数据。无需nvcc、CUDA源码、CMake或完整CUDA工具包。

面向关键计算模块的精准优化

BioIR聚焦通用推理框架未充分优化的核心算子，包括Pairformer与Evoformer堆栈、三角形运算（triangle operations）、成对注意力（pairwise attention）、扩散Transformer及原子级模块。模型仍以标准`torch.nn.Module`对象形式存在，无需引擎构建、模型导出或额外中间产物。用户可通过两种方式使用：一是端到端处理器（end-to-end processor），自动完成输入请求的解析、分词、特征生成、GPU推理及PDB/mmCIF文件输出；二是直接集成至PyTorch代码，复用部分经优化的模块。教程以Boltz-2（`model_source="boltz-2"`）为例演示处理器路径，要求每条蛋白链提供A3M格式MSA；多链输入支持配对或非配对MSA；模板需手动提供（BioIR不运行HHsearch或HMMsearch）；支持配体结构预测，但不支持亲和力预测。

三层协同加速架构

BioIR在三个正交层面实施优化：

• 内核选择层：根据模型配置、GPU型号、数据类型与张量形状，动态选用BioIR定制内核、cuEquivariance或PyTorch原生回退实现；
• 模块优化层：通过独立`optimize()`接口启用CUDA Graph捕获，降低内核启动开销；
• 流水线扩展层：基于Ray执行器，在每个可见GPU上部署完整模型副本，并将独立输入分发至各副本；CPU阶段（解析、特征构建、输出写入）与GPU折叠阶段重叠执行。需注意：Ray不跨GPU切分单次前向传播，而是通过副本模式扩展任务队列（worklist），而非单个靶点。上下文并行折叠（context-parallel folding）已在路线图中，但尚未发布。资源约束规则简洁：`engine_stage.compute × num_gpus`不得超过可见GPU总数。

基准测试：1000个人源二聚体在8×H100上的实测表现

为量化端到端交付能力，NVIDIA团队在1000个人源二聚体靶点（总序列长度＜2800残基）上开展对照测试。对比双方均为Boltz-2：BioIR加速版本 vs torch-compiled开源实现，均运行于8×H100 80GB GPU，使用完全相同的靶点、预处理MSA、推理参数（3轮循环、200步采样、5次扩散采样）及GPU配置。结果：BioIR成功完成全部1000个靶点，达成58.5K残基/每GPU小时的有效折叠吞吐量；开源实现仅完成971个靶点（29例因显存不足失败），吞吐量为20.2K残基/每GPU小时。折算后，BioIR在残基归一化吞吐量上实现2.90倍提升。需强调：该数据仅针对本测试集与硬件配置的折叠阶段，未计入MSA生成、CPU预处理、存储、数据传输及重试开销；官方明确提醒不可外推至其他模型或数据集。

百万靶点级能耗估算

将上述基准线性外推至100万个同类靶点，BioIR预计耗电11 MWh（按8-GPU TDP等效），而开源实现需35 MWh；若按整节点最大功耗等效计算，则分别为21 MWh与64 MWh。所有数值均为IT设备额定功率下的纯折叠阶段估算值，非实测计量数据。