Nums AI发布Causilo：登顶TabArena单模型榜单的表格基础模型
Nums AI正式发布Causilo——一款面向分类与回归任务的表格数据基础模型，在权威基准TabArena上以1792.9 Elo分位居所有单模型首位（分类1771.8、回归2032.6）。该模型采用纯合成数据预训练，支持缺失值与类别特征，提供scikit-learn接口及Apache-2.0开源代码，并已上线Hugging Face。
Causilo：首个在TabArena单模型中综合得分第一的表格基础模型
Nums AI近日发布Causilo，一款专为结构化表格数据设计的预训练基础模型，支持分类（最多10类）与回归任务。其核心亮点在于：在TabArena基准测试中，Causilo以1792.9的总体Elo分位居所有单模型（single models）之首，显著超越Google Research的TabFM（1764.4）与LG AI Research的EXAONE Tabular（1758.8）；在细分任务中，分类得分1771.8、回归得分2032.6，均为单模型最高。需注意，若将系统级集成方案（如多模型组合、后处理系统等）一并纳入排名，Causilo在88个参评条目中位列第3（由TabArena维护者独立复现验证）。
架构设计：三阶段流程实现高效上下文学习
Causilo并非传统微调型模型，而是一个上下文学习（in-context learning）模型：调用`fit()`方法时并不更新预训练权重，仅将训练样本作为上下文缓存；预测时，查询样本通过单次前向传播直接基于该上下文生成结果。其网络结构分为三个阶段：
- 精炼（Refinement）：输入特征按每3列分组；每个数值经16维可学习正弦/余弦频率嵌入；缺失值拥有专属可学习向量；
- 压缩（Compression）：两个“列阶段”分别对每组特征进行摘要，各使用128个隐式槽位（latent slots）仅读取训练行并广播摘要；其间插入一个“行阶段”，通过4个隐式token与交叉注意力（cross-attention）实现特征组间交互——此举使计算复杂度保持与特征数量呈线性关系；
- 上下文学习（In-Context Learning）：池化模块将每行压缩为固定512维向量；标签被附加至训练行；12层预测块允许查询行关注带标签的训练行，且查询行之间互不可见、亦不修改上下文。
默认启用8个集成成员，共享权重但采用不同归一化策略（无归一化、rank2gaussian、robust、power）及种子固定的特征与类别排列。
性能与部署：研究可用，商用需授权
Causilo已在CUDA与CPU环境完成验证，适用于当前研究与评估场景。但商业部署、生产环境或托管API调用需另行向Nums AI申请许可。技术指标方面：
- 在单张H100 80GB GPU（配8核CPU）测试中，Causilo在拟合（2.504秒/千行）与预测（0.251秒/千行）速度上均快于TabICLv2与TabPFN-3；
- GPU显存占用8.15 GiB，高于TabPFN-3（0.88 GiB），但低于TabICLv2（8.37 GiB）；启用`use_kv_cache=True`可将上下文计算移至`fit`阶段，以更高内存换取重复预测加速。
在ScoringBench回归专项评测（101数据集、5折交叉验证、样本上限3000）中，Causilo 1.0.1版在CRPS、R²与RMSE三项指标上均排名第一，结果经维护者独立复核确认。
开源与上手：开箱即用的scikit-learn兼容接口
Causilo代码与预训练权重均以Apache-2.0协议开源，托管于Hugging Face，并提供标准scikit-learn风格API：
```python
pip install causilo
from causilo import CausiloClassifier, CausiloRegressor
clf = CausiloClassifier(n_estimators=8, random_state=42) clf.fit(X_train, y_train) proba = clf.predict_proba(X_test)
reg = CausiloRegressor() reg.fit(X_train, y_train) bands = reg.predict(X_test, output_type="quantiles", quantiles=[0.05, 0.5, 0.95]) ```