Prior Labs发布TabPFN-3.5:零调优击败2015年Kaggle Otto竞赛冠军方案
Prior Labs正式发布TabPFN-3.5——新一代表格数据基础模型,仅需单次前向传播即可预测,无需数据集级微调。该模型在Otto产品分类挑战赛私榜上以0.375对0.382超越2015年冠军方案;在7个主流表格基准测试中均排名第一。开源权重限于研究与Kaggle参赛,商用须通过API或商业授权。
零调优即达SOTA:Otto竞赛历史性突破
Prior Labs近日发布TabPFN-3.5,其核心能力在于对任意表格数据执行单次前向推理即可完成预测,全程无需针对具体数据集进行训练、超参调优或特征工程。在著名的2015年Kaggle Otto集团产品分类挑战赛(93维脱敏计数特征、9分类任务)中,TabPFN-3.5在私有测试集上取得0.375的多类别对数损失分,显著优于当年冠军方案(0.382)。该结果基于原始输入数据与完全默认配置达成,仅耗时约1分钟(RTX PRO 6000 GPU),且模型预训练全程仅使用合成数据,从未接触Otto或任何Kaggle真实数据集。相关可复现Kaggle Notebook已公开。
七项基准全面领先
技术报告显示,TabPFN-3.5系列在TabArena、BeyondArena、STRABLE、MulTaBench、RelArena-α、TALENT和ScoringBench共7个权威表格基准测试中均位列第一。其中,TabPFN-3.5-Thinking版本包揽TabArena、BeyondArena、STRABLE与MulTaBench榜首;内部定制版TabPFN-Rel在RelArena-α胜出。在包含51个数据集的动态基准TabArena中,Thinking版本Elo评分为1910,基础模型为1866,均高于TabFM+(1823);Prior Labs称,基础模型在Elo得分上比AutoGluon 1.6 extreme高130分,且推理耗时仅为后者的五分之一。BeyondArena覆盖142个多样化数据集(含分组、时序、宽表、文本丰富及高基数场景),TabPFN-3.5整体领先前代冠军约150 Elo点,但在分组、时序及大数据子集上,经调优与集成的传统MLP仍保持优势。
架构升级:更宽、更简、更鲁棒
TabPFN-3.5底层实现多项关键改进:模型维度从512扩展至1024,参数量升至2.2亿(较TabPFN-3分类版5300万增长超三倍);采用单一多任务检查点,统一支持分类与回归;引入新型单元编码机制——数值经学习型傅里叶特征与上下文内经验累积分布函数(ECDF)秩变换,后者对单调变换(如对数缩放)保持不变;大幅简化预处理流程,移除分位数变换、鲁棒缩放与SVD特征;支持最大100万行样本,推荐特征数6000、上限20000;合成数据预训练策略转向侧重高基数、宽表与分组结构;尽管参数量增至约4倍,KV缓存规模基本维持不变,单行预测速度与TabPFN-3持平,但大规模训练集上基础模型推理速度约为TabPFN-3的50%。
多版本协同演进
TabPFN-3.5家族包含四个变体:基础版(TabPFN-3.5)开放权重,2.2亿参数,默认集成8个估计器;轻量版TabPFN-3.5-Fast(Alpha)开放权重,8400万参数,推理速度最高提升6倍;企业专属版TabPFN-3.5-Plus仅限API与企业授权,新增原生文本处理与FP8注意力支持;推理增强版TabPFN-3.5-Thinking不依赖大语言模型、真实数据或搜索算法,通过额外计算资源投入提升性能,推理速度可达TabPFN-3-Thinking的12倍。
商用路径明确
所有版本均提供非商用开放权重,适用于学术研究、模型评估及Kaggle竞赛;生产环境部署必须通过Prior Labs官方API或获取商业许可证。技术报告与详细文档已同步发布。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →