Fastino发布GLiNER2.5:边界预测架构革新信息抽取
Fastino推出GLiNER2.5,以边界预测替代传统跨度枚举,消除最大实体长度限制,支持4096词长上下文,计算复杂度保持序列长度线性。多语言版在16项零样本基准测试中整体宏F1达56.17,XNLI任务提升24.75分。三个开源模型(74M/194M/287M参数)已上线Hugging Face,Apache 2.0许可,支持CPU/CUDA/MPS本地部署。
架构革新:从跨度枚举到边界预测
信息抽取团队长期面临权衡:小型编码器模型成本低但泛化弱,大语言模型灵活却单文档推理开销高昂。Fastino发布的GLiNER2.5旨在弥合这一鸿沟。其核心变革在于摒弃传统‘跨度枚举’(span enumeration)范式——即对每个起始位置与预设宽度组合逐一打分——转而采用‘边界预测’(boundary prediction):模型直接为每个token边界输出起始与结束得分,并为token本身输出‘内部’得分。该设计彻底移除了最大实体宽度硬约束,使上下文窗口扩展至4096词,且在固定schema下计算量随序列长度呈线性增长。
五大能力升级
长上下文抽取:取消显式跨度表征显著降低内存占用,模型可原生训练于长达4096词的序列。官方checkpoint均配置`max_len=4096`,配套库提供`extract_entities_long`等原生分块工具,自动将分块结果映射回原始文档的字符级偏移。
无上限实体长度:此前GLiNER2受限于宽度网格(通常约12词),超长实体无法被评分;GLiNER2.5中,一个实体可始于首token、止于末token——例如40词的赔偿条款与2词的人名定位成本完全相同。
联合实体-关系抽取:用户声明实体类型、有向关系及结构规则(如`unique_head=True`、`no_self_loops()`),系统通过束搜索构建全局一致图谱。非法组合在解码阶段即被排除,输出天然满足约束;调用前需检查`result.feasible`。
跨任务标签约束:支持`C.implies`与`C.excludes`等规则,在解码时强制不同任务标签间逻辑一致性。Fastino自研的GLiGuard护栏模型即为此类需求的典型场景:避免同一输入被同时判定为‘安全’与‘存在提示注入风险’;若无合法标签分配,分类器将主动报错。
细粒度跨度属性:情感等属性组可通过`applies_to`绑定至特定实体类型,并在单次前向传播中逐span解码。返回结果为带属性的结构化实体,而非扁平化标签。
开源与部署就绪
Fastino在Hugging Face发布三个Apache 2.0许可的checkpoint:`gliner2.5-small-v1`(74M参数,DeBERTa-v3-xsmall,英文)、`gliner2.5-base-v1`(194M,DeBERTa-v3-base,英文)及`gliner2.5-multi-v1`(287M,mDeBERTa-v3-base,多语言)。三者共享统一API,须通过`AutoExtractor`加载(不再兼容旧版GLiNER2跨度加载器)。部署仅需`pip install "gliner2[local]"`(Python 3.10+),支持CPU、CUDA或Apple Silicon MPS,无需云推理服务——74M与194M版本可在标准CPU服务器运行,适合小团队零GPU预算落地;大型组织则可私有化微调,替代按token计费的LLM抽取方案。
性能表现
在16个零样本公开数据集评测中,多语言版GLiNER2.5整体宏F1达56.17,略高于GLiNER2的56.09;基础版达54.87,较前代53.34明显提升。最大跃升来自XNLI任务:多语言版达62.30(+24.75分);Few-NERD基础版升至55.14(+7.92);罗马尼亚语RONEC(未训练语言)亦获显著增益。
行业应用场景
当前适配场景包括法律与合同运营、医疗临床文档、金融服务、保险理赔、客户支持及AI安全工具链。典型应用涵盖:PII检测与脱敏、合同条款抽取、智能体记忆知识图谱构建、模型/智能体路由决策、护栏分类(guardrail classification)、带否定与剂量属性的临床实体抽取等。
> 编者观点:GLiNER2.5的边界预测范式为中国企业提供了轻量、可控、可解释的信息抽取新路径——尤其适合对数据主权、推理成本与合规性要求高的金融、医疗、政务领域,有望加速专业场景中LLM替代型结构化抽取方案的规模化落地。
本文为企业智脑(优秘智能)编译整理自公开资讯,信息与观点以原文为准,仅供参考。阅读原文(MarkTechPost) →