微调工具调用大模型完整指南：基于XYZ-Aquila-SFT与Qwen3

端到端微调流程概览

本教程构建了一个完整的监督微调（SFT）流水线，目标是提升语言模型在复杂工具调用场景下的结构化输出能力。所用核心组件包括：开源数据集XYZ-Aquila-SFT、Qwen3-0.6B基础模型、Hugging Face Transformers库、PyTorch框架以及参数高效微调库PEFT。全流程覆盖从原始数据解析到模型导出的全部关键环节。

数据加载与结构分析

教程首先配置环境参数，包括数据集仓库路径（`XYZAILab/XYZ-Aquila-SFT`）、语言标识（`en`）、流式采样数量（400条）及评估样本量（40条）。通过`datasets.load_dataset(..., streaming=True)`实现内存友好的数据流式加载，并快速检视首条样本字段：`question`、`answer`、`number of tool calls`及嵌套的`trajectory`消息序列。分析显示，每条样本含多轮对话消息，角色（role）交替出现，且工具调用信息以特殊标记（如`<tool_call>`、`<tools>`、`<think>`）嵌入在assistant回复中。

工具调用轨迹解析

针对非结构化的工具调用文本，教程定义了正则表达式与JSON安全解析器：`TOOL_RESP_RE`匹配`<tool_call>`标记后的响应块；`iter_json_objects()`函数采用`json.JSONDecoder.raw_decode()`规避嵌套JSON对象导致的解析失败；`parse_tool_calls()`提取所有合法工具调用JSON对象。每个样本被封装为`Trajectory`数据类，自动提取系统消息中的工具声明（`tools`列表）、assistant消息中的实际调用（`calls`）、思考步骤数（`n_think`）及观测次数（`n_observations`），并统计所用工具名称集合与对话深度。

格式转换与训练准备

为适配Qwen系列模型，教程将原始消息格式转换为Qwen兼容的ChatML协议，并实施“仅助手损失掩码”（assistant-only loss masking），即仅对assistant角色生成的token计算损失。同时构建自定义PyTorch `Dataset`与`DataCollator`，支持动态截断（`truncate`策略）至最大长度2048，并集成LoRA配置（`r=16`）。训练超参设定为：学习率1e-4、梯度累积8步、总训练步数30步，全程启用BF16精度（若CUDA支持）。

微调执行与效果验证

在单卡GPU环境下启动训练后，教程强调对微调前后的工具调用预测能力进行对比评估。评估指标聚焦于工具名称识别准确率与参数JSON结构完整性。最终输出不仅包含微调后的LoRA权重，还导出经清洗与结构化处理的训练子集（transformed dataset）及详尽语料统计报告（如工具调用频次分布、平均调用深度、思考链长度等），供后续研究复现或扩展实验。

编者观点

该教程为中国开发者提供了可直接复用的工具调用微调范式，凸显结构化数据解析与轻量化适配（LoRA）在垂直场景落地中的关键价值——企业无需重训大模型，即可快速构建具备可靠工具调度能力的AI智能体。