https://arxiv.org/pdf/2503.09516

2503.09516v3.pdf

这篇论文《Toolformer: Language Models Can Teach Themselves to Use Tools》围绕一个核心思想展开：让大型语言模型（LLM）通过自监督学习，自主学会何时、如何使用外部工具（如计算器、搜索引擎、问答系统等）来增强推理能力和上下文处理能力。以下是其核心内容的普通语言总结：

作者提出了一种名为 Toolformer 的训练框架，它不依赖人工标注、不需要专家微调，而是利用一个已经训练好的语言模型，自动生成有用的训练数据，用来教自己如何调用工具。这个过程分为几个关键步骤：

首先，研究者提供一组API（比如计算、翻译、信息检索等）。然后，让一个基础模型在大量无标签文本上插入这些工具的调用尝试（如：在一句话中插入一个翻译API调用的位置和参数）。接下来，这些调用会被实际执行，得到工具返回结果，再回插入原始文本中，判断这个调用是否对模型下游的语言预测任务有帮助。只有那些显著提升模型预测准确度的调用样本，才会被选入最终训练集。

在这个基础上，模型会通过继续预训练，学会在不同上下文中调用外部工具，并能把工具调用当作一种“语言”能力自然地融入输出文本中。这种方式无需监督数据、无需复杂的Prompt设计，模型可以“边学边用”，最终自主掌握工具使用的策略和时机。

实验部分展示了Toolformer在多个任务中能学会使用不同工具，比如：

• 用Calculator提高数字计算能力；

• 用Search API增强事实性问题回答；

• 用QA系统改善长文本理解等。

更有趣的是，Toolformer最终形成的能力，不是“硬规则调用”，而是通过语言建模自然学习到的模式。这种能力具有泛化性，能迁移到新任务或新领域中，显示出工具增强的LLM可以成为通用智能体构建的基础模块。

总结一句话：Toolformer的创新在于，让语言模型自我教导如何用工具，通过无监督训练机制，把“工具使用”当作一种可学习的语言技能，成为构建高级智能体（如agent）的重要里程碑。

如夜话，至此