快速回答
OpenAI 的企业案例资料提到,Indeed 与 OpenAI 合作微调较小的 GPT 模型,用减少 60% 的 Token 获得相近结果。这是一条具体业务的优化结果,不能理解为所有企业换小模型都能省 60%,也不能把它直接写成 Indeed 总 API 费用下降 60%。
这个案例对企业采购的启发是:先定义任务是否完成,再比较完成同样任务需要的模型、Token 和总费用。
Indeed 的 AI 用在什么地方?
OpenAI 的《AI in the Enterprise》PDF,第 9—10 页介绍,Indeed 在“Invite to Apply”场景中生成岗位推荐理由,向求职者解释岗位与其背景为何匹配。资料随后描述了微调较小模型、减少 60% Token 的优化。
该资料没有公开这一优化的完整账单、训练费用和详细评测样本。本文于 2026 年 11 月 9 日核对原文,以下步骤是供企业参考的实施建议,不是对 Indeed 内部方案的复原。
第一步:把“效果相近”写成可验证的标准
假设你也要生成岗位推荐理由,可以先规定:答案必须依据岗位和候选人资料,不得编造经历;输出要说明具体匹配点;资料不足时要能明确表达。
再准备一套包含常见输入和困难输入的固定样本,让候选模型在相同条件下运行。评测时同时保留原模型作为基线,避免仅凭“看起来更简洁”就认定优化成功。
| 评估维度 | 需要检查的内容 |
|---|---|
| 事实正确 | 是否出现输入中不存在的经历或岗位条件 |
| 任务完成 | 是否给出可用的匹配理由,而非泛泛评价 |
| 格式符合 | 是否满足应用要求的字段和长度 |
| 人工返工 | 多少结果需要修改或重新生成 |
| 运行成本 | 输入、输出、重试、训练及维护分别花多少 |
质量门槛应在比较价格前确定。否则,一个输出很短但经常需要重做的模型,可能只是在单次调用上便宜。
第二步:按改动成本选择优化路径
团队可以先检查重复资料、无关上下文和不必要的输出,再比较不同模型。若任务长期稳定、样本充足,且提示词调整或模型替换仍无法满足要求,再评估微调是否值得投入。
| 优化方式 | 可以尝试的动作 | 必须回验的问题 |
|---|---|---|
| 输入整理 | 移除重复字段,只发送完成任务需要的资料 | 是否删掉关键证据 |
| 输出约束 | 明确字段、长度和停止条件 | 是否遗漏业务所需解释 |
| 模型选择 | 在同一批样本上比较较小模型和原模型 | 困难样本是否明显退步 |
| 微调 | 使用经过审核的任务样本训练 | 新数据上是否仍有效,维护成本多大 |
这些方法可以分步验证,方便判断收益来自哪里。不要同时改提示词、模型和业务流程后,仅根据账单下降就认定每项改动都有效。
第三步:比较每个合格任务的成本
以下为假设算例,与 Indeed 的实际账单无关。某团队每月处理 10 万个任务:
| 项目 | 原方案 | 候选方案 |
|---|---|---|
| 每个任务平均 API 费用,含重试 | ¥0.12 | ¥0.06 |
| 月 API 费用 | ¥12,000 | ¥6,000 |
| 当月分摊的新增训练与维护费用 | ¥0 | ¥3,000 |
| 比较范围内的月成本 | ¥12,000 | ¥9,000 |
即使 API 账单下降 50%,计入新增费用后,这个示例的成本降幅也只有 25%。如果两种方案的合格任务数不同,还需要进一步计算:
每个合格任务成本 = 比较范围内的总成本 ÷ 合格完成的任务数。
人工复核和返工若有差异,也应加入比较。训练费用可以按预计使用期分摊,但要写清期限,不能用过长的摊销期把试点收益做得过于乐观。
怎样把优化结果用于企业 API 采购?
先用实测结果形成模型清单,再估算输入输出比例和月用量。询价时,让供应商按同样的工作负载报价,并注明缓存、重试及服务范围,才能比较总成本。
如果团队希望集中评估模型接入与用量报价,可以查看 TeamoRouter 企业方案。询价中应说明是否需要微调模型或特殊接口,并单独确认支持范围;普通模型接入报价不能自动视为包含训练服务。
采购路径的差异见企业大模型 API 采购对比,用量计算方法见企业 Token 用量估算。
常见问题
Indeed 的结果是否证明小模型一定比大模型划算?
不能。它支持的是一个具体任务可以通过定制优化减少消耗。你的任务难度、输入分布和质量门槛可能不同,需要独立评测。
Token 减少 60%,费用为什么不一定减少 60%?
输入和输出的单价可能不同,换模型也会改变价格;训练、维护、重试和人工复核还可能产生额外费用。应使用实际计费明细比较。
小团队应该先做微调吗?
可以先做成本更低、容易回退的输入整理、输出约束和模型对比。是否微调取决于任务稳定性、可用样本和预期收益,不是接入 API 的必经步骤。
数据来源
OpenAI:AI in the Enterprise — Lessons from seven frontier companies,第 9—10 页,Indeed 案例。核验日期:2026-11-09。本文未将案例中的 Token 降幅外推为费用降幅。