选大模型别只看每百万 token 单价:三步算出每个任务的真实成本
模型越来越便宜,但单价低不等于任务便宜。本文用腾讯 Hy4 flash 等模型的公开价格举例,演示如何统计 token、套用成本公式,并结合重试率和合格率,算出每个合格交付物的成本。
11 月的新模型发布有一个共同点:厂商越来越多地用"单任务成本"来介绍产品。腾讯介绍 Hy4 flash 时,用的是内部 WorkIndex 评测的单任务成本;OpenAI 的 GPT-Live-1.1 按分钟计费,空闲时段另有低价。如果只拿"每百万 token 单价"横向比较,很容易选错模型。下面三步,帮你算出自己业务的真实成本。
第一步:用真实任务统计 token
从业务里挑 20 到 50 个有代表性的真实任务,分别交给候选模型处理,记录每个任务的输入 token、输出 token、命中缓存的输入 token,以及失败后重试的次数。多数模型 API 的返回结果里都带有 usage 字段,可以直接读取。
第二步:套用成本公式
单任务成本 = 输入 token × 输入单价 + 输出 token × 输出单价 + 缓存输入 token × 缓存单价,再乘以(1 + 重试率)。举个例子,一个文档整理任务输入 2 万 token、输出 2000 token。按腾讯公布的 Hy4 flash 价格(每百万输入 0.070 美元、输出 0.281 美元)计算,约为 0.0014 + 0.00056 ≈ 0.0020 美元。按 LLM Stats 列出的 Claude Haiku 5.5、GPT-6 Luna 的价格(每百万输入 0.10 美元、输出 0.50 美元),约为 0.002 + 0.001 = 0.003 美元。如果这 2 万输入里有 1.5 万能命中缓存(Hy4 flash 缓存价 0.003 美元),输入部分会降到约 0.0004 美元。比较时,记得给每家模型都套用各自的缓存价。
第三步:把质量和重试算进去
便宜的模型如果输出更长,或者经常要重试,总成本可能反超。腾讯称 Hy4 flash 通过强化学习把平均输出 token 减少了一半,这说明输出长度本身就是成本。因此要用同一批任务做小样本盲测,人工判断哪些结果合格,最后看这个指标:每个合格交付物的成本 = 总花费 ÷ 合格任务数。
两条实用建议:一是分层路由,简单任务默认交给小模型,失败或判定为复杂时再升级到大模型;二是语音类应用要统计静默时长占比,GPT-Live 的待机计费为每分钟 0.02 美元,活跃时为 0.05 美元,两者差距不小。最后提醒,价格请以各家官方页面为准,促销价(例如 TokenHub 11 月 30 日前五折)不要当作长期价格来测算。
信息来源:腾讯官方发布
信息来源:LLM Stats