86.人工智能实战：LLM 成本异常怎么排查？从账单暴涨到 Token、模型、租户、任务四维归因

人工智能实战：LLM 成本异常怎么排查？从账单暴涨到 Token、模型、租户、任务四维归因

一、问题场景：月底账单暴涨，但没人知道钱花在哪

大模型应用上线后，经常出现一种尴尬情况：

账单涨了。

但团队回答不出：

哪个租户花的？ 哪个用户花的？ 哪个模型花的？ 哪个任务花的？ 是输入变长了，还是输出变长了？ 是缓存失效了，还是长任务变多了？

我见过一次真实案例。

某企业知识库系统单日成本突然上涨 3 倍。

一开始大家怀疑是模型价格变化。

最后排查发现：

某个租户批量上传长文档，让系统生成报告。 每个请求 input_tokens 超过 20000。 同时语义缓存没有命中。

也就是说，成本暴涨不是模型涨价，而是：

任务结构变化。

本文解决的问题是：

如何建立 LLM 成本归因系统，从 token、模型、租户、用户、任务、缓存、降级等维度排查成本异常。