langchain-cost-tuning - 调优 LangChain 的令牌成本、重试、缓存与预算
通过准确的令牌计量、模型分层、缓存分析、重试去重和租户预算控制来调优 LangChain AI 支出。
标签
更新于: 2026-10-06能力
典型输入
典型输出
该技能可以做什么
- 聚合令牌用量
- 去除重试重复计量
- 按任务分层模型
- 调优提供商缓存
- 执行租户预算
- 限制代理重试与循环
输入
- LangChain 应用代码
- 流式模型事件
- 提供商账单数据
- 租户和会话标识符
- 模型定价信息
输出
- 令牌用量指标
- 成本对账报告
- 重试与模型配置
- 缓存用量汇总
- 租户预算状态
要求
- Claude Code 环境
- Python 3.10 或更高版本
- langchain-core 1.0.x
- 至少一个模型提供商包
- 使用 Redis 预算时需 redis-py 5.0 或更高版本
- 提供商控制台访问权限