cost-aware-llm-pipeline - 用于 LLM API 调用的成本优化模式
将模型路由、预算跟踪、受控重试逻辑和提示词缓存整合为 LLM API 调用的成本优化管道。
标签
更新于: 2026-09-16能力
典型输入
典型输出
该技能可以做什么
- 按任务复杂度选择模型
- 使用不可变记录跟踪成本
- 针对瞬态错误重试调用
- 缓存系统提示词
输入
- 输入文本与提示词内容
- 预算限制与配置项
- LLM API 客户端凭证
输出
- API 执行结果
- 更新后的成本跟踪记录
要求
- Python 运行环境
- LLM API 访问密钥
