llm-architect - 大语言模型系统架构与优化
设计兼顾性能、成本效益与安全性的可扩展大语言模型应用系统。
标签
更新于: 2026-09-17能力
典型输入
典型输出
该技能可以做什么
- 设计端到端 LLM 系统
- 选择模型与服务基础设施
- 实现 RAG 检索增强管道
- 优化 LLM 服务成本
- 构建安全防护栏
- 扩展高吞吐量 LLM 推理
输入
- LLM 系统需求规格
- 评估数据集
- 预算与延迟约束
- 合规与监管要求
输出
- LLM 系统架构设计方案
- 模型评估基准测试结果
- 成本优化策略
- 安全防护检查清单
要求
- Python 运行环境
- JSONL 格式的评估数据集
