eks-genai - 在 Amazon EKS 上设计生成式 AI 工作负载
为在 Amazon EKS 上构建、训练、微调和服务生成式 AI 及 LLM 工作负载提供有明确取舍的指导。
标签
更新于: 2026-09-29能力
典型输入
典型输出
该技能可以做什么
- 选择 GPU 或 Neuron 硬件
- 设计 EKS 加速器调度
- 选择模型服务框架
- 规划分布式训练
- 选择机器学习存储
- 设计生成式 AI 可观测性
- 配置 AI 网关
- 优化生成式 AI 成本
- 应用安全基线
输入
- 工作负载类型
- 模型系列
- 延迟要求
- 成本取向
- 团队技能水平
- 项目时间线
- 服务需求
- 训练需求
- 存储需求
输出
- 硬件建议
- EKS 技术栈建议
- 模型服务架构指导
- 训练架构指导
- 存储建议
- 可观测性建议
- AI 网关建议
- 成本优化指导
- 安全指导
要求
- Amazon EKS
- 自托管的 AI 或 LLM 工作负载
- 适用时具备 GPU 或 Neuron 支持