llm-inference-scaling - Kubernetes上自动扩展LLM推理集群kubernetes自动扩缩容LLMGPU★ 650 · 更新于 2026-03-26在Kubernetes上水平扩展LLM推理,支持GPU感知自动扩缩容、请求排队和竞价实例策略。⚙ 部署vLLM推理Pod⚙ 配置KEDA自动扩缩容⚙ 设置基于队列的扩展
kubernetes - Kubernetes部署与运维管理部署服务入口自动扩展★ 0 · 更新于 2026-02-18指导Kubernetes工作负载设计、服务网络、安全策略和生产运维的分布式应用程序。⚙ 设计工作负载清单⚙ 配置服务网络⚙ 应用安全策略