claude-api - 构建带结构化 JSON 校验的 Claude API 集成Claude APIAnthropic SDK结构化输出提示缓存★ 2 · 更新于 2026-10-16指导使用 Claude Messages API 的结构化输出、提示缓存、SSE 流式响应、工具调用、模型变更和错误处理。⚙ 验证 JSON Schema 一致性⚙ 配置提示缓存⚙ 处理 SSE 流错误
sglang - 具备RadixAttention前缀缓存的高性能LLM服务框架推理服务SGLang结构化生成RadixAttention★ 0 · 更新于 2026-09-24使用RadixAttention前缀缓存为LLM与VLM提供结构化生成与高性能推理服务。⚙ 提供LLM与VLM推理服务⚙ 使用RadixAttention自动缓存前缀⚙ 生成结构化JSON输出