PyTorch ML - 基于PyTorch的深度学习环境深度学习机器学习PyTorchGPU计算★ 18 · 更新于 2026-03-20完整的机器学习环境,用于模型训练、GPU加速和数据科学工作流⚙ 定义神经网络⚙ 训练神经网络⚙ CUDA加速
tensorrt-llm - NVIDIA TensorRT-LLM LLM推理优化器推理优化TensorRT-LLMNVIDIA GPULLM推理★ 248,179 · 更新于 2026-03-19在NVIDIA GPU上优化LLM推理,支持量化和多GPU扩展⚙ 优化LLM推理⚙ 生成文本⚙ 服务聊天完成
unsloth-inference - 部署微调模型用于生产推理推理模型部署优化服务★ 18 · 更新于 2026-02-15使用优化内核、vLLM或SGLang部署微调模型进行生产推理⚙ 加载微调模型⚙ 启用优化内核⚙ 合并LoRA权重