@vllm-deploy-docker
Claude 技能,描述如何使用官方预构建映像通过 Docker 部署 vLLM,或从支持 NVIDIA GPU 和 CUDA 的源代码构建映像。说明包括 NVIDIA CUDA 支持、示例 docker run 和最小的 docker-compose 片段、推荐标志和故障排除说明。对于 AMD、Intel 或其他加速器,请参阅 vLLM 文档以了解替代部署方法。
Claude 技能,描述如何使用官方预构建映像通过 Docker 部署 vLLM,或从支持 NVIDIA GPU 和 CUDA 的源代码构建映像。说明包括 NVIDIA CUDA 支持、示例 docker run 和最小的 docker-compose 片段、推荐标志和故障排除说明。对于 AMD、Intel 或其他加速器,请参阅 vLLM 文档以了解替代部署方法。