🚀
DevOps & 部署

Vllm 部署 Docker

@vllm-deploy-docker

Claude 技能,描述如何使用官方预构建映像通过 Docker 部署 vLLM,或从支持 NVIDIA GPU 和 CUDA 的源代码构建映像。说明包括 NVIDIA CUDA 支持、示例 docker run 和最小的 docker-compose 片段、推荐标志和故障排除说明。对于 AMD、Intel 或其他加速器,请参阅 vLLM 文档以了解替代部署方法。

包含技能

1 个
🚀
Vllm 部署 Docker
@vllm-project/vllm-skills/vllm-deploy-docker

Claude 技能,描述如何使用官方预构建映像通过 Docker 部署 vLLM,或从支持 NVIDIA GPU 和 CUDA 的源代码构建映像。说明包括 NVIDIA CUDA 支持、示例 docker run 和最小的 docker-compose 片段、推荐标志和故障排除说明。对于 AMD、Intel 或其他加速器,请参阅 vLLM 文档以了解替代部署方法。

🚀 如何安装技能包 请下载安装 AiOffice 客户端,
如果已下载AiOffice,
请在 AiOffice 的技能广场页面进行一键安装。