vllm/vllm-openai镜像只进入容器,不启动模型
·
docker run -it --gpus all --network=host --ipc=host --rm --name qwen3.5-test \
-v /home/vllm-models/Qwen3___5-35B-A3B:/home/vllm-models/Qwen3___5-35B-A3B \
-v /etc/localtime:/etc/localtime:ro \
-v /etc/timezone:/etc/timezone:ro \
--entrypoint /bin/bash \
vllm/vllm-openai
vllm/vllm-openai 这个镜像有个特殊机制:它默认会强制执行 vllm 命令,直接跟 bash 没用!
vllm/vllm-openai 镜像内置了默认启动命令,会强制跑 vllm,你直接加 bash 会被当成模型名字
必须用 --entrypoint /bin/bash 强制覆盖默认命令,才能真正进入终端!
更多推荐


所有评论(0)