电白网站建设短视频seo询盘获客系统
2026/4/18 3:18:17 网站建设 项目流程
电白网站建设,短视频seo询盘获客系统,淘宝客 网站无备案,如何做好一个百度竞价网站说明#xff1a;有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想#xff0c;只是想进入docker容器#xff0c;并进行一些代码修改之后#xff0c;再打成镜像#xff0c;再起vllm服务。 1. 命令 # 进入docker容器#xff0c;运行bash命令#xff0c…说明有一些vllm docker镜像 docker run的时候就会启动vllm的服务。而我不想只是想进入docker容器并进行一些代码修改之后再打成镜像再起vllm服务。1. 命令# 进入docker容器运行bash命令同时挂载了本地/data8路径8000端口docker run --name ray -it --entrypoint-it -v /data8:/date8 -p8000:8000 --ipchost vllm-openai:v0.11.0-lmcache-0.3.9.0 /bin/bash2. 其他一些有用的docker命令# 重新进入一个docker容器dockerexec-it ray-llmbash# 提交容器为新的镜像docker commit ray-llm vllm-openai-aibrix-kvcache:v0.10.2-20251022-lmcache-0.3.7.1 docker commit ray vllm-openai:v0.11.0-lmcache-0.3.9.1# 用docker启动vllm服务docker run --name ray-test -it --entrypoint--runtime nvidia --gpusdevice7\-v /data8:/date8\-p8000:8000\--ipchost\vllm-openai:v0.11.0-lmcache-0.3.9.1\python3 -m vllm.entrypoints.openai.api_server --model/Qwen2.5-1.5B-Instruct --trust-remote-code

需要专业的网站建设服务?

联系我们获取免费的网站建设咨询和方案报价,让我们帮助您实现业务目标

立即咨询