打赏

相关文章

4090修改vllm启动参数步骤

# 1. 登录91服务器 ssh xurui@192.168.0.91 # 2. 激活conda环境(后续操作需要) conda activate vllm_infer # 3. 查看GPU进程并杀死(释放显存) nvidia-smi # 输出示例:找到PID列的数字(比如12345),执行 kill…

手机版浏览

扫一扫体验

微信公众账号

微信扫一扫加关注

返回
顶部