📄 中文摘要
vLLM 是一种快速的本地 LLM API，能够作为持久可靠的后台服务运行在 Linux 机器上。该指南详细介绍了如何安装所需的依赖项，创建虚拟环境，设置 systemd 服务，并从指定目录（/home/nurbot/ws/models）运行 vLLM。此外，还包括检查日志和调试的步骤，以及如何在系统启动时自动启动服务的配置方法。
在 Linux 服务器上部署 vLLM
出处: Deploying vLLM on your Linux Server
发布: 2026年2月16日
📄 English Summary
Deploying vLLM on your Linux Server
vLLM serves as a fast local LLM API that can run as a persistent and reliable background service on a Linux machine. This guide details the process of installing necessary dependencies, creating a virtual environment, setting up a systemd service, and running vLLM from a specified directory (/home/nurbot/ws/models). It also includes steps for checking logs and debugging, as well as configuring the service to auto-start on boot.