Providers 导读

vLLM 接入:先设环境变量,再选模型

OpenClaw 通过 OpenAI 兼容接口连接 vLLM,默认地址是 http://127.0.0.1:8000/v1。设置 VLLM_API_KEY(任意值即可)后,OpenClaw 能自动发现 vLLM 上的模型列表,无需手动配置。如果服务器需要认证或要自定义参数,才需要写显式配置。

先讲这一页到底在解决什么

vLLM 接入:先设环境变量,再选模型

OpenClaw 通过 OpenAI 兼容接口连接 vLLM,默认地址是 http://127.0.0.1:8000/v1。设置 VLLM_API_KEY(任意值即可)后,OpenClaw 能自动发现 vLLM 上的模型列表,无需手动配置。如果服务器需要认证或要自定义参数,才需要写显式配置。

原文共 7 节,先看 Start Here 路径:/providers/vllm 查看官方原文

第一步

🏭 先把 vLLM 机房开起来,再谈接线

官方很明确:vLLM 先得有一个能说 OpenAI 兼容语言的 HTTP 服务在那等着。

http://127.0.0.1:8000/v1

像机房前台窗口地址。没这个窗口,OpenClaw 连问都没处问。

/v1/models

像机房的设备目录。

/v1/chat/completions

像真正的出活窗口。

第二步

🪪 VLLM_API_KEY 常常只是“允许我启用这条线”的标记牌

官方特别提了一句:如果你的本地机房其实不设鉴权,那这个值随便给一个也行。

这就像门口保安有时只是想确认“你确实是走这条通道的人”,不一定真的要核对一张正式身份证。

第三步

🛰 自动发现 vs 手写清单,像“让前台自己扫设备目录”还是“你亲手列出机器表”

这是这页真正的主轴。

🤖

自动发现

你不写 models.providers.vllm,OpenClaw 就会自己去扫 /v1/models,把机房里现有机器抄回来。

✍️

手写清单

像你自己做一份设备台账,明确写 context、max tokens、headers 等细节。

🧭

什么时候该手写

换了端口、换了主机、要固定参数、要自定义 headers 时,就别偷懒。

🎈

一句话

简单场景让它自己扫,复杂场景自己列台账。

最后总结

🎈 把 vLLM 这页压成一句最好记的话

vLLM 是你家里的本地模型机房。先把机房前台开起来,再决定让 OpenClaw 自动扫设备目录,还是你自己亲手写设备表。