llm-chat-completions-server：为 LLM 提供 OpenAI Chat Completions 接口的插件

学完你能

• 在安装了 LLM 的环境中安装 llm-chat-completions-server 插件
• 启动本地服务并指定默认或自定义端口
• 通过 GET /v1/models 查看可被服务的异步模型列表
• 用 POST /v1/chat/completions 发送消息并获得经典 OpenAI 格式响应
• 用 server-sent events 接收流式响应并处理 data: [DONE] 结束标记
• 理解接口对 system/developer/user/assistant/tool 消息、图片 URL 与函数调用的支持范围
• 运行项目测试或在开发模式下重载服务

适合你吗

课程特点

内容侧重

侧重实践应用

练习与项目

以 curl 依次验证模型列表、普通补全、流式补全，并观察完成响应被写入 LLM 的 logs.db。

学习时长

3 个课节原站未给出统一学习时长；实际用时取决于已有基础。

内容费用

免费README 完整给出安装、启动、接口调用与开发说明，仓库公开可读，未见付费或登录拦截。

内容覆盖

• Installation：在与 LLM 相同的环境中安装该插件
• Usage：启动服务器（默认 127.0.0.1:8002）、--port 与 --reload 选项
• List models：GET /v1/models 列出提供异步实现的模型
• Create a chat completion：POST /v1/chat/completions，支持系统/开发者/用户/助手/工具消息、图片 URL 与函数调用、n=1 与采样参数透传
• 流式响应：server-sent events，以 data: [DONE] 结束
• 日志：完成响应写入 LLM 的 logs.db，遵守全局 llm logs off 设置
• Development：运行测试与以可编辑模式挂载多个模型插件调试