READMESource: master@6d57f0ea
dsh-wsl-llamacpp
语言: 中文(本页) · English
对接本机 llama.cpp / Unsloth Desktop 的 OpenAI 兼容接口(默认 :8080)。
| 版本 | 0.1.0 |
| 套件 | dsh-wsl-kit 可选,不在 install.sh |
安装
dsh plugin --profile web add github:173787247/dsh-wsl-llamacpp
# 或本机 path:
# dsh plugin --profile web add /mnt/c/Users/YOU/Desktop/AIFullStackDevelopment/dsh-wsl-llamacpp
kit 批量链接(可选):bash dsh-wsl-kit/scripts/link-linux-plugins.sh
工具
| 工具 | 作用 |
|---|---|
llama_status |
是否可达、模型 id |
llama_chat |
/v1/chat/completions |
配置要点
baseUrl / defaultModel / timeoutMs
复用已有 GGUF,不重装工具链。环境变量:DSH_LLAMA_BASE、DSH_LLAMA_MODEL。
License
MIT
No comments yet. Be the first to write one.