返回插件目录

173787247 /

173787247/dsh-wsl-llamacpp

已验证

OpenAI-compatible client for llama.cpp / Unsloth Desktop (default :8080).

★ 1 Stars0 Forks0 IssuesN/A 社区评分0 已确认安装
README来源: master@6d57f0ea

dsh-wsl-llamacpp

语言: 中文(本页) · English

对接本机 llama.cpp / Unsloth Desktop 的 OpenAI 兼容接口(默认 :8080)。

版本 0.1.0
套件 dsh-wsl-kit 可选,不在 install.sh

安装

dsh plugin --profile web add github:173787247/dsh-wsl-llamacpp
# 或本机 path:
# dsh plugin --profile web add /mnt/c/Users/YOU/Desktop/AIFullStackDevelopment/dsh-wsl-llamacpp

kit 批量链接(可选):bash dsh-wsl-kit/scripts/link-linux-plugins.sh

工具

工具 作用
llama_status 是否可达、模型 id
llama_chat /v1/chat/completions

配置要点

baseUrl / defaultModel / timeoutMs

复用已有 GGUF,不重装工具链。环境变量:DSH_LLAMA_BASE、DSH_LLAMA_MODEL。

License

MIT

—/ 5

暂无评分

社区评论

还没有评论,来写第一条。