llamapad-dsh-plugin
中文 · English
把 llamapad 管理的本地 llama.cpp 模型接入 DeepSeek Harness(dsh)。
装好之后,面板上的模型会出现在 dsh 的模型选择器里,选中就能聊天。另外还提供一组 Agent 工具(查看、启动、停止本地模型),以及设置页里的一张面板卡片和一个 GPU 监控页。llamapad 本身不需要做任何改动。
功能
- 本地模型直接当 dsh 的 provider 用,支持流式输出、思考强度、贴图输入
- 默认只使用已经在跑的模型,聊天过程不会触发启停;需要时可以改成自动启动
- 支持面板同时运行多个模型,选择器上用
▶︎ 标出运行中的模型,用 ★ 标出默认模型
- 面板状态靠事件推送更新,模型启停后选择器很快就能反映出来
- 设置卡片:查看运行状态、启停模型、在卡片里直接配置连接
- GPU 监控页:吞吐、显存、利用率、温度等曲线
- 管理工具:让 Agent 自己查询、启停本地模型,可以要求先经过人工确认
让 dsh 自己安装
在 dsh 里新开一个会话,把下面这句话发给它。它会先问你面板地址和 token,然后自己完成下载、安装和配置,装好后重启 dsh 即可。其他能执行命令的 AI 助手也可以照这份说明来装:
请阅读 https://raw.githubusercontent.com/LanceLRQ/llamapad-dsh-plugin/main/docs/guide/zh/ai-install.md ,按里面的步骤帮我安装并配置 llamapad-dsh-plugin。
快速开始
需要先准备:一个能访问的 llamapad 面板和它的 API token,以及已安装好的 dsh(版本要求见安装与接入)。
用 dsh 桌面版的话更简单:在「插件」页点「添加插件」,粘贴仓库地址 https://github.com/LanceLRQ/llamapad-dsh-plugin 安装即可,详见安装与接入。下面的命令行方式适用于所有版本:
-
安装插件:到 Releases 最新版 下载 llamapad-dsh-plugin-<版本>.tgz(国内下载慢可用镜像直链 https://download.hutao.wiki/llamapad-dsh-plugin/releases/latest/download/llamapad-dsh-plugin-<版本>.tgz),然后:
dsh plugin --profile <名> add ./llamapad-dsh-plugin-<版本>.tgz
# 或者:dsh plugin --profile <名> add github:LanceLRQ/llamapad-dsh-plugin
-
在 $DSH_HOME/profiles/<名>/cordis.patch.yml 里填上面板地址和 token:
- id: llamapad
name: llamapad-dsh-plugin
config:
panelUrl: http://192.168.1.10:8080
token: !!js process.env.LLAMAPAD_TOKEN
这一步也可以跳过,启动 dsh 后在「设置 → 插件 → 插件配置」的 llamapad 卡片里填。
-
启动 dsh web,在模型选择器里选一个面板上的模型开始对话。
默认的 strict 模式只使用已经在跑的模型。所以第一次用之前,先去面板启动一个模型,或者在设置卡片里点启动。
文档
相关项目
许可证
MIT