一、项目简介

DeepSeek Harness是DeepSeek开源的全插件式AI Agent工作台，支持自定义大模型接入、可视化对话调试、多插件拓展，具备轻量化、高适配、可私有化部署的优势。相比在线AI工具，本地部署可实现数据本地化、无调用次数限制，搭配LlamaCpp量化模型，低配设备也能流畅运行大模型对话能力，是本地AI开发、智能体测试的优质工具。

本次部署采用双仓库源码搭建方式，整合官方核心源码与适配优化版本，全程手动编译部署，稳定性更强，适配本地模型对接场景。

项目仓库地址：

二、部署前置：安装Node.js 26.7环境

DeepSeek Harness运行依赖Node.js环境，本次部署指定安装最新稳定版Node.js 26.7.0，避免版本兼容报错。

2.1 环境下载

2.2 安装步骤

下载对应Windows系统安装包，默认路径安装即可，无需修改配置，全程下一步完成安装。

2.3 环境验证

打开CMD命令提示符，输入以下命令，输出版本号即为安装成功：

三、拉取项目源码并进入项目目录

将上述两个仓库源码下载至本地，解压后统一命名为 deepseek-harness，存放至桌面或自定义英文目录（路径请勿包含中文、空格）。

打开CMD，切换至项目根目录：

四、项目依赖安装与编译构建

进入项目目录后，依次执行以下全套命令，完成包管理工具安装、依赖下载、项目打包构建。

构建过程会自动打包前端资源，出现chunk大小提示为正常现象，无需处理，等待4-5秒构建完成即可。

五、启动DeepSeek Harness Web工作台

项目构建完成后，执行启动命令，拉起本地Web服务：

启动成功后，终端会输出本地访问地址，默认地址为：http://127.0.0.1:3080

浏览器打开该地址，即可进入DeepSeek Harness可视化工作台页面。

六、LlamaCpp本地模型启动部署

本次部署采用qwen2.5-1.5b-instruct-q4_k_m.gguf量化模型，通过LlamaCpp搭建本地模型接口，实现本地大模型对接，无需联网调用API。

将下载好的模型文件放置LlamaCpp根目录，执行以下启动命令，开启本地模型服务：

参数说明：

• --port 11433：本地模型服务端口，与后续工作台配置对应
• -c 16384：设置上下文窗口大小，提升对话连贯性
• --cors-origins *：开启跨域，允许工作台跨域调用模型接口

七、工作台配置本地模型接口

7.1 新增自定义模型配置

进入DeepSeek Harness Web页面，点击右下角【设置】，新增自定义模型提供方，填写对应配置信息：

• 模型名称：qwen2.5-1.5b-instruct-q4_k_m.gguf
• API地址：http://127.0.0.1:11433/v1
• API协议：openai-completions
• 模型目录：自定义模型存放路径

填写完成后点击【保存】，并获取可用模型，确认配置生效。

7.2 启用本地模型对话

返回工作台主页面，在模型选择栏选中配置好的qwen2.5-1.5b量化模型，开启标准对话模式。

八、功能测试与效果验证

新建会话，输入提问指令（如“请简单介绍一下自己”），发送对话后，工作台可正常调用本地LlamaCpp模型返回应答内容。

页面可实时查看对话日志、Token消耗、推理速度、缓存命中率等数据，代表整套本地部署+模型对接流程完全成功。