WishMeLz

生活其实很有趣

Docker本地部署DeepSeek R1+Dify 支持私有知识库

搭建自己的知识题库,全篇都是干活,没有废话,照抄就行了。以及各种踩坑记录

1、Dify部署

这里有两种,本地自己编译docker镜像,或者使用他们发版的docker镜像
如果使用编译的镜像,需要手动修改配置文件里面镜像版本号,具体看第一步最后的问题修复

编译镜像

git clone https://github.com/langgenius/dify.git
cd dify
make build-all

上面执行完成后docker会有这些本地镜像

2025-02-18T07:48:21.png

启动容器

cd dify/docker
cp .env.example .env
docker-compose up -d

2025-02-18T07:50:24.png

报错

Error response from daemon: manifest for langgenius/dify-api:1.0.0 not found: manifest unknown: manifest unknown

Error response from daemon: manifest for langgenius/dify-web:1.0.0 not found: manifest unknown: manifest unknown

这个问题查过,https://github.com/langgenius/dify/discussions/13869

yaml文件里面换成1.0.0-beta.1 就行了

这个没用!!! 实际情况虽然运行了,但是服务一直都是各种问题,各种500服务器问题。

解决方法

修改启动文件:/dify/docker/docker-compose.yaml

langgenius/dify-api:1.0.0 改为 langgenius/dify-api:latest 

那个报错改哪个,基本就3个,dify-api、dify-web、worker下的dify-api

指定版本就去docker官方拉镜像了,本地没有。1.0.0-beta.1也是去官方拉取是旧版。 正确的是使用前面自己编译打包的镜像

2025-02-18T07:57:22.png

最终效果

2025-02-18T08:01:01.png

打开IP就能打开页面
2025-02-18T08:02:16.png

2、安装DeepSeek

这里我选中本地在电脑中部署,因为服务器跑不动
进入到ollama官网,安装ollama
2025-02-18T08:04:28.png

选中对应的版本 https://ollama.com/library/deepseek-r1:1.5b
2025-02-18T08:06:34.png

CMD命令行运行指令:ollama run deepseek-r1:1.5b
Ctrl + D 退出对话

默认是127.0.0.1访问限制,在解开一下限制,需要关掉服务重新打开

set OLLAMA_HOST=0.0.0.0
ollama serve

ollama的默认端口是11434

2025-02-18T08:14:57.png

3、Embedding模型部署

ollama pull shaw/dmeta-embedding-zh

4、在Dify中添加模型

2025-02-18T08:16:05.png

找到Ollama安装,我这边安装好了
2025-02-18T08:17:11.png

添加模型名字:deepseek-r1:1.5bhttp://192.168.58.1:11434

浏览器直接打开Ollama地址提示:Ollama is running 说明服务正常

2025-02-18T08:19:22.png

添加模型名字:shaw/dmeta-embedding-zh

2025-02-18T08:20:32.png

5、上传私有知识库

2025-02-18T08:22:08.png
2025-02-18T08:22:54.png
2025-02-18T08:23:13.png
2025-02-18T08:23:23.png

6、创建AI工作室

2025-02-18T08:46:54.png

2025-02-18T08:47:29.png