服务器大本营

 找回密码
 我要入营

QQ登录

只需一步,快速开始

查看: 10|回复: 0

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

[复制链接]

7万

敬重

812

主题

207

精华

管理员

积分
8930

启航之章进阶之印里程之碑突破之证飞跃之星蜕变之勋卓越之路龙年行大运

QQ
发表于 昨天 17:43 | 显示全部楼层 |阅读模式

我要入营,结交更多好友,开启更多功能,轻松玩转服务器大本营!

您需要 登录 才可以下载或查看,没有账号?我要入营

x
前几天写了一篇如何本地部署DeepSeek的文章。很多小伙伴问本地部署有什么意义

本地部署的最大意义在于利用DeepSeek大模型的能力加上自己的知识库,可以训练出一个符合自己需求的大模型。

想象下如果你是一个医生,有一堆科研资料。你想拥有一个大模型机器人,学习了你所有的资料。每当你想查科研资料找到答案的时候,自己问这个机器人就好了。省去了自己很多查找资料的时间

这就是本地部署+知识库的作用。是DeepSeek官网不具备的。因为这是训练的你的私有资料。

今天就来分享下这个搭建过程。用到的工具组合是Docker+Dify+DeepSeek

Dify是基于LLM的大模型知识库问答系统,里面集成DeepSeek以及私有知识库,而Dify采用Docker的方式来安装

1、下载安装Docker
首先在docker网站下载docker

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


有Mac,linux,windows可供选择。我的电脑是Windows系统的,因此下载Windows的。
安装完成后,重启系统生效。打开登录就可以使用

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


2、安装Dify
登录网址

点击Dnowload ZIP。下载到本地并解压。注意: 在本地的保存路径不要有中文字符。否则后续运行会失败

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


Windows进入powershell(不是CMD)。进入dify解压包下面的docker目录,分别执行下面两条命令
  1. cp .env.example .env
  2. docker -compose up -d
复制代码


保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


docker会拉取dify进行下载

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


大概时间20分钟左右。下载完成

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


重启docker 桌面软件,在containers中能看到docker的这个image,表示Dify下载成功。Status显示Running表示正在运行。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


3、本地部署DeepSeek
这里需要部署的是DeepSeek以及bge-large。DeepSeek的部署方法参考我之前的写的部署教程

同时在ollama中搜索bge-large。点击进入后复制命令

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


在命令窗口中执行复制的命令进行下载。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


4、Dify配置大模型
在浏览器中输入:http://localhost/signin
来到dify的登录界面进行登录

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


进入设置

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


在模型供应商中找到ollama,点击添加大模型

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


基础URL填 http://host.docker.internal:11434
其他的都不变,点击保存。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


添加完后能看到对应的模型

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


再继续添加Text Embedding。这是为知识库添加bge-large模型

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


添加完成后,能看到2个模型。这样就算配置完了

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


5、搭建知识库
来到Dify的主界面,点击知识库。创建新的知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


上传文档,点击下一步

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


知识库 的配置可以采用默认的,拉到最下面点击保存并处理

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


会进行知识库的创建,显示嵌入已完成。代表知识库导入成功

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


点击前往文档,可以看到文档已经被分段处理。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


6、创建应用
在工作室中创建空白应用

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


创建聊天助手

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


在聊天界面中点击添加上下文,也就是你创建的知识库。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


将刚才创建的知识库导入进去。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


此时在右边的对话框中就可以输入,大模型会根据知识库进行查询。在最后的界面中能看到引用自刚才创建的知识库文件。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


知识库创建好后,你可以本地使用,如果想外部访问这个知识库,可以添加外部知识库API。配置好API Endpoint后就可以。

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库

保姆级教程!6个步骤讲清楚用DeepSeek搭建本地知识库


当然,想要让外部访问到,你自己的机器网络也需要在公网上。

感谢您的阅读,服务器大本营-技术文章内容集合站,助您成为更专业的服务器管理员!
一入IDC深似海,从此你我是良人!
您需要登录后才可以回帖 登录 | 我要入营

本版积分规则

点击直接加入[服务器大本营QQ频道]
滴!摸鱼时间到~
Loading...

QQ|Archiver|手机版|网站地图|服务器大本营 ( 赣ICP备2021009089号 )

GMT+8, 2025-7-11 10:50 , Processed in 0.060815 second(s), 27 queries , Gzip On.

Powered by 服务器大本营

© 2021-2023 联系飞飞

快速回复 返回顶部 返回列表