服务器大本营

 找回密码
 我要入营

QQ登录

只需一步,快速开始

查看: 372|回复: 0

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

[复制链接]

5万

敬重

735

主题

207

精华

管理员

积分
8301

启航之章进阶之印里程之碑突破之证飞跃之星蜕变之勋卓越之路龙年行大运

QQ
发表于 2025-3-4 16:08:49 | 显示全部楼层 |阅读模式

我要入营,结交更多好友,开启更多功能,轻松玩转服务器大本营!

您需要 登录 才可以下载或查看,没有账号?我要入营

x
最近国产大模型DeepSeek特别火,以至于频繁出现反应迟缓甚至宕机的情况,和两年多之前ChatGPT的遭遇颇为相似。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


万幸,DeepSeek是一个开源模型,我们大可以通过本地部署,在自己的终端上随时使用!下面飞飞和你们分享DeepSeek本地部署流程及详细步骤。

一、DeepSeek本地部署
1、安装Ollama
首先我们需要安装Ollama,它可以在本地运行和管理大模型。

Ollama官网点击下载,然后选择适合自己系统的版本,这里选择Windows:

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


安装完成后,打开命令行界面并输入
ollama

如果屏幕上出现以下提示信息,那么恭喜你,Ollama 已经成功安装。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


2、部署 DeepSeek R1 模型
首先,访问 Ollama 官网并点击页面顶部的「模型」(Models)选项,接着在列表中找到并点击「DeepSeek R1」:

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


在模型详情页面,根据我们计算机的显存容量选择合适的模型版本:

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


例如,我的电脑运行的是 Windows系统,拥有 4GB 的显存,因此我选择了1.5b 版本的模型。点击 1.5b 版本,页面右侧将显示下载指令:

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


将此下载命令复制并粘贴到命令行中执行开始下载:

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


待命令执行完毕,就可以通过命令行与DeepSeek大模型进行交互了:

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


但是在命令行窗口下对话,还是太抽象,我们需要一个美观的图文交互界面。

二、WebUI可视化
WebUI可视化选择直接在浏览器安装Page Assist插件的方式来实现。

Page Assist是本地 AI 模型的 Web UI,可以使用本地运行的 AI 模型来辅助进行网络浏览,利用本地运行的AI模型,在浏览网页时进行交互,或者作为本地AI模型提供者(如Ollama、Chrome AI等)的网页界面。

仓库地址:https://github.com/n4ze3m/page-assist

当前功能:
- 各类任务的侧边栏
- 支持视觉模型
- 本地AI模型的简约网页界面
- 网络搜索功能
- 在侧边栏与PDF进行对话
- 与文档对话(支持pdf、csv、txt、md、docx格式)

要把DeepSeek可视化,首先在扩展中的管理扩展页面,搜索找到Page Assist

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


然后点击获取Page Assist

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


获取完成后,就可以在扩展中看到PageAssist插件,点击对应的插件就可以直接使用。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


进入插件后,选择我们上面下载好的deepseek模型,然后就可以跟DeepSeek进行可视化对话了,如果需要获取最新的数据,需要打开下方的联网开关。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


到这里,DeepSeek的WebUI可视化就完成了。

三、数据投喂训练AI
实现数据投喂训练AI,需要下载nomic-embed-text和安装AnythingLLM。

下载nomic-embed-text:
在终端输入ollama pull nomic-embed-text回车下载nomic-embed-text嵌入式模型(后面做数据投喂会用到)。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


安装AnythingLLM:

进入官网,选择对应系统版本的安装包进行下载

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


选择【所有用户】点击下一步。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


修改路径地址中的首字符C可更改安装位置,本例安装到F盘,点击下一步。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


点击完成。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


软件打开后,点击【Get started】。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


点击箭头,进行下一步。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


输入工作区名称,点击下一步箭头。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


点击【设置】,里面可以设置模型、界面显示语言等。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


若软件显示英文,可在Customization外观定制里面选择Chinese即可。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


AnythingLLM设置
在软件设置里面,LLM首选项界面,提供商选择Ollama,Ollama Model选择你前面下载的DeepSeek-R1系列模型1.5b~671b,然后点击Save changes。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


在Embedder首选项界面,嵌入引擎提供商选择Ollama,Ollama Embedding Mode选择【nomic-embed-text】,然后点击保存更改。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


①点击【工作区设置】,②点击聊天设置,③工作区LLM提供者选择【Ollama】,④工作区聊天模型选择【deepseek-r1】模型,⑤然后点击【Update workspace agent】。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


代理配置界面,工作区代理LLM提供商选择【Ollama】,工作区代理模型选择【deepseek-r1】,然后点击【Update workspace agent】。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


最后就是数据投喂训练AI:
在工作区界面,点击【上传】。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


❶点击upload选择需要上传的文件(支持PDF、Txt、Word、Excel、PPT等常见文档格式)。❷勾选上传的文件,❸点击【Move to Workspace】

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


点击【Save and Embed】。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


没有投喂数据之前,输入驰网公司名称是什么?AI是回答不了的,投喂后能够准确回答出来。

DeepSeek本地部署+WebUI可视化+数据投喂训练教程

DeepSeek本地部署+WebUI可视化+数据投喂训练教程


到这里数据投喂训练AI就完成啦,有需求的完全可以自己搭建一个智能知识库出来。
最后,本地部署和在线使用各有利弊,本地对GPU配置要求较高,但运行稳定,不受网速影响,还可以训练自己专属的大模型。有需要的小伙伴可以体验一下~

感谢您的阅读,服务器大本营-技术文章内容集合站,助您成为更专业的服务器管理员!
一入IDC深似海,从此你我是良人!
您需要登录后才可以回帖 登录 | 我要入营

本版积分规则

点击直接加入[服务器大本营QQ频道]
Loading...

QQ|Archiver|手机版|网站地图|服务器大本营 ( 赣ICP备2021009089号 )

GMT+8, 2025-3-20 00:49 , Processed in 0.065665 second(s), 30 queries , Gzip On.

Powered by 服务器大本营

© 2021-2023 联系飞飞

快速回复 返回顶部 返回列表