找回密码
 立即注册
首页 资源区 代码 本地部署deepseek,并投喂数据

本地部署deepseek,并投喂数据

党新苗 2025-5-29 14:11:22
话说回来了,为啥要本地部署呢?
① 在使用DeepSeek中,经常会出现服务器繁忙,请稍后再试。
② 不想让个人隐私数据暴露出去
③ 可将各种格式的文件,如pdf、csv、txt、md 格式的数据投喂给它。比如你想让 DeepSeek 了解你的公司业务,就把相关的文档上传给它。
DeepSeek 就能吃下你给它的各种“知识大餐”,然后变得更聪明,更懂你。
1.RAG是什么?

为了投喂数据,我们要用到RAG。首先,我们先来了解下什么是RAG?
首先我们在命令行输入:ollama run deepseek-r1:7b 命令,启动DeepSeek
1.png

然后打开浏览器并输入快捷键:ctrl+shift+l 调出WebUI可视化AI界面
输入:RAG是什么?
2.png

翻译成大白话就是:我们把知识放到知识库里,然后把它投喂给人工智能。我们需要用一个量化的工具,把各种格式的数据量化给人工智能,让它能看得懂。
人工智能通过对这些知识的学习后,以后你再问它的时候,他就能将知识提取出来,加工处理后回答你的问题。
RAG 就是让 DeepSeek 不仅能靠自己的知识库回答问题,还能通过检索外部数据来增强回答的准确性和丰富性。就好比你考试时偷偷带了小抄,但 DeepSeek 是光明正大地“作弊”,还能把答案说得头头是道。
2.拉取nomic-embed-text

刚说了RAG是啥?我们需要一个RAG工具来完成量化工作。
各种开源免费的RAG工具挺多,我们这里选择最近比较获得ollama 提供的nomic-embed-text。
https://ollama.com/library/nomic-embed-text
3.png

我们使用上面圈出来的命令拉取即可,274M,大约1min左右就可以下完,出现【success】字样表示下载成功。
4.png

5.png

3.RAG设置

打开WebUI界面,我们会看到一个RAG设置文本嵌入模型。
文本嵌入模型就是把我们投喂的各种文档数据量化成DeepSeek认识的数据。
6.png

4.添加新知识

工具都准备好后,我们开始准备给DeepSeek投喂数据......
4.1 投喂前不认识陈仕宝

7.png

4.2 准备投喂的数据

接下来,将陈仕宝事先准备好的关于陈仕宝的简介【程序员陈仕宝.md】文档投喂给它,文档内容如下。
8.png

4.3 投喂数据

9.png

投喂数据
10.png

上传数据成功
11.png

投喂完成后,已经认识陈仕宝了,重新验证数据
12.png

以上就是投喂数据的过程。

来源:程序园用户自行投稿发布,如果侵权,请联系站长删除
免责声明:如果侵犯了您的权益,请联系站长,我们会及时删除侵权内容,谢谢合作!
您需要登录后才可以回帖 登录 | 立即注册