好文档就是一把金锄头!
欢迎来到金锄头文库![会员中心]
电子文档交易市场
安卓APP | ios版本
电子文档交易市场
安卓APP | ios版本

deepseek本地部署搭建自己的私人知识库.pdf

25页
  • 卖家[上传人]:图***
  • 文档编号:611481158
  • 上传时间:2025-06-19
  • 文档格式:PDF
  • 文档大小:4.54MB
  • / 25 举报 版权申诉 马上下载
  • 文本预览
  • 下载提示
  • 常见问题
    • deepseek本地部署,搭建的私知识库使deepseek本地部署,搭建的私知识库教程有问:deepseek本来就可以使,或者下载APP使,为什么还要搭建呢?回答这个问题,很简单,前deepseek是免费,不代表以后是免费的,重要的是deepseek使数过多,或者受到攻击的时候,可能不能使,部署在的电脑上,就可以不受络的影响但是,最重要的是搭建私知识库,即内部知识库不管是个,还是公司,还是医院、学校等有些知识、资料是不对外公开的,所以搭建私密数据库,还是有必要的下是想折腾下,搭建的私知识库的教程先到官站下载开源软件到官站https:/ version is 0.5.7就说明安装成功了接下来就是下载模型了我们到,点击models,点击第个deepseek-r1在deepseek-r1中有好个模型,如下图:在这我们根据的电脑配置,选择的模型,因为默认安装在C盘,所以我这选择第个1.5b约占空间1.1GB,7b模型是4.7GB,8b模型是4.9GB,14b模型是9.0GB,32b是20GB,70b是43GB,671b是404GB,家根据的C盘空间做出选择,原则上数据越,回答的问题就越全但是下载的时间也就越久,既然是私知识库,就选第个了。

      我们选择第个1.5b的数据右侧,点击复制以后,内容是ollama run deepseek-r1:1.5b,我们在窗进粘贴,然后点击回,如图:开始的时候后的速度显秒在20M,后M,到了截图的时候就是400多KB了,后就更慢了,我们耐等待安装完毕安装完成以后,就会显success,就表安装成功了如上图所,我在还对话框,输了你是谁,系统回答的是:您好!我是由中国的深度求索(DeepSeek)公司开发的智能助DeepSeek-R1如您有任何任何问题,我会尽我所能为您提供帮助当然,我们本地部署的的不是进对话,是喂资料给模型,搭建知识库说到这,我们再安装个交互界的软件,可以把资料投喂给模型,当然类似的有很多,本使的是AnythingLLM到站下载软件,如图:下载以后,右键管理员份运,进安装,如图:接下来安装的时候,可以调整安装位置,如我安装在D:Program FilesAnythingLLM,如图所:点击安装以后,直接等待安装完成即可不过根据我的实际安装,速度也是很慢了,他会下载各种模型与之匹配的件还好我的教程是图教程,不是录屏的视频教程,要不然录制视频都要好个时,到时候再来剪切视频图教程截图以后就慢慢等待安装完成了。

      安装好了AnythingLLM以后,桌就有个AnythingLLM的快捷式的图标,我们点击启动软件得到这样的个界,我们点击Get started开始配置软件在弹出的设置中,我们选择我们要使的模型Ollama,然后选择我们模型参数,我这是1.5b的,然后点击右侧的下步,如下图所:接下来的,不管,直接下步,如图所:接下来,需要你提供个邮箱,这步我们可以直接跳过,如图:接下来,命名个作区,如叫做法律知识库、中医知识库、或者细分的唐诗宋词库等,命名个该类型的知识库即可然后进下步,如图所:这个作区的名称你是可以新建多个知识库的,开始我新建个法律的,以后还可以新建个中医的,会计的,案的等等每个都可以根据的实际需求,做的独有的知识库这就是每个个体或者说是公司,团体有机会0成本或者说低成本搭建的独有的知识库解决案了接下来的画是,软件的初始界,是些基本的使说明,如下图:上的初始界,我们可以通读下就不管他了,重点是下的内容:我们先点击左侧的法律知识库这个作区,右侧有个上传和设置的图标,我们先点击设置图标,如图所:这着重讲下,每个知识库都能独设置使哪个模型,没有独设置的话,就是系统默认的那个,这我们指定Ollama。

      在聊天提默认是英的些提,我们改成与你作区相对应的提词,如:本教程写的就是:你是位专业的法律,请根据知识库的内容,使中回复设置好以后记得点击下的按钮进保存哦!如下图所:保存了设置以后,我们就来添加档给模型了点击法律知识库右侧的上传按钮,如下图所:点击上传档图标,选择你要上传的各种档,得到下的界:上传以后,点击移动到作区的按钮(上图上的红框),得到下图,注意点击保存,上的按钮保存以后是这样的:这时候,我们没有使图钉按钮,没有把他钉起来的时候,也是不会读取其中的档的,如下进测试:点击左侧的法律知识库,在右边的对话输框输:杨泽业法律作室成时间是什么时候,结果如下:他的回答是:根据前的了解,杨泽业法律作室成于2010年左右然,具体成的时间可能因企业异,建议查阅企业的官站或相关的法律、会计资料以获取准确信息这样的回答完全不是我们想要的答案,我在上传的档中有个档是【杨泽业法律作室简介.pdf】,内容截图如下:现在我们返回档上传,即点击上传档的按钮,把我们上传到作区的档,点击图钉按钮,把档钉起来,就能识别档的内容了,截图如下:上图中,最后两个件,我没有钉起来,看起来就是的,钉起来以后就是的了现在我们新建个对话框,看看会不会识别档中的内容了:实际上回答的还是不对,我提醒他看看档:所以说,本地部署就算是成功了,效果也是不理想的,所以还没有折腾的就不折腾了,当然想折腾的,就下载点的模型参数试试。

      群有说:知识库是智能rag(检索增强成)的领域,如果要做智能很多东西要优化,第模型本够强,1.5b只能作为简单例,它还要考虑嵌模型,重排序模型,向量数据库,本分割等等,要实际应还要学好多东西,所以要不然还是不要折腾了,各媒体都在教部署本地的,实际上不理想,没有必要了教程没有问题,但是效果不理想,有部署好的,较理想的,家可以相互交流。

      点击阅读更多内容
      关于金锄头网 - 版权申诉 - 免责声明 - 诚邀英才 - 联系我们
      手机版 | 川公网安备 51140202000112号 | 经营许可证(蜀ICP备13022795号)
      ©2008-2016 by Sichuan Goldhoe Inc. All Rights Reserved.