deepseek模型部署到本地使用+投喂数据训练

news/2025/3/22 8:41:46/文章来源:https://www.cnblogs.com/wxsclob/p/18786218

近期,由于国外大量攻击,导致 DeepSeek 经常无法使用;另外,许多朋友希望在本地搭建自己的知识库,以保护自己的资料不被外泄。因此,越来越多的人希望能够在本地部署 DeepSeek,但对于技术难度有所担忧。别担心,这篇教程将为你扫清所有障碍!从环境搭建到模型运行,每一步都进行了详细拆解,即便是零基础的小白也能轻松上手。让我们一起来解决这些问题,顺利完成本地部署,保护个人隐私的同时,享受强大的 AI 功能。

一、 Win版安装教程:Ollama与AnythingLLM安装及DeepSeek模型下载 (Mac安装教程点击跳转)

1.选择下载的安装包右键解压。(安装包末尾获取)

 

 

2.解压后,右键以管理员身份运行Ollama安装程序。

 

 

3.点击Install安装完成即可。

 

 

4.在D盘创建一个名为“OllamaAI”的文件夹。接着,打开系统环境变量,新增一个变量:

  • 变量名:OLLAMA_MODELS
  • 变量值:D:\OllamaAI

温馨提示:此步骤旨在解决Ollama默认将模型下载到C盘的问题。如果C盘空间充足,可以跳过此步骤。在系统设置中搜索“系统变量”以进入相关设置。

在系统设置搜索系统变量

 

 

5.重启电脑后,在开始菜单中找到并打开Ollama程序。启动后,您会在电脑右下角看到一个羊驼图标。

 

 

6.按快捷键Win+R,输入cmd确定。

 

 

7.输入 ollama run + 模型名称,然后按回车键开始下载。(根据下方附图中的硬件要求选择下载一个或多个模型。此过程可能会稍慢,如果下载失败,请重新输入命令再次尝试。)如下所示:

 

ollama run deepseek-r1:1.5b
ollama run deepseek-r1:7b
ollama run deepseek-r1:8b
ollama run deepseek-r1:14b

 

安装中:

 

二、安装模型

根据自己的电脑配置选择模型(附上配置参考图片)

 

 

 

 

8.deepseek-r1模型下载完成后,当提示“success”时,表示下载已成功完成。

 

 

打开新的CMD窗口,输入命令并按回车键,下载nomic-embed-text嵌入式模型(此模型将在后续数据投喂中使用)。

 

ollama pull nomic-embed-text

 

 

温馨提示:若需要删除模型,请输入命令 ollama rm + 模型名称,例如:ollama rm deepseek-r1:14b

9.当 deepseek-r1 和 nomic-embed-text 模型下载完成后,开始安装 AnythingLLM 软件。

 

 

10. 选择【所有用户】并点击“下一步”,根据自己的需求继续点击“下一步”即可。

 

 

 

11. 下载完成后,打开 AnythingLLM,点击【Get started】。

 

 

12. 点击箭头,进入下一步。

 

 

13. 输入工作区名称,点击箭头继续。

 

 

14. 点击【设置】,在其中可以设置模型、界面显示语言等选项。

 

 

三、AnythingLLM设置

1. 在软件设置中的 LLM首选项 界面,选择提供商为 Ollama,在 Ollama Model 中选择前面下载的 DeepSeek-R1 系列模型,点击 Save changes 保存更改。

 

 

2. 在 Embedder首选项 界面,选择嵌入引擎提供商为 Ollama,在 Ollama Embedding Mode 中选择 nomic-embed-text,然后点击 保存更改。

 

 

 

3. 点击 工作区设置,在 聊天设置 界面:

❶ 将 工作区LLM提供商 选择为 Ollama,

❷ 将 工作区聊天模型 选择为 deepseek-r1,

❸ 然后点击 Update workspace agent 更新工作区代理。

 

 

 

4. 在 代理配置 界面,将 工作区代理LLM提供商 选择为 Ollama,将 工作区代理模型 选择为 deepseek-r1,点击 Update workspace agent 更新工作区代理。

 

 

四、如何投喂数据(训练AI)

1.在工作区界面,点击【上传】。

 

 

2. 点击 Upload,选择需要上传的文件(支持 PDF、TXT、Word、Excel、PPT 等常见文档格式)。勾选需要上传的文件。点击 Move to Workspace 将文件移动到工作区

 

 

五、DeepSeek-R1应用展示

 

 
deepseek安装包:
百度网盘:
https://pan.baidu.com/share/init?surl=8vaVzHZNCNVsDvbjk9YIRQ&pwd=35tx
夸克:
https://pan.quark.cn/s/508987065f83#/list/share

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/903362.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Axure RP上使用 Font Awesome 图标库

Axure RP 可以使用 Web Fonts,这让置入 Font Awesome 变得非常方便。Font Awesome 是一种字体,只是主要针对图标使用,而非我们所熟知的中文/西文字体。 进行简单的几步设置,就可以在自己项目上面使用 Font Awesome 的 1609 个免费图标。图标覆盖广泛,风格也相对统一。 一、…

读DAMA数据管理知识体系指南27文件和内容管理概念(上)

读DAMA数据管理知识体系指南27文件和内容管理概念(上)1. 文件和内容管理 1.1. 文件和内容管理是指针对存储在关系型数据库之外的数据和信息的采集、存储、访问和使用过程的管理 1.2. 重点在于保持文件和其他非结构化或半结构化信息的完整性,并使这些信息能够被访问 2. 业务驱…

(Windows11)如何自编译Aseprite(像素画软件) - 1.3.12版本

如何自编译Aseprite(像素画软件)-windows-以1.3.12版本为例 1. Aseprite说明开源像素画软件,自带调色板 Steam也可购买:steam购买2. 官方编译说明(Windows系统下) 官方库提供了win、mac以及Linux编译方式 文档地址:https://github.com/aseprite/aseprite/blob/main/INSTAL…

BUAA_OO_Unit1总结

Unit1 总结 1. 程序结构分析 1.1 代码结构(类图)1.2 类的度量统计类名 属性个数 方法个数 方法名 方法规模(代码行) 控制分支数目 类总代码规模(行)Function 4 6 Function 5 0 85sort 10 1 (双重循环)getCan 20 3 (条件+循环嵌套)huanCan 15 2 (条件替换逻辑)prework 15 …

永久免费!支持视频号下载,2025最新版本

在昨天的推文中给大家分享了一款非常不错的 Ai 工具,含有 Ai 一键抠图、Ai 无损放大等功能,对于设计和作图的小伙伴来说,非常的有帮助这款Ai 合集工具,内容丰富,且使用简单,纯在线使用,不消耗本地电脑硬件内存,有需要的小伙伴可以点击下方链接体验 一键Ai抠图、无损放大…

AbstractAutoProxyCreator#postProcessBeforeInstantiation

一、定义 postProcessBeforeInstantiation 是 Spring AOP 动态代理的核心扩展点,通过提前创建代理对象优化性能,并支持丰富的自定义逻辑(如事务、安全) 二、代码分析 public Object postProcessBeforeInstantiation(Class<?> beanClass, String beanName) throws Be…

Day20_javascanner_struct

Java JavaDoc javadoc命令是用来生成自己API文档的 参数信息: @author 作者名 @version 版本号 @since 指明需要最早使用的jdk版本 @param 参数名 @return 返回值情况 @throws 异常抛出情况 /*** @author XXX* @version 1.0* @since 1.8*/public class Doc {String name;/*** …

k8s基本字段

k8s基本字段 limits字段 此字段限制的是硬件的资源,如果容器尝试申请超过限制的内存将会终止容器 requests字段 此字段限制的是容器可以请求的资源,可以超出request申请额外的资源,但是不能超过limits, 500m等于0.5个CPU本地临时性文件,采用这种配置时,你会把所有类型的临…

【杭电多校比赛记录】2025“钉耙编程”中国大学生算法设计春季联赛(3)

比赛链接 本文发布于博客园,会跟随补题进度实时更新,若您在其他平台阅读到此文,请前往博客园获取更好的阅读体验。 跳转链接:https://www.cnblogs.com/TianTianChaoFangDe/p/18786128 开题 + 补题情况 很菜的一把,就开了三个签到题,1001 Lucas 定理花了好久才看出来,明明…

51单片机学习笔记-3

串口通信UART(universal asynchronous receiver transmitter,通用异步收发器):可用来实现串口通信。串口硬件:基础串口包含TXD/RXD两个通信线,他们交叉连接。(如DB9通常使用2(RXD),3(TXD),5(GND)。) 当串口两头电平标准不一样时,需要叫电平转换芯片。TTL电平:5V表示1,…

微信小程序 -2025/3/22

HttpClient 介绍:核心api发送请求步骤小程序目录结构小程序页面组成微信登录 发送请求