使用RAGFlow和Docker部署本地知识库

news/2025/4/3 0:01:33/文章来源:https://www.cnblogs.com/ZachRobin/p/18804700

  随着DeepSeek的火热,大模型对与广大开发者越来越触手可及。本文介绍了使用 DeepSeek R1 模型来构建本地知识库。

  Ollama 管理本地模型

  首先要了解大模型的管理工具 Ollama:

  安装 Ollama

  Ollama 官网

   点击下载安装 Ollama 客户端;

  安装成功后打开,在终端中输入以下命令来检查是否安装成功:

ollama -v

  使用 Ollama 安装本地模型

  在 Ollama 支持模型:中搜索你需要的大模型

   选择你需要的大模型(PS:根据电脑配置情况酌情选择对应参数🐶),执行右侧安装命令 :

ollama run deepseek-r1:7b

  安装成功后查看本地存在的大模型:

ollama list

   终端运行大模型:

ollama run deepseek-r1:1.5b 

  到此,本地大模型安装成功。

  使用 RAGFlow 构建本地知识库

  安装 Docker

  Docker 官网

  下载并安装 Docker 桌面端

  配置 Docker 镜像源:

"registry-mirrors": ["https://docker.1ms.run","https://docker-0.unsee.tech",1"https://docker.1panel.live","https://registry.dockermirror.com","https://docker.imgdb.de","https://docker.m.daocloud.io","https://hub.firefly.store","https://hub.rat.dev","https://dhub.kubesre.xyz","https://cjie.eu.org",2"https://docker.kejilion.pro","https://docker.1panelproxy.com","https://docker.hlmirror.com","https://hub.fast360.xyz","https://dockerpull.cn","https://cr.laoyou.ip-ddns.com","https://docker.melikeme.cn"]

  配置 RAGFlow

  RAGFlow 是一款基于深度文档理解构建的开源 RAG(Retrieval-Augmented Generation)引擎。RAGFlow 可以为各种规模的企业及个人提供一套精简的 RAG 工作流程,结合大语言模型(LLM)针对用户各类不同的复杂格式数据提供可靠的问答以及有理有据的引用。

  下载RAGFlow 源码
git clone https://github.com/infiniflow/ragflow.git

  要求:

  •  CPU >= 4 cores
  •  RAM >= 16 GB
  •  Disk >= 50 GB
  •  Docker >= 24.0.0 & Docker Compose >= v2.26.1
  配置RAGFlow环境

  打开 .env 文件,根据你的电脑系统修改配置,我的是 MacOS系统

  修改以下内容:

1、配置RAGFlow Image:
RAGFLOW_IMAGE=infiniflow/ragflow:v0.17.2
2、放开MacOS系统
MACOS=1
RAGFlow image tagImage size (GB)Has embedding models?Stable?
v0.17.2 ≈9 ✔️ Stable release
v0.17.2-slim ≈2 Stable release
nightly ≈9 ✔️ Unstable nightly build
nightly-slim ≈2 Unstable nightly build

   我安装的是内嵌模型的稳定版 ragflow:v0.17.2

  进入 docker 文件目录执行

docker compose -f docker-compose.yml up -d

  过程比较久 ,耐心等候。。。。

  下载成功后,查看服务启动状态

docker logs -f ragflow-server

  如果出现以下信息,说明成功启动了

   服务起来之后,打开:http://localhost:80 就可以进入了

  注册登录进去(第一次注册登录的账号会默认成管理员) 

  选择 Ollama 添加LLM模型

   这里的基础 URL 应该是本地的 IPV4 地址加端口号 11434,但是我试了本地的IP添加不成功,一直失败,经求助大佬,改成现在这个 http://host.docker.internal:11434。这里有清楚原因的可以评论留言,感谢。

  系统模型设置:

 
   新建本地知识库

 

   上传本地文件解析

  开始愉快的聊天吧

 

   另外使用 Dock 配置 RAGFlow 占用电脑空间较大,内存不足者伤不起。

  建议使用 AnythingLLM 这个工具来配置本地知识库。工具使用起来非常简单。

  配置首选项

   上传本地知识库文件:

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/909623.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

CherryStudio使用

一、概述 CherryStudio 是一款集多模型对话、知识库管理、AI 绘画、翻译等功能于一体的全能 AI 助手平台。 CherryStudio 高度自定义的设计、强大的扩展能力和友好的用户体验,使其成为专业用户和 AI 爱好者的理想选择。无论是零基础用户还是开发者,都能在 CherryStudio 中找到…

app测试——adb基本命令

ADB常用的指令:查看当前连接设备 : adb devices进入到shell : adb shell查看日志 : adb logcat ctrl+c退出安装apk文件 : adb install xxx.apk 安装安卓版本后缀apkk包测试包路径:E:\dcs\two\app\baiduyuedu_5520.apk卸载APP : adb uninstall +包名案例:adb uninstall…

移动端动态化建设的演进与实践:从技术革新到生态繁荣

移动端动态化建设已从技术优化演变为企业战略的核心组成部分。尤其在业务迭代加速、生态竞争加剧的背景下,小程序容器技术以其高效、灵活、合规的特性,成为动态化演进的重要方向。未来,随着5G、AI等技术的普及,动态化将进一步推动应用开发范式的变革,为智能终端生态的繁荣…

快节奏业务增长,还是得App混合开发

在用户需求瞬息万变、全球化竞争加剧的背景下,混合开发已从“成本妥协方案”进化为“战略效率工具”。通过跨端框架与小程序的生态协同,企业不仅能实现业务的快速迭代与全球扩张,更能在技术降本与用户体验间找到最佳平衡点。正如某金融科技公司CEO所言:“混合开发不是选择题…

Actor移动

移动玩家需要先修改控制器,再把控制器的数据给到组件旋转非玩家:set actor world rotation 面朝玩家:find look at rotation + rinterp to玩家:首先修改控制器 get control rotation -> set world rotation移动玩家起手式:获取玩家控制器 add input vector向前:get co…

操作系统纷纷闭源,技术创新如何“弯道超车”?

在操作系统闭源化与多平台流量分散的双重挑战下,小程序容器技术凭借其轻量化、跨平台和容器化技术优势,成为企业降本增效的核心解决方案。未来,随着AI技术的深度赋能与行业协作的加强,小程序有望进一步打破系统边界,推动全球应用生态向开放、智能、高效的方向演进。近年来…

GSoC谷歌编程之夏2025招募中,Apache DolphinScheduler需要你的提案!

GSoC谷歌编程之夏活动火热进行中!今年,Apache DolphinScheduler项目也依然参与其中,设立了有趣且有挑战性的项目任务,与通用OIDC认证有关。欢迎有才华的你们来挑战! GSoC的起源与目的 GSoC 即 Google Summer of Code(谷歌编程之夏),是谷歌公司发起的一项全球性活动,旨…

D365 邮箱发送,自动追加 CRM:0000001的问题处理

需要改下这个配置,去掉邮件标题 后面带的 CRM:0000001 记得收藏并关注,掌握更多相关知识!!!

4.1 函数

1.1 定义域 A,记作dom f=A; 值域记作:ran f1.2 函数的特点 A到B的函数是从A到B的二元函数的子集,且A中的每一个元素a都必须是f的有序对(a,b)的第一分量,通常把(x,y)∈f,记作f(x)=y,f把x映射成了y *定义域必须在第一分量里都出现 函数个数:nm,不同关系的个数2mn1.3 常…

一句话胜千言系列:BatchNorm和LayerNorm

1. 前言 一方面便于日后自己的温故学习,另一方面也便于大家的学习和交流。 如有不对之处,欢迎评论区指出错误,你我共同进步学习! 2. 正文 区别就一句话:BatchNorm是对一个batch-size样本内的每个特征[分别]做归一化,LayerNorm是[分别]对每个样本的所有特征做归一化。3. 后…

复现论文

以原始LoRA论文为例 目录在本地复现 在本地复现 首先创建虚拟环境。虚拟环境之间,以及虚拟环境与全局环境之间是相互隔离的,所以我们在虚拟环境中安装包并不会影响到其他的环境打开Anaconda Prompt,输入conda create -n test python=3.12.9创建一个名为test,Python解释器版…