【AI+本地知识库】个人整理的几种常见本地知识库技术方案

之前关于本地知识库写过几篇文章。

【人工智能】电脑本地从零开始搭建属于自己的大模型  ,  

当时用的ollama  + Llama2 , 现在 Llama3都已经开源了, 该更新自己的技术储备了。

 【人工智能】从0搭建行业智能机器人的几种选型技术方案

智能机器人 和 本地知识库 其实很类似,技术方案是相通的, 都是想实现一个 对隐私安全要求很高, 不希望泄露隐私数据的问答系统。

这里列几种常见的本地知识库技术方案,不一定全,排名不会先后。

1、MaxKB

开源代码地址:https://gitee.com/fit2cloud-feizhiyun/MaxKB

图片

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base,旨在成为企业的最强大脑。

  • 开箱即用:支持直接上传文档、自动爬取在线文档,支持文本自动拆分、向量化,智能问答交互体验好;

  • 无缝嵌入:支持零编码快速嵌入到第三方业务系统;

  • 多模型支持:支持对接主流的大模型,包括本地私有大模型(如 Llama 2、Llama 3)、通义千问、OpenAI、Azure OpenAI、Kimi 和百度千帆大模型等。

  • 快速开始

  • docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb# 用户名: admin
    # 密码: MaxKB@123..
  • 你也可以通过 1Panel 应用商店 快速部署 MaxKB + Ollama + Llama 2,30 分钟内即可上线基于本地大模型的知识库问答系统,并嵌入到第三方业务系统中。

  • 你也可以在线体验:DataEase 小助手,它是基于 MaxKB 搭建的智能问答系统,已经嵌入到 DataEase 产品及在线文档中。

    个人评价:MaxKB 最近开源的, 对国人比较友好。

2、AnythingLLM

开源代码地址:https://github.com/Mintplex-Labs/anything-llm

图片

AnythingLLM 是 Mintplex Labs Inc. 开发的一款开源 ChatGPT 等效工具,用于在安全的环境中与文档等进行聊天,专为想要使用现有文档进行智能聊天或构建知识库的任何人而构建。

AnythingLLM 能够把各种文档、资料或者内容转换成一种格式,让LLM(如ChatGPT)在聊天时可以引用这些内容。然后你就可以用它来和各种文档、内容、资料聊天,支持多个用户同时使用,还可以设置谁能看或改哪些内容。 支持多种LLM、嵌入器和向量数据库。

3、Langchain-Chatchat (原 Langchain-ChatGLM)

开源代码地址:https://github.com/chatchat-space/Langchain-Chatchat

图片

基于 ChatGLM 等大语言模型与 Langchain 等应用框架实现,开源、可离线部署的检索增强生成(RAG)大模型知识库项目。

这3种技术方案市面上用得比较多, 文章也一大把。这里只是做简单整理,具体看官方介绍。

其他

1、ollama  +  xxx大模型  + open-webui

ollama开源地址:https://github.com/ollama/ollama

2、windows下安装Nvidia ChatRTX

工具地址:https://www.nvidia.com/en-eu/ai-on-rtx/chatrtx/ ,看了下系统要求 让我望而却步。

图片

原文链接:【AI+本地知识库】个人整理的几种常见本地知识库技术方案

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/638148.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

《大话西游2》本人收集的十二个单机版游戏,有详细的视频架设教程,云盘下载

《大话西游2》是一款经典的大型多人在线角色扮演游戏,也是一款国风经典的游戏。 有能力的可以架设个外网,让大家一起玩。 《大话西游2》本人收集的十二个单机版游戏,有详细的视频架设教程,值得收藏 下载地址: 链接&…

物联网(iot)深度解析——FMEA软件

物联网即IoT,是指通过各种信息传感器、射频识别技术、全球定位系统、红外感应器、激光扫描器等各种装置与技术,实时采集任何需要监控、连接、互动的物体或过程,采集其声、光、热、电、力学、化学、生物、位置等各种需要的信息,通过…

基于IIoT的设备预测性维护设计

基于IIoT的设备预测性维护设计 一、引言 在工业物联网(IIoT)的背景下,设备预测性维护成为了一种关键的战略,能够帮助企业提前发现并解决设备故障,从而提高生产效率、减少停机时间,并降低总体维护成本。为了…

5 款最佳存储卡数据恢复软件比较(2024 年)

由于不小心按了删除键,我们从硬盘上丢失了一些重要的文件、照片、数据。大多数时候,软件程序或病毒也可能损坏您的移动 SD 卡或硬盘。在这种情况下,您需要最好的数据恢复软件或恢复工具来不惜一切代价恢复您的重要文件、照片和数据。 此时&a…

网络安全产品---堡垒机

what 在网上搜索 运维审计与风险控制系统就是是堡垒机 我认为的堡垒机就是提供高效运维、认证管理、访问控制、安全审计和报表分析功能的云服务设备 实现高效运维的同时最大程度控制运维风险。 how 能够对运维人员维护过程进行全面跟踪、控制、记录、回放 支持细粒度配置…

IDEA中Vue开发环境搭建

1. IDEA安装Vue.js 文件>设置>插件>搜索Vue.js并安装。 2. 安装Node.js 官网地址:https://nodejs.org 安装包下载地址:https://nodejs.org/en/download 下载并安装,安装时,勾选添加系统变量选项。 # 如果正确安装…

【论文笔记】RS-Mamba for Large Remote Sensing Image Dense Prediction(附Code)

论文作者提出了RS-Mamba(RSM)用于高分辨率遥感图像遥感的密集预测任务。RSM设计用于模拟具有线性复杂性的遥感图像的全局特征,使其能够有效地处理大型VHR图像。它采用全向选择性扫描模块,从多个方向对图像进行全局建模,从多个方向捕捉大的空间…

AJAX——ajax原理

1.XMLHttpRequest 定义:XMLHttpRequest(XHR)对象用于与服务器交互。通过XMLHttpRequest可以在不刷新页面的情况下请求特定URL,获取数据。这允许网页在不影响用户操作的情况下,更新页面的局部内容。XMLHttpRequest在AJA…

Compose 布局

文章目录 Compose 布局ColumnColumn属性使用 RowRow属性使用 BoxBox属性使用 ConstraintLayoutLazyColumnLazyColumn属性使用使用多类型使用粘性标题回到顶部 LazyRowLazyRow属性使用 LazyVerticalGridLazyVerticalGrid属性使用 Compose 布局 Column Compose中的”垂直线性布…

Can‘t log out of macbook account 【macbook 账户无法退出】

参考: https://iboysoft.com/news/cant-sign-out-of-icloud-mac.html

【数据结构-树和二叉树-森林-哈夫曼树】

目录 1 树1.1 树的描述(基本术语) 2 二叉树(树的度最大为2)2.1 注意事项-五种基本形态2.2 二叉树的抽象数据类型定义 3 二叉树的性质3.1 两种特殊形式的二叉树-重点会计算3.2 题目练习: 4 二叉树的存储结构4.1 顺序存储…