茴香豆:搭建你的RAG智能助理-笔记三

本次课程由书生·浦语社区贡献者【北辰】老师讲解【茴香豆:搭建你的 RAG 智能助理】课程

课程视频:https://www.bilibili.com/video/BV1QA4m1F7t4/

课程文档:Tutorial/huixiangdou/readme.md at camp2 · InternLM/Tutorial · GitHub

该课程,分为3个部分来讲解 :

  1. RAG基本概念、原理 ,RAG和Fine-tune异同点,等
  2. 茴香豆介绍
  3. 实战演示

 InternLM2-Chat-7B 茴香豆助手对于“huixiangdou是什么?”问题回答的对比

可见未经过模型参数任何更新,通过RAG技术可以增强模型回答的能力

 RAG概述

RAG(Retrieval Augmented Generation)技术,通过检索与用户输入相关的信息片段,并结合外部知识库来生成更准确、更丰富的回答。解决 LLMs 在处理知识密集型任务时可能遇到的挑战, 如幻觉、知识过时和缺乏透明、可追溯的推理过程等。提供更准确的回答、降低推理成本、实现外部记忆。

 

向量数据库 

 RAG流程示例:

 RAG分为三类:

  •  Naiva RAG :问答系统、信息检索
  •  Advanced RAG: 摘要生成、内容推荐
  •  Modular RAG: 多模态任务、对话系统

 RAG常见优化方法如下:

 RAG与微调的异同点:

 LLM模型优化方法:Fine-tuning、Prompt Engineer、RAG

 评估指标:

 

 茴香豆:

是一个基于LLMs的领域知识助手,由书生浦语团队开发的开源大模型应用。

  1. 专为即时通讯(IM)工具中的群聊场景优化的工作流,提供及时准确的技术支持和自动问答服务
  2. 通过应用检索增强生成(RAG)技术,茴香豆能够理解和高效准确的回应与特定知识领域相关的复杂查询。

 

 

 

 

 

 实战演练部分,见:茴香豆:搭建你的RAG智能助理-作业三

 

 

 

 

 

 

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/651308.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

贪吃蛇撞墙功能的实现 和自动行走刷新地图 -- 第三十天

1.撞墙 1.1最初的头和尾指针要置为空,不然是野指针 1.2 在增加和删除节点后,判断是否撞墙,撞墙则初始话蛇 1.3在撞墙后初始化蛇,如果头不为空就撞墙,得定义临时指针指向头,释放头节点 2.自动刷新地图 2.1…

解决问题:TypeError:unsupported operand type(s) for -: ‘float‘ and ‘decimal.Decimal‘

文章目录 一、现象二、解决方案 一、现象 用Pandas 处理数据的时候,想得到增长率,没想到翻车了? import pandas as pddf pd.read_csv(data.csv)df[增长率] ((df[今年] - df[去年]) / (df[今年]))执行一下语句发现报错 TypeError&#xf…

探秘MySQL主从复制的多种实现方式

欢迎来到我的博客,代码的世界里,每一行都是一个故事 探秘MySQL主从复制的多种实现方式 前言基于语句的复制原理实现方法应用场景及优缺点应用场景优点缺点 基于行的复制原理实现方法优势和适用性优势适用性 基于混合模式的复制混合模式复制的工作原理混合…

【WEB前端2024】开源元宇宙:乔布斯3D纪念馆-第12课-摆件跳转网页

【WEB前端2024】开源元宇宙:乔布斯3D纪念馆-第12课-摆件跳转网页 使用dtns.network德塔世界(开源的智体世界引擎),策划和设计《乔布斯超大型的开源3D纪念馆》的系列教程。dtns.network是一款主要由JavaScript编写的智体世界引擎&…

【每日刷题】Day25

【每日刷题】Day25 🥕个人主页:开敲🍉 🔥所属专栏:每日刷题🍍 🌼文章目录🌼 1. 238. 除自身以外数组的乘积 - 力扣(LeetCode) 2. 82. 删除排序链表中的重复…

手写文字和数字的自动识别

文章目录 题目要求实现方法1:pytesseractpython的OCR工具pytesseractpytesseract介绍OCR介绍pytesseract的安装以及环境配置 页面展示代码实现优缺点分析 实现方法2:PaddleOCRPaddleOCR介绍页面展示实现代码优缺点分析 实现方法3:EasyOCREasy…

工作记录:vue-grid-layout 修改 margin 导致 item 高度剧烈变化

问题 用 vue-gird-layout 时发现,当改变 margin 值时,item 的尺寸也会跟着变化。 如下图:row height 和每个 item 的 h 都保持不变。修改 margin-y,item 的实际高度也跟着变了: 原因 研究了一番,发现原…

Ubuntu下载的nginx的位置

位置在/etc/nginx 启动nginx systemctl status nginx上面的命令不合适,就重启nginx sudo service nginx restart 关闭nginx nginx -s stop Ubuntu默认的html地址在该文件夹中的default中: /etc/nginx/sites-available if ($http_host ~* "^(w…

Linux深入了解文件系统和日志分析

目录 一.inode & block inode和block概述 block(块) inode(索引节点)​编辑 inode的内容 inode包含文件的元信息 用stat命令可以查看某个文件的inode信息 Linux系统文件三个主要的时间属性 目录文件的结构 inode的号码 用户通过文件名打开文件时,系统…

GPU版本torch使用教程

GPU版本torch使用教程 一、下载配置CUDA和CUDNN (1)进入cmd使用nvidia-smi.exe查看自己电脑支持的最新CUDA版本(可以下载地低版本),如图: 也可以通过NVIDIA控制面板(NVIDIA Control Panel&am…

JAVA MQTT 发布主题请求,订阅主题接收,订阅主题回复,发布主题再接收回复,三步走

先看效果 一、准备工作 1.官网下载emqx压缩包放到自己的盘符下,不要带中文路径 下载 EMQX 2.在路径的bin中,cmd,启动emqx服务 emqx start 3.访问服务,能打开就证明启动成功,登录的话官网默认的密码账号(…

实现SpringMVC底层机制(二)

文章目录 1. 动态获取spring配置文件1.修改SunWebApplicationContext.java2.修改SunDispatcherServlet.java 2.自定义Service注解1.需求分析2.编写Monster.java3.自定义Service注解4.编写Service接口MonsterService.java5.编写Service实现类MonsterServiceImpl.java6.修改SunWe…