Elasticsearch:RAG vs Fine-tunning (大语言模型微调)

如果你对 RAG 还不是很熟悉的话,请阅读之前的文章 “Elasticsearch:什么是检索增强生成 - RAG?”。你可以阅读文章 “Elasticsearch:在你的数据上训练大型语言模型 (LLM)” 来了解更多关于如何训练你的模型。在今天的文章中,我们来讲述 RAG 及 大语言模型的优缺点。这篇文章旨在优化语言模型的终极指南。

介绍

你是否正在努力充分利用大型语言模型 (LLM)? 你不是一个人。 好消息是,你可以选择:检索增强生成 (RAG) 和微调。 但哪一款适合你呢? 让我们来看看吧。

两大巨头:RAG 和微调

  • RAG:想象一下你的 LLM 是一名侦探。 RAG 允许它在解决案件(回答你的查询)之前从各种来源搜索线索(数据)。
    • 该方法帮助模型搜索并使用外部信息来回答问题或生成文本。 可以把它想象成一个学生在回答问题之前先在教科书中查找事实。

在很多的情况下,我们可以很方便地使用 Elasticsearch 来作为向量数据库,并轻松地实现 RAG。详细实现请参阅文章 “ChatGPT 和 Elasticsearch:OpenAI 遇见私有数据(一)”。

  • 微调:将其视为 LLM 的专门训练营。 它针对特定游戏(任务)磨练自己的技能,使其成为明星玩家。
    • 在这里,你可以根据特定数据训练已经构建的模型,以使其更好地完成特定任务。 这就像一位厨师已经知道如何烹饪,但参加了一门特殊的课程来改进特定的食谱。

是什么让他们与众不同

  • 目标:RAG 是你的数据侦探,而微调则将你的模型变成专家。
  • 轻松又省钱:RAG 就像按照菜谱做饭一样; 它更容易而且通常更便宜。 Fine-Tuning 就像创造一道美食; 它很复杂,但可以更令人满意。

风险:为什么你的选择很重要

明智地选择,否则你最终可能会得到一个低效、昂贵且难以管理的模型。 以下是如何避免陷阱。

你的清单:做出正确的选择

  • 你需要外部信息吗? 选择 RAG。
  • 想要自定义行为吗? 选择微调。
  • 有很多具体数据吗? 微调会发光。
  • 数据不断变化? RAG 保持更新。
  • 需要解释模型的答案吗? RAG 提供更高的透明度。

现实世界场景:哪一个获胜?

我们将探讨如何在 RAG 和微调之间进行选择,以完成总结文章、在公司环境中回答问题以及自动化客户支持等任务。

超越基础:需要考虑的其他因素

从可扩展性和实时需求到道德和现有系统,我们将讨论其他可能使天平有利于一种方法而不是另一种方法的因素。

结论:你的成功之路

请记住,最好的方法是符合你的特定需求和目标的方法。 在许多情况下,你需要同时使用两者。 因此,评估、选择和优化你的 LLM 成功之路!

更多有关 Elasticsearch 在大数据及人工智能方面的文章,请参阅 “AI”。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/161768.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

算法模板之单调栈解密 | 图文详解

🌈个人主页:聆风吟 🔥系列专栏:算法模板、数据结构 🔖少年有梦不应止于心动,更要付诸行动。 文章目录 📋前言一. ⛳️单调栈讲解1.1 🔔单调栈的定义1.2 🔔如何维护一个单…

Docker容器技术实战4

11、docker安全 proc未被隔离,所以在容器内和宿主机上看到的东西是一样的 容器资源控制 cpu资源限制 top命令,查看cpu使用率 ctrlpq防止退出回收,容器会直接调用cgroup,自动创建容器id的目录 cpu优先级设定 测试时只保留一个cpu…

答题测评考试小程序的效果如何

在线答题系统是一种在线练习、考试、测评的智能答题系统,适用于企业培训、测评考试、知识竞赛、模拟考试等场景,管理员可任意组题、随机出题,答题者成功提交后,系统自动判分。 多种题目类型,两种答题模式 练习模式&a…

c语言实现http下载功能,显示进度条和下载速率

#include <stdio.h>//printf #include <string.h>//字符串处理 #include <sys/socket.h>//套接字 #include <arpa/inet.h>//ip地址处理 #include <fcntl.h>//open系统调用 #include <unistd.h>//write系统调用 #include <netdb.h>//…

若依笔记(四):代码生成器

已知使用MyBatisPlus代码生成器可以自动生成Entity、Mapper、Service、Controller代码&#xff0c;前提是数据库中有数据表&#xff0c;生成pojo类以及对于该数据表的增删改查命令的代码&#xff0c;若依更进一步能选择表后生成代码、预览、下载&#xff0c;同时可以生产前端代…

chrome 扩展 popup 弹窗的使用

popup的基本使用方法 popup介绍 popup 是点击 browser_action 或者 page_action图标时打开的一个小窗口网页&#xff0c;焦点离开网页就立即关闭&#xff0c;一般用来做一些临时性的交互。 popup配置 V3版本中&#xff08;V2版本是在 browser_action 中 &#xff09;&#x…

C语言——选择排序

完整代码&#xff1a; //选择排序 // 选择排序是一种简单直观的排序算法。它的工作原理如下:首先在未排序序列中找到最小&#xff08;大&#xff09;元素&#xff0c;存放到排序序列的起始位置&#xff0c;然后&#xff0c;再从剩余未排序元素中继续寻找最小&#xff08;大&am…

ke9案例三:页面提交文件,我服务器端接收

案例三:页面提交文件,我服务器端接收 ProcessFile.java 1value "/process-file" 2获取邮件消息的所有部分part--Collection<Part> partsrequest.getParts(); 3遍历每一个part 4之后可以打印头文件等String headerpart.getHeader("content-disposition&q…

每天五分钟计算机视觉:搭建手写字体识别的卷积神经网络

本文重点 我们学习了卷积神经网络中的卷积层和池化层,这二者都是卷积神经网络中不可缺少的元素,本例中我们将搭建一个卷积神经网络完成手写字体识别。 卷积和池化的直观体现 手写字体识别 手写字体的图片大小是32*32*3的,它是一张 RGB 模式的图片,现在我们想识别它是从 …

Ubuntu 20.04源码安装git 2.35.1

《如何在 Ubuntu 20.04 上从源代码安装 Git [快速入门]》和《如何在 Ubuntu 20.04 上安装 Git》是我参考的博客。 https://git-scm.com/是git官网。 lsb_release -r看到操作系统版本是20.04。 uname -r看到内核版本是5.4.0-156-generic。 sudo apt update更新一下源。 完…

IDEA中如何移除未使用的import

&#x1f468;&#x1f3fb;‍&#x1f4bb; 热爱摄影的程序员 &#x1f468;&#x1f3fb;‍&#x1f3a8; 喜欢编码的设计师 &#x1f9d5;&#x1f3fb; 擅长设计的剪辑师 &#x1f9d1;&#x1f3fb;‍&#x1f3eb; 一位高冷无情的编码爱好者 大家好&#xff0c;我是全栈工…

自动化测试之争:code vs codeless

在TesterHome看到的一个话题&#xff0c;当我们选择做自动化时是否需要code 或者codeless。 code方案 用code去做自动化&#xff0c;实现过程就是拿个IDE撸代码。 python pytest/unittest appium/selenium/requests ... Java Junit/testNG appium/selenium/requests .…