LangChain 介绍及相关组件使用总结

一、langChain

LangChain 是一个由语言模型LLMs驱动的应用程序框架，它允许用户围绕大型语言模型快速构建应用程序和管道。 可以直接与 OpenAI 的 ChatGPT 模型以及 Hugging Face 集成。通过 langChain 可快速构建聊天机器人、生成式问答(GQA)、本文摘要等应用场景。

LangChain本身并不开发LLMs，它的核心理念是为各种LLMs提供通用的接口，降低开发者的学习成本，方便开发者快速地开发复杂的LLMs应用。LangChain目前有python 和 nodejs 两种版本实现，python 支持的能力较多，下面的功能演示都是基于 Python 进行的。

LangChain 中主要支持的组件如下所述：

  • Models：各种类型的模型和模型集成，比如OpenAI 的 ChatGPT。
  • Prompts：提示管理、提示优化和提示序列化，通过提示微调模型的语义理解。
  • Memory：用来保存和模型交互时的上下文状态。
  • Indexes：用来结构化文档，以便和模型交互。
  • Chains：一系列对各种组件的调用。
  • Agents：决定模型采取哪些行动，执行并且观察流程，直到完成为止。

例如：使用原生的方式调用 OpenAI 如下：

pip install openai -i https://pypi.tuna.tsinghua.edu.cn/simple

import openai
import osopenai.api_key = os.environ["OPENAI_API_KEY"]
messages = [{"role": "user", "content": "介绍下 ChatGPT "}]
response = openai.ChatCompletion.create(model="gpt-3.5-turbo",messages=messages,temperature=0,
)print("LLM 返回：", response.choices[0].message["content"])

在这里插入图片描述

现在使用 LangChain 的话就可以使用下面方式：

pip install langchain[all] -i https://pypi.tuna.tsinghua.edu.cn/simple

from langchain.llms import OpenAI
import osopenai_api_key=os.environ["OPENAI_API_KEY"]
llm = OpenAI(model_name="gpt-3.5-turbo", openai_api_key=openai_api_key)
my_text = "介绍下 ChatGPT "
print(llm(my_text))

在这里插入图片描述

下面是基于 LangChain 构建聊天功能：

from langchain.chat_models import ChatOpenAI
from langchain.schema import HumanMessage, SystemMessage, AIMessage
import osopenai_api_key=os.environ["OPENAI_API_KEY"]
chat = ChatOpenAI(temperature=1, openai_api_key=openai_api_key)
res =  chat([# 系统语言SystemMessage(content="你是一个智能导游,根据用户描述的地方，回答该地放的特色"),# 人类语言HumanMessage(content="江苏南京")]
)
print(res)

在这里插入图片描述

从上面的案例可以感受出 LangChain 的简易性，更详细的介绍可以参考下面官方文档：

https://python.langchain.com/docs/get_started/quickstart

中文文档地址：

https://www.langchain.com.cn/

下面对常用的 LangChain 组件进行使用介绍：

二、Prompts 提示管理

使用文本提示的方式，微调模型的语义理解，给出更加准确的信息。

2.1 PromptTemplate 提示模板

PromptTemplate 可以生成文本模版，通过变量参数的形式拼接成完整的语句。

from langchain.llms import OpenAI
from langchain import PromptTemplate
import osopenai_api_key = os.environ["OPENAI_API_KEY"]# 使用 openAi 模型
llm = OpenAI(model_name="gpt-3.5-turbo", openai_api_key=openai_api_key)# 模版格式
template = "我像吃{value}。我应该怎么做出来?"
# 构建模版
prompt = PromptTemplate(input_variables=["value"],template=template,
)
# 模版生成内容
final_prompt = prompt.format(value='鱼香肉丝')print("输入内容：:", final_prompt)
print("LLM输出:", llm(final_prompt))

在这里插入图片描述

2.2 FewShotPromptTemplate 选择器示例

将提示的示例内容同样拼接到语句中，让模型去理解语义含义进而给出结果。

from langchain.prompts.example_selector import SemanticSimilarityExampleSelector
from langchain.vectorstores import FAISS
from langchain.embeddings import OpenAIEmbeddings
from langchain.prompts import FewShotPromptTemplate, PromptTemplate
from langchain.llms import OpenAI
import os## prompt  选择器示例
openai_api_key = os.environ["OPENAI_API_KEY"]llm = OpenAI(model_name="gpt-3.5-turbo", openai_api_key=openai_api_key)example_prompt = PromptTemplate(input_variables=["input", "output"],template="示例输入:{input}, 示例输出:{output}",
)# 这是可供选择的示例列表
examples = [{"input": "飞行员", "output": "飞机"},{"input": "驾驶员", "output": "汽车"},{"input": "厨师", "output": "厨房"},{"input": "空姐", "output": "飞机"},
]# 根据语义选择与您的输入相似的示例
example_selector = SemanticSimilarityExampleSelector.from_examples(examples,# 生成用于测量语义相似性的嵌入的嵌入类。OpenAIEmbeddings(openai_api_key=openai_api_key),# 存储词向量FAISS,# 生成的示例数k=4
)
# 选择器示例 prompt
similar_prompt = FewShotPromptTemplate(example_selector=example_selector,example_prompt=example_prompt,# 加到提示顶部和底部的提示项prefix="根据下面示例，写出输出",suffix="输入:{value}，输出:",# 输入变量input_variables=["value"],
)value = "学生"
# 模版生成内容
final_prompt = similar_prompt.format(value=value)print("输入内容：:", final_prompt)
print("LLM输出:", llm(final_prompt))

在这里插入图片描述

2.3 ChatPromptTemplate 聊天提示模版

以聊天消息作为输入生成完整提示模版。

from langchain.schema import HumanMessage
from langchain.prompts import PromptTemplate, ChatPromptTemplate, HumanMessagePromptTemplate
# 我们将使用聊天模型,默认为 gpt-3.5-turbo
from langchain.chat_models import ChatOpenAI
# 解析输出并取回结构化数据
from langchain.output_parsers import StructuredOutputParser, ResponseSchema
import osopenai_api_key = os.environ["OPENAI_API_KEY"]
chat_model = ChatOpenAI(temperature=0, model_name='gpt-3.5-turbo', openai_api_key=openai_api_key)prompt = ChatPromptTemplate(messages=[HumanMessagePromptTemplate.from_template("根据用户内容,提取出公司名称和地域名, 用用户内容: {user_prompt}")],input_variables=["user_prompt"]
)user_prompt = "阿里巴巴公司在江苏南京有分公司吗"
fruit_query = prompt.format_prompt(user_prompt=user_prompt)
print('输入内容：', fruit_query.messages[0].content)fruit_output = chat_model(fruit_query.to_messages())
print('LLM 输出：', fruit_output)

在这里插入图片描述

2.4 StructuredOutputParser 输出解析器

要使 LLM 模型返回我们需要的格式，可以直接告诉 LLM 你想要的结果格式，也可以通过 解析器来制定：

PromptTemplate + StructuredOutputParser

from langchain.output_parsers import StructuredOutputParser, ResponseSchema
from langchain.prompts import ChatPromptTemplate, HumanMessagePromptTemplate, PromptTemplate
from langchain.llms import OpenAI
import osopenai_api_key = os.environ["OPENAI_API_KEY"]llm = OpenAI(model_name="text-davinci-003", openai_api_key=openai_api_key)
# 定义结构
response_schemas = [ResponseSchema(name="company", description="提取的公司名"),ResponseSchema(name="area", description="提取的地域名")
]
# 解析输出结构
output_parser = StructuredOutputParser.from_response_schemas(response_schemas)
format_instructions = output_parser.get_format_instructions()
print('格式化的提示模板', format_instructions)template = """
根据用户内容,提取出公司名称和地域名
{format_instructions}
% 用户输入:
{value}
"""
prompt = PromptTemplate(input_variables=["value"],partial_variables={"format_instructions": format_instructions},template=template
)
final_prompt = prompt.format(value="阿里巴巴公司在江苏南京有分公司吗")print("输入内容：:", final_prompt)
print("LLM输出:", llm(final_prompt))

在这里插入图片描述

PromptTemplate + ChatPromptTemplate

from langchain.schema import HumanMessage
from langchain.prompts import PromptTemplate, ChatPromptTemplate, HumanMessagePromptTemplate
# 我们将使用聊天模型,默认为 gpt-3.5-turbo
from langchain.chat_models import ChatOpenAI
# 解析输出并取回结构化数据
from langchain.output_parsers import StructuredOutputParser, ResponseSchema
import osopenai_api_key = os.environ["OPENAI_API_KEY"]
chat_model = ChatOpenAI(temperature=0, model_name='gpt-3.5-turbo', openai_api_key=openai_api_key)response_schemas = [ResponseSchema(name="company", description="提取的公司名"),ResponseSchema(name="area", description="提取的地域名")
]
output_parser = StructuredOutputParser.from_response_schemas(response_schemas)
format_instructions = output_parser.get_format_instructions()
print(format_instructions)prompt = ChatPromptTemplate(messages=[HumanMessagePromptTemplate.from_template("根据用户内容,提取出公司名称和地域名 {format_instructions}, 用户输入: {value}")],input_variables=["value"],partial_variables={"format_instructions": format_instructions}
)fruit_query = prompt.format_prompt(value="阿里巴巴公司在江苏南京有分公司吗")
print (fruit_query.messages[0].content)fruit_output = chat_model(fruit_query.to_messages())
output = output_parser.parse(fruit_output.content)
print (output)

在这里插入图片描述

三、文件载入 和 Embeddings 文本向量化

例如有如下文本文件：

`LangChain` 是一个开发由语言模型`LLMs`驱动的应用程序的框架，它允许用户围绕大型语言模型快速构建应用程序和管道。 可以直接与 `OpenAI` 的 `GPT` 模型以及 `Hugging Face` 集成。通过 `langChain` 可快速构建聊天机器人、生成式问答(`GQA`)、本文摘要等应用场景。`LangChain`本身并不开发`LLMs`，它的核心理念是为各种`LLMs`提供通用的接口，降低开发者的学习成本，方便开发者快速地开发复杂的`LLMs`应用。`LangChain`目前有两个`python` 和 `nodejs` 两种版本实现，`python`  支持的能力较多，下面都基于 `Python` 演示其部分功能。`LangChain` 中主要支持的组件有如下：- `Models`：各种类型的模型和模型集成，比如`OpenAI` 的 `ChatGPT`。
- `Prompts`：提示管理、提示优化和提示序列化，通过提示微调模型的语义理解。
- `Memory`：用来保存和模型交互时的上下文状态。
- `Indexes`：用来结构化文档，以便和模型交互。
- `Chains`：一系列对各种组件的调用。
- `Agents`：决定模型采取哪些行动，执行并且观察流程，直到完成为止。

3.1 文件加载与分割

自己进行文件的加载，然后对字符串进行分割：

from langchain.text_splitter import RecursiveCharacterTextSplitterwith open('data/test.txt', 'r', encoding="utf-8") as f:value = f.read()# 文本分割器
text_splitter = RecursiveCharacterTextSplitter(chunk_size=300,chunk_overlap=100,
)
# 创建文档
texts = text_splitter.create_documents([value])
print("文档数：", len(texts))# 拆分后的文档
for doc in texts:print(doc)

在这里插入图片描述

使用文本加载器，加载文本：

from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.document_loaders import TextLoader# 使用文本加载器
loader = TextLoader('data/test.txt', encoding="utf-8")
documents = loader.load()# 文本分割器
text_splitter = RecursiveCharacterTextSplitter(chunk_size=300,chunk_overlap=100,
)
# 分割文档
texts = text_splitter.split_documents(documents)
print("文档数：", len(texts))# 拆分后的文档
for doc in texts:print(doc)

3.2 Embeddings 文本向量化

文本向量化，可以计算出文本的相似性：

from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.document_loaders import TextLoader
from langchain.embeddings import OpenAIEmbeddings
from langchain.vectorstores import FAISS
import osopenai_api_key=os.environ["OPENAI_API_KEY"]
# 使用文本加载器
loader = TextLoader('data/test.txt', encoding="utf-8")
documents = loader.load()# 文本分割器
text_splitter = RecursiveCharacterTextSplitter(chunk_size=300,chunk_overlap=100,
)
# 分割文档
texts = text_splitter.split_documents(documents)
print("文档数：", len(texts))
# 拆分后的文档
for doc in texts:print(doc)
# 准备嵌入引擎
embeddings = OpenAIEmbeddings(openai_api_key=openai_api_key)
# 向量化
# 会对 OpenAI 进行 API 调用
db = FAISS.from_documents(texts, embeddings)
# 初始化检索器
retriever = db.as_retriever()
# 根据语义获取最相近的文档
docs = retriever.get_relevant_documents("介绍下什么是 langchain ？")
print('结果：', docs)

在这里插入图片描述

四、memory 多轮对话

对于聊天应用中，记录聊天的记录给到模型可以回答出更加准确的回答，最前面第一点介绍的案例只有一个简单的问答，如果是多轮对话就可以修改为如下格式：

from langchain.chat_models import ChatOpenAI
from langchain.schema import HumanMessage, SystemMessage, AIMessage
import osopenai_api_key=os.environ["OPENAI_API_KEY"]
chat = ChatOpenAI(temperature=0.7, openai_api_key=openai_api_key)
## 多轮对话
res = chat([SystemMessage(content="你是一个很好的 AI 机器人,可以帮助用户在一个简短的句子中找出去哪里旅行"),HumanMessage(content="我喜欢海滩,我应该去哪里?"),AIMessage(content="你应该去广东深圳"),HumanMessage(content="当我在那里时我还应该做什么?")]
)
print('多轮对话', res)

在这里插入图片描述

还可以基于 Memory 组件中的 ChatMessageHistory ：

from langchain.memory import ChatMessageHistory
from langchain.chat_models import ChatOpenAI
import osopenai_api_key=os.environ["OPENAI_API_KEY"]
chat = ChatOpenAI(temperature=0, openai_api_key=openai_api_key)# 声明历史
history = ChatMessageHistory()
history.add_user_message("你是一个很好的 AI 机器人,可以帮助用户在一个简短的句子中找出去哪里旅行")
history.add_user_message("我喜欢海滩,我应该去哪里?")
# 添加AI语言
history.add_ai_message("你应该去广东深圳")
# 添加人类语言
history.add_user_message("当我在那里时我还应该做什么?")print('history信息：', history.messages)
# 调用模型
ai_response = chat(history.messages)
print('结果', ai_response)# 继续添加 AI 语言
history.add_ai_message(ai_response.content)
print('history信息：', history.messages)# 继续添加人类语言
history.add_user_message("推荐下美食和购物场所")
ai_response = chat(history.messages)
print('结果', ai_response)

在这里插入图片描述

五、chain 顺序链

5.1 简单顺序链

可以使用 LLM 的输出作为另一个 LLM 的输入。有利于任务的分解：

from langchain.llms import OpenAI
from langchain.chains import LLMChain
from langchain.prompts import PromptTemplate
from langchain.chains import SimpleSequentialChain
import osopenai_api_key = os.environ["OPENAI_API_KEY"]
llm = OpenAI(temperature=1, openai_api_key=openai_api_key)# 第一个链模版内容
template1 = "根据用户的输入的描述推荐一个适合的地区，用户输入: {value}"
prompt_template1 = PromptTemplate(input_variables=["value"], template=template1)
# 构建第一个链
chain1 = LLMChain(llm=llm, prompt=prompt_template1)# 第二个链模版内容
template2 = "根据用户的输入的地区推荐该地区的美食，用户输入: {value}"
prompt_template2 = PromptTemplate(input_variables=["value"], template=template2)
# 构建第二个链
chain2 = LLMChain(llm=llm, prompt=prompt_template2)# 将链组装起来
overall_chain = SimpleSequentialChain(chains=[chain1, chain2], verbose=True)# 运行链
review = overall_chain.run("我想在中国看大海")
print('结果：', review)

在这里插入图片描述

5.2 总结链

有时候对于大量的文本内容进行摘要总结，可能无法一次性加载进来，此时可借助总结链进行总结：

from langchain.chains.summarize import load_summarize_chain
from langchain.document_loaders import TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain.llms import OpenAI
import osopenai_api_key = os.environ["OPENAI_API_KEY"]loader = TextLoader('data/test.txt',encoding="utf-8")
documents = loader.load()
text_splitter = RecursiveCharacterTextSplitter(chunk_size=700, chunk_overlap=50)
texts = text_splitter.split_documents(documents)llm = OpenAI(temperature=1, openai_api_key=openai_api_key)
chain = load_summarize_chain(llm, chain_type="map_reduce", verbose=True)
review = chain.run(texts)
print('结果：',review)

六、问答

通过本地知识库微调模型，回答出更加准确的信息。

from langchain import OpenAI
from langchain.vectorstores import FAISS
from langchain.chains import RetrievalQA
from langchain.document_loaders import TextLoader
from langchain.embeddings.openai import OpenAIEmbeddings
from langchain.text_splitter import RecursiveCharacterTextSplitter
import osopenai_api_key = os.environ["OPENAI_API_KEY"]
llm = OpenAI(temperature=0, openai_api_key=openai_api_key)loader = TextLoader('./data/test.txt',encoding="utf-8")
doc = loader.load()
text_splitter = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=400)
docs = text_splitter.split_documents(doc)
# 嵌入引擎
embeddings = OpenAIEmbeddings(openai_api_key=openai_api_key)
# 词向量
docsearch = FAISS.from_documents(docs, embeddings)
# 创建检索引擎
qa = RetrievalQA.from_chain_type(llm=llm, chain_type="stuff", retriever=docsearch.as_retriever())res = qa.run("介绍下什么是 langchain ")print(res)

在这里插入图片描述

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/2324.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

Moveit1 机器人配置包超详细解析

Moveit1 机器人配置包超详细解析

前言 Moveit的robot_moveit_config包里有很多文件，在配置时容易搞不清关系，导致配置过程艰难、漫长。 同时互联网上的文档几乎没有详细介绍这部分配置包的，大神各有各的配法，比较混乱。 因此笔者整理了配置包内各个重要的文件&…
阅读更多...
Dart语法01-变量、内置类型、操作符、方法与异常

Dart语法01-变量、内置类型、操作符、方法与异常

Dart基础 文章目录 Dart基础变量final与const 内置的类型Numbers（数值）Strings（字符串）Booleans（布尔值）Lists（列表）Maps（映射集合）Runes（用于在字…
阅读更多...
ARM-异常与中断(四)

ARM-异常与中断(四)

文章目录 中断中断请求、中断源中断服务程序保存现场、恢复现场中断仲裁、中断优先级中断嵌套 异常广义上的异常同步异常异步异常精确异步异常（Precise Asynchronous Exception）非精确异步异常（Imprecise Asynchronous Exception）…
阅读更多...
【推荐】win 安装 rust 1.70

【推荐】win 安装 rust 1.70

目录 一、下载二、安装先决条件MinGW三、安装Rust四、配置国内镜像五、检查是否安装成功五、参考文章 一、下载 官网地址：https://www.rust-lang.org/zh-CN/ 二、安装先决条件MinGW win 安装 C运行环境 - MinGW 三、安装Rust 3.1首先设置安装路径和环境变量 配…
阅读更多...
赛效：PDF文件怎么加密

赛效：PDF文件怎么加密

1：在网页上打开并登录91ai工具，在特色功能里点击“PDF加密”。 2：点击上传文件，将本地PDF文件添加上去。 3：文件上传成功后，在文件下方设置密码后点击“开始加密”。 4：加密完成后点击下方下载按…
阅读更多...
12.通用定时器基本原理

12.通用定时器基本原理

1.通用定时器概述： （1）STM32定时器 STM32F10x系列总共最多有8个定时器： （2）三种STM32定时器区别： （3）通用定时器功能特点描述： STM32的通用TIMx(TIM2、TIM…
阅读更多...
量子机器学习Variational Quantum Classifier (VQC)简介

量子机器学习Variational Quantum Classifier (VQC)简介

变分量子分类器（Variational Quantum Classifier，简称VQC）是一种利用量子计算技术进行分类任务的机器学习算法。它属于量子机器学习算法家族，旨在利用量子计算机的计算能力，潜在地提升经典机器学习方法的性能。 VQC的…
阅读更多...
SpringBoot Thymeleaf企业级真实应用：使用Flying Saucer结合iText5将HTML界面数据转换为PDF输出(四) 表格中断问题

SpringBoot Thymeleaf企业级真实应用：使用Flying Saucer结合iText5将HTML界面数据转换为PDF输出(四) 表格中断问题

接上一篇 SpringBoot Thymeleaf企业级真实应用：使用Flying Saucer结合iText5将HTML界面数据转换为PDF输出(三) 给pdf加水印、页眉页脚、页眉logo 设置表格的css样式 table {/*分页时表格换行, 可不用, 使用表格行换行即可*//*page-break-before: always;*/border-…
阅读更多...
【AI模型部署】基于gradio和python的网页交互界面（web-ui）——简易使用方法

【AI模型部署】基于gradio和python的网页交互界面（web-ui）——简易使用方法

使用gradio，只需在原有的代码中增加几行,快速部署机器学习模型，就能自动化生成交互式web页面，并支持多种输入输出格式，比如图像分类中的图>>标签，超分辨率中的图>>图等。 同时还支持生成能外部网络访问的链…
阅读更多...
【Leetcode】17.电话号码的字母组合

【Leetcode】17.电话号码的字母组合

一、题目 1、题目描述 给定一个仅包含数字 2-9 的字符串，返回所有它能表示的字母组合。答案可以按 任意顺序 返回。 给出数字到字母的映射如下（与电话按键相同）。注意 1 不对应任何字母。 示例1： 输入：digits = "23" 输出：["ad","ae",…
阅读更多...
C高级重点

C高级重点

1、请简要描述一下Linux文件系统的层级结构，包括不同目录的作用和功能。 Linux的文件系统结构是一个倒插树结构，所有的文件都从根目录出发。 2、find指令的用途 find 查找的路径 -name 文件名 ----->在指定路径下，以文件名为条件查找文…
阅读更多...
M1 macbook上安装docker 编译内核 并使用qemu启动内核。

M1 macbook上安装docker 编译内核 并使用qemu启动内核。

1、在M1上安装docker这个就不用提供步骤了，网上自行搜索。 2、在M1上pull一个ubuntu的容器。docker pull ubuntu:18.04 docker images REPOSITORY TAG IMAGE ID CREATED SIZE ubuntu 18.04 d1a528908992 …
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023