聊一下大模型的函数调用-Function call

你好，我是 shengjk1，多年大厂经验，努力构建 通俗易懂的、好玩的编程语言教程。 欢迎关注！你会有如下收益：

  1. 了解大厂经验
  2. 拥有和大厂相匹配的技术等 希望看什么，评论或者私信告诉我！

    文章目录

    • 一、 前言
    • 二、函数调用
      • 2.1 Function call 功能
      • 2.2 GLM-4 是如何进行函数调用的
        • 2.2.1 定义外部函数
        • 2.2.2 描述函数功能
        • 2.3 Function call 代码编写
    • 三、完整代码
    • 四、总结
    • 五、扩展

一、 前言

GPT-4 出来后的一大特色就是 Function call，一直想去尝试一下。后来智普出来了 GLM-4 模型也支持了 Function call，所以就来试一下。
在正式的了解这一块之前呢，我一直以为 Function call 就是大模型可以执行函数呢，从有了这个概念之后到目前为止一直没有想明白，大模型是如何执行函数，脑海里的想法是：大模型调用 python 解释器执行。
但研读了 GLM-4 和 GPT-4 的 Function call 之后，发现不是这样的

二、函数调用

2.1 Function call 功能

函数调用功能可以增强模型推理效果或进行其他外部操作，包括信息检索、数据库操作、知识图谱搜索与推理、操作系统、触发外部操作等工具调用场景。

需要注意的是，大模型的 Function call 不会执行任何函数调用，仅返回调用函数所需要的参数。开发者可以利用模型输出的参数在应用中执行函数调用。

2.2 GLM-4 是如何进行函数调用的

假设我们要创建一个具备查询航班功能的聊天机器人

2.2.1 定义外部函数

我们定义如下两个外部函数供模型选择调用：

    1. 查询两地之间某日航班号函数：get_flight_number(departure: str, destination: str, date: str)
    1. 查询某航班某日票价函数：get_ticket_price(flight_number: str, date: str)
def get_flight_number(date:str , departure:str , destination:str):flight_number = {"北京":{"上海" : "1234","广州" : "8321",},"上海":{"北京" : "1233","广州" : "8123",}}return { "flight_number":flight_number[departure][destination] }
def get_ticket_price(date:str , flight_number:str):return {"ticket_price": "1000"}

2.2.2 描述函数功能

为了向模型描述外部函数库，需要向 tools 字段传入可以调用的函数列表。参数如下表：

参数名称类型是否必填参数说明
typeString是设置为function
functionObject是
nameString是函数名称
descriptionString是用于描述函数功能。模型会根据这段描述决定函数调用方式。
parametersObject是parameters字段需要传入一个 Json Schema 对象，以准确地定义函数所接受的参数。若调用函数时不需要传入参数，省略该参数即可。
required否指定哪些属性在数据中必须被包含。

样例：

tools = [{"type": "function","function": {"name": "get_flight_number","description": "根据始发地、目的地和日期，查询对应日期的航班号","parameters": {"type": "object","properties": {"departure": {"description": "出发地","type": "string"},"destination": {"description": "目的地","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "departure", "destination", "date" ]},}},{"type": "function","function": {"name": "get_ticket_price","description": "查询某航班在某日的票价","parameters": {"type": "object","properties": {"flight_number": {"description": "航班号","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "flight_number", "date"]},}},
]

2.3 Function call 代码编写

函数描述

tools = [{"type": "function","function": {"name": "get_flight_number","description": "根据始发地、目的地和日期，查询对应日期的航班号","parameters": {"type": "object","properties": {"departure": {"description": "出发地","type": "string"},"destination": {"description": "目的地","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "departure", "destination", "date" ]},}},{"type": "function","function": {"name": "get_ticket_price","description": "查询某航班在某日的票价","parameters": {"type": "object","properties": {"flight_number": {"description": "航班号","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "flight_number", "date"]},}},
]

创建 client

没有 key 可以自己去 智普开发平台注册一下，目前注册送 100万 token

client = ZhipuAI(api_key='')

请求模型，这一块仅仅是一个中间步骤
我们想查询2024年1月20日从北京前往上海的航班。我们向模型提供这个信息：

messages = []
messages.append({"role": "user", "content": "帮我查询从2024年1月20日，从北京出发前往上海的航班"})
response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=messages,tools=tools,tool_choice='auto'
)
print(response.choices[0].message)
messages.append(response.choices[0].message.model_dump())

关于 tool_choice 如果不写，则默认情况下模型将决定何时适合使用其中一个函数。

如果要控制模型如何选择函数调用，需要设置 tool_choice 参数。参数默认值为auto，此时模型根据上下文信息自行选择是否返回函数调用。

若将其设置为 {“name”: “your_function_name”} 时，可以强制 API 返回特定函数的调用。

还可以通过将 tool_choice 参数设置为 “none” 来强制 API 不返回任何函数的调用。

输出

content=None role='assistant' tool_calls=[CompletionMessageToolCall(id='call_8495942909317716104', function=Function(arguments='{"date":"2024-01-20","departure":"北京","destination":"上海"}', name='get_flight_number'), type='function')]

可以看到此时模型成功触发对 get_flight_number 函数的调用 参数为：date=“2024-01-20”,departure=“北京”,destination=“上海”

定义处理 Function call 的函数，这参数高潮，其实所谓的 Function call，就是通过大模型选择函数以及获取函数的参数

def parse_function_call(model_response,messages):# 处理函数调用结果，根据模型返回参数，调用对应的函数。# 调用函数返回结果后构造tool message，再次调用模型，将函数结果输入模型# 模型会将函数调用结果以自然语言格式返回给用户。if model_response.choices[0].message.tool_calls:tool_call = model_response.choices[0].message.tool_calls[0]args = tool_call.function.argumentsfunction_result = {}if tool_call.function.name == "get_flight_number":function_result = get_flight_number(**json.loads(args))if tool_call.function.name == "get_ticket_price":function_result = get_ticket_price(**json.loads(args))messages.append({"role": "tool","content": f"{json.dumps(function_result)}","tool_call_id":tool_call.id})response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=messages,tools=tools,)print(response.choices[0].message)messages.append(response.choices[0].message.model_dump())

请求模型获取最终结果
查询北京到广州的航班：

# 清空对话
messages = []messages.append({"role": "system", "content": "不要假设或猜测传入函数的参数值。如果用户的描述不明确，请要求用户提供必要信息"})
messages.append({"role": "user", "content": "帮我查询1月23日，北京到广州的航班"})response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=messages,tools=tools,
)
print(response.choices[0].message)
messages.append(response.choices[0].message.model_dump())parse_function_call(response,messages)

返回

content=None role='assistant' tool_calls=[CompletionMessageToolCall(id='call_8282666790542042140', function=Function(arguments='{"date":"2023-01-23","departure":"北京","destination":"广州"}', name='get_flight_number'), type='function')]
content='根据您的要求，我已经查询到了1月23日从北京到广州的航班号，航班号为8321。' role='assistant' tool_calls=None

查询票价也是同理

三、完整代码

def get_flight_number(date:str , departure:str , destination:str):flight_number = {"北京":{"上海" : "1234","广州" : "8321",},"上海":{"北京" : "1233","广州" : "8123",}}return { "flight_number":flight_number[departure][destination] }
def get_ticket_price(date:str , flight_number:str):return {"ticket_price": "1000"}tools = [{"type": "function","function": {"name": "get_flight_number","description": "根据始发地、目的地和日期，查询对应日期的航班号","parameters": {"type": "object","properties": {"departure": {"description": "出发地","type": "string"},"destination": {"description": "目的地","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "departure", "destination", "date" ]},}},{"type": "function","function": {"name": "get_ticket_price","description": "查询某航班在某日的票价","parameters": {"type": "object","properties": {"flight_number": {"description": "航班号","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "flight_number", "date"]},}},
]client = ZhipuAI(api_key='')def parse_function_call(model_response,messages):# 处理函数调用结果，根据模型返回参数，调用对应的函数。# 调用函数返回结果后构造tool message，再次调用模型，将函数结果输入模型# 模型会将函数调用结果以自然语言格式返回给用户。if model_response.choices[0].message.tool_calls:tool_call = model_response.choices[0].message.tool_calls[0]args = tool_call.function.argumentsfunction_result = {}if tool_call.function.name == "get_flight_number":function_result = get_flight_number(**json.loads(args))if tool_call.function.name == "get_ticket_price":function_result = get_ticket_price(**json.loads(args))messages.append({"role": "tool","content": f"{json.dumps(function_result)}","tool_call_id":tool_call.id})response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=messages,tools=tools,)print(response.choices[0].message)messages.append(response.choices[0].message.model_dump())# 清空对话
messages = []messages.append({"role": "system", "content": "不要假设或猜测传入函数的参数值。如果用户的描述不明确，请要求用户提供必要信息"})
messages.append({"role": "user", "content": "帮我查询1月23日，北京到广州的航班"})response = client.chat.completions.create(model="glm-4",  # 填写需要调用的模型名称messages=messages,tools=tools,
)
print(response.choices[0].message)
messages.append(response.choices[0].message.model_dump())parse_function_call(response,messages)

四、总结

本文介绍了大模型 Function call 功能的基本概念和使用方法，包括定义外部函数、描述函数功能、代码编写等。同时，文章还提到了如果没有 Function call，类似的问题也可以通过其他方式解决。本文适合初学者了解大模型 Function call 功能。

整体的过程:大模型 Function call 其实就是通过大模型找到对应的函数，然后再把函数执行后的结果，返回给大模型，最后大模型给出结果。

五、扩展

如果没有 Fcuntion call，类似的问题能解决吗？当然可以。
这里呢，我们葫芦AI终身免费使用GPT-4来看一下效果
我们输入 promot

现在有两个函数的描述：{"type": "function","function": {"name": "get_flight_number","description": "根据始发地、目的地和日期，查询对应日期的航班号","parameters": "type": "object","properties": {"departure": {"description": "出发地","type": "string"},"destination": {"description": "目的地","type": "string"},"date": {"description": "日期","type": "string",}},"required": [ "departure", "destination", "date" ]},}},依据上述两个函数的描述，我想查一下从北京到天津 20240322 的航班，请问该选择哪个函数，并以 json 的格式返回函数对应的参数

返回结果

所以 Function call 的技术复杂度有多少，自然一目了然

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/568815.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

SpringBoot项目防重复提交

SpringBoot项目防重复提交

解压工具包&#xff0c;放入工具组件下引入maven依赖 <dependency><groupId>com.wx</groupId><artifactId>wx-idempotent</artifactId> </dependency> 使用方式&#xff1a; 直接注解&#xff1a;默认时间1s内不可重复使用&#xff0c;默…
阅读更多...
cesium-剖面分析

cesium-剖面分析

直接上代码 <template><div id"cesiumContainer" class"content"></div><div id"toolbar" class"nameButton"><el-breadcrumb :separator-icon"ArrowRight"><el-breadcrumb-item>三维…
阅读更多...
Windows服务器性能监控

Windows服务器性能监控

Windows服务器操作系统设计用于运行在客户端-服务器架构内的服务器上&#xff0c;这些服务器通常设计用于处理繁重的工作负载&#xff0c;并作为企业中涉及的大多数软件操作的骨干。因此&#xff0c;为了防止由于性能问题而导致的任何服务损失并保持操作的无缝流&#xff0c;Wi…
阅读更多...
ESCTF赛题WP

ESCTF赛题WP

ESCTF_reverse题解 逆吧腻吧babypybabypolyreeasy_rere1你是个好孩子完结撒花 Q_W_Q 逆吧腻吧 下载副本后无壳&#xff0c;直接拖入ida分析分析函数逻辑&#xff1a;ida打开如下&#xff1a;提取出全局变量res的数据后&#xff0c;编写异或脚本进行解密&#xff1a; a[0xBF, …
阅读更多...
【线段树二分】第十三届蓝桥杯省赛C++ A组/研究生组 Python 研究生组《扫描游戏》（C++）

【线段树二分】第十三届蓝桥杯省赛C++ A组/研究生组 Python 研究生组《扫描游戏》（C++）

【题目描述】 有一根围绕原点 O 顺时针旋转的棒 OA&#xff0c;初始时指向正上方&#xff08;Y 轴正向&#xff09;。 在平面中有若干物件&#xff0c;第 i 个物件的坐标为&#xff08;,)&#xff0c;价值为 。 当棒扫到某个物件时&#xff0c;棒的长度会瞬间增长 &#xff…
阅读更多...
Nexus3 Docker 私有仓库

Nexus3 Docker 私有仓库

Nexus3 Docker 私有仓库 安装并部署 Nexus3 $ docker search nexus3$ docker pull sonatype/nexus3$ mkdir /home/tester/data/docker/nexus3/sonatype-work $ sudo chown -R 200 /home/tester/data/docker/nexus3/sonatype-work$ docker run -d --namenexus3 \ --restartalw…
阅读更多...
2024年蓝牙耳机怎么选？五大爆火真无线蓝牙耳机推荐大公开！

2024年蓝牙耳机怎么选？五大爆火真无线蓝牙耳机推荐大公开！

​随着科技的进步&#xff0c;越来越多的用户倾向选择无线蓝牙耳机&#xff0c;摆脱有线耳机的束缚&#xff0c;享受更加自由的音乐体验。为了帮助大家选购到适合自己的蓝牙耳机&#xff0c;我整理了一些目前市面上我个人认为性能优异的款式&#xff0c;与大家分享。 一、蓝牙耳…
阅读更多...
Linux（centos7）部署hadoop集群

Linux（centos7）部署hadoop集群

部署环境要求：已完成JDK环境部署、配置完成固定IP、SSH免费登录、防火墙关闭等。 1、下载、上传主机 官网：https://hadoop.apache.org 2、解压缩、创建软连接 解压： tar -zxvf hadoop-3.3.6.tar.gz软连接： ln -s /usr/local/apps/hadoop-3.3.6 hadoop3、文件配置 hadoo…
阅读更多...
uniapp的配置文件、入口文件、主组件、页面管理部分

uniapp的配置文件、入口文件、主组件、页面管理部分

pages.json 配置文件&#xff0c;全局页面路径配置&#xff0c;应用的状态栏、导航条、标题、窗口背景色设置等 main.js 入口文件&#xff0c;主要作用是初始化vue实例、定义全局组件、使用需要的插件如 vuex&#xff0c;注意uniapp无法使用vue-router&#xff0c;路由须在pag…
阅读更多...
【Java程序设计】【C00370】基于（JavaWeb）Springboot的公司进存销管理系统（有论文）

【Java程序设计】【C00370】基于（JavaWeb）Springboot的公司进存销管理系统（有论文）

TOC 博主介绍&#xff1a;java高级开发&#xff0c;从事互联网行业六年&#xff0c;已经做了六年的毕业设计程序开发&#xff0c;开发过上千套毕业设计程序&#xff0c;博客中有上百套程序可供参考&#xff0c;欢迎共同交流学习。 项目简介 项目获取 &#x1f345;文末点击卡片…
阅读更多...
javascript三要素核验身份证号、姓名和人像是否匹配的身份证实名认证接口

javascript三要素核验身份证号、姓名和人像是否匹配的身份证实名认证接口

在开发的过程中&#xff0c;总会用到各种各样的API接口来实现各种各样的功能。互联网信息时代&#xff0c;为确保注册用户身份信息的正确性&#xff0c;无论是手机端还是电脑端应用都需要进行实名认证来防止虚假身份的使用&#xff0c;维护公共利益和个人权益的安全&#xff0c…
阅读更多...
基于前端技术实现的全面预算编制系统

基于前端技术实现的全面预算编制系统

前言 在现代商业环境中&#xff0c;预测销售数据和实际成本是每个公司CEO和领导都极为重视的关键指标。然而&#xff0c;由于市场的不断变化&#xff0c;准确地预测和管理这些数据变得愈发具有挑战性。为了应对这一挑战&#xff0c;建立一个高效的系统来管理和审查销售数据的重…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023