带记忆的对话api上线

news/2024/9/18 3:33:35/文章来源:https://www.cnblogs.com/visionwpc/p/18387719

API 简介

Link.AI 已为开发者提供了调用智能体能力的对话API,可在第三方系统和服务中使用 Link.AI 应用智能体和工作流智能体的能力。

在使用普通对话API时,开发者需要在每次请求时传入会话的对象和上下文,以实现智能体的“记忆”功能,从而实现多轮对话。

相比普通对话API,Link.AI 记忆对话 API 原生支持开发者在应用/工作流中设置的记忆功能。开发者无需自行维护上下文记忆并通过messages参数传递,只需传入用户问题和身份标识即可,由系统按用户维度对上下文记忆进行维护,从而实现长期记忆下的多轮对话。

API 能力介绍

记忆对话 API 的核心能力即为帮助开发者自动保留会话对象的上下文历史;其次,记忆对话 API 同样兼容了 Link.AI 的各项原生能力:

  • 支持通过绑定应用工作流,从而使用其包含的知识库插件等能力
  • 支持根据应用或工作流中的记忆轮次和时间的配置对用户维度的记忆进行维护
  • 支持一键切换所有支持的大模型
  • 支持流式/非流式输出
  • 支持多模态输入/输出,可输入文字、图片;输出文字、图片、视频、文件

API 接口定义

请求示例

{   "app_code": "G7z6vKwp",   "query": "你好",   "session_id": "123e4567-e89b-12d3-a456-426614174000"
}
  1. app_code:需换成你自己创建应用、工作流code,或公开在Link.AI应用广场中应用的code。
  2. session_id:一般为对用户身份的唯一标识,例如可将业务系统中用户ID、手机号等信息加密后传入。若该字段不传,系统将自动生成一个唯一ID并在响应中返回,下次对话时可携带该字段。

响应结果

非流式响应:

{   "session_id": "123e4567-e89b-12d3-a456-426614174000",   "choices": [       {           "index": 0,           "message": {               "role": "assistant",               "content": "你好,请问有什么可以帮助您的吗?"           }       }   ],   "usage": {       "prompt_tokens": 9,       "completion_tokens": 17,       "total_tokens": 26   }
}

1.接口调用默认为非流式响应,会在所有内容生成完毕后一次性返回。
2.choices.message.content 中为AI的响应内容,usage 部分 prompt_tokens、completion_tokens、total_tokens 分别表示请求的token数、响应的token数、全部消耗的token数。

流式响应:

data: {"choices": [{"index": 0, "delta": {"content": "你好!"}, "finish_reason": null}], "session_id": "123e4567-e89b-12d3-a456-426614174000"}
data: {"choices": [{"index": 0, "delta": {"content": "我能"}, "finish_reason": null}], "session_id": "123e4567-e89b-12d3-a456-426614174000"}
data: {"choices": [{"index": 0, "delta": {"content": "为你"}, "finish_reason": null}], "session_id": "123e4567-e89b-12d3-a456-426614174000"}
data: {"choices": [{"index": 0, "delta": {"content": "做些什么?"}, "finish_reason": null}], "session_id": "123e4567-e89b-12d3-a456-426614174000"}
data: {"choices": [{"index": 0, "delta": {}, "finish_reason": "stop", "usage": {"prompt_tokens": 9, "completion_tokens": 6, "total_tokens": 15}}], "session_id": "123e4567-e89b-12d3-a456-426614174000"}
data: [DONE]
  1. 流式调用需要将传入参数 stream 设置为 true,将会在模型不断生成内容的过程中实时返回,适用于网页、APP、小程序等调用端进行流式输出。
  2. 当输出为 "[DONE]" 时表示输出结束,其中每一行数据都会携带 session_id 字段。

当通过 app_code 参数指定了应用时,可在应用管理页面中对 记忆轮次和保留时间 进行配置,同时会话记忆将按照 应用+会话ID 维度进行隔离存储,即同一个 session_id会在不同应用中有独立的上下文记忆:
应用记忆功能

当通过 app_code 参数指定了工作流时,系统将维护整个工作流的输入/输出记忆,可在大模型或应用节点中开启记忆并指定记忆的轮次:
工作流记忆功能

其他说明

接口文档

点击查看 Link.AI 对话记忆 API 文档,详细了解接口定义(接口地址、请求头、请求体、错误说明和示例代码等),进行在线调试。

计费说明

Link.AI 根据资源容量、功能权益、服务支持的不同,划分为 基础版、标准版、专业版 和 企业版 四个不同的版本,为不同需求的客户提供可选择的订阅服务,可点击查看 Link.AI 计费规则

使用中如有问题,可以在平台联系客服咨询

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/789401.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

devexpress 组件使用研究

1.提示框private void textEdit1_KeyPress(object sender, KeyPressEventArgs e) { if (e.KeyChar == ( char)Keys.Enter) { AlertControl alert = new AlertControl(); alert.Show(this, "提示", textEdit1.Text, true);} }

Vue2实现应用添加水印的功能

需求 有的情况,我们需要给我们的网页添加水印。我们可以使用第三方库Watermark Design。官方地址:https://watermark-design.github.io/watermark/zh/ 效果示例代码 入口文件main.js import WatermarkDesign from @watermark-design/vue; Vue.use(WatermarkDesign)vue容器App…

Hive源码解析

1.概述 Apache Hive是一款建立在Hadoop之上的数据仓库工具,它提供了类似于SQL的查询语言,使得用户能够通过简单的SQL语句来处理和分析大规模的数据。本文将深入分析Apache Hive的源代码,探讨其关键组件和工作原理,以便更好地理解其在大数据处理中的角色。 2.内容 在开始源代…

芒格-“用幸存者心态去对待问题,永远不要有受害者心态”

我不会因为人性而感到意外,也不会花太多时间感受背叛, 我总是低下头去调整自己,去适应这一类事情, 所以我不允许自己花太多时间,去感受背叛, 但凡有一丁点这种想法,从我脑海闪过,我就马上规避掉了, 我不喜欢任何成为受害者的感觉, 我认为这是一种反其道而行之的人类思…

三分钟总结开源流程表单的优势特点

今天一起来看看开源流程表单的优势特点,一起了解它为何能助力企业降本增效。实现流程化办公,可以借助低代码技术平台、开源流程表单的优势特点。作为当前较为理想的平台产品,低代码技术平台凭借够灵活、好操作、可视化界面的优势特点,得到了通信业、医疗、高校等很多行业客…

使用zig语言制作简单博客网站(六)文章详情页

前端代码前端代码 <!DOCTYPE html> <html lang="zh-CN"><head><meta charset="UTF-8"><meta name="viewport" content="width=device-width, initial-scale=1.0"><link rel="stylesheet" …

为何选择合适的文档管理系统至关重要?

国内外主流的 10 款文档管理系统对比:1.PingCode;2.Worktile;3.飞书文档;4.石墨文档;5.语雀;6.Google Docs;7.Dropbox Business;8.Confluence;9.Microsoft OneDrive;10.Box。在当今快速发展的商业环境中,众多企业面临的一个主要挑战是如何有效管理日益增长的文件和数…

Vue3的学习---11

11. Vue组合式API 11.1 为什么要使用Composition API 11.1.1 一个Options API实例 在前面都是采用Options API(基于选项的API)来些一个组件,下面是一个实例 <template>num:{{ num }}<br>double:{{ double }}<button @click="add">加</butt…

二. Spring Boot 中的 “依赖管理和自动配置” 详解透彻到底(附+详细代码流程)

二. Spring Boot 中的 “依赖管理和自动配置” 详解透彻到底(附+详细代码流程) @目录二. Spring Boot 中的 “依赖管理和自动配置” 详解透彻到底(附+详细代码流程)1. 如何理解 “ 约定优于配置 ”2. Spring Boot 依赖管理 和 自动配置2.1 Spring Boot 的依赖管理2.1.1 什么…