基于星火和Gradio的聊天机器人

星火大模型官网:https://xinghuo.xfyun.cn/

1 创建虚拟环境(windows)

conda create -n Gradio python=3.8
pip install gradio

中间遇到os报错,解决方案:

pip install aiofiles==23.2.1

2 代码

SparkDesk.py:
下面代码是一个用于与基于WebSocket的聊天机器人API进行交互的Python实现。下面逐个解释代码的每个部分:

  1. 代码导入了几个模块,用于各种功能,例如线程处理(_thread),base64编码,哈希算法,JSON操作,与时间相关的操作,URL解析,SSL处理,CSV处理以及websocket库。
  2. 接下来,代码定义了一个名为Ws_Param的类,该类用于初始化建立WebSocket连接和生成URL所需的参数。
  3. Ws_Param类中有一个名为create_url()的方法,用于生成建立WebSocket连接的URL。它使用HMAC-SHA256加密构建必要的身份验证头。
  4. 代码定义了几个WebSocket事件处理函数:
    a. 5.on_error:处理WebSocket连接期间发生的错误。
    b. on_close:处理WebSocket连接关闭事件。
    c. on_open:处理WebSocket连接打开事件。
    d. on_message:处理WebSocket连接收到的传入消息。
  5. run函数设计为在单独的线程中运行,并向聊天机器人API发送初始请求载荷。
  6. gen_params函数是一个辅助函数,用于生成聊天机器人API请求的JSON载荷。
  7. main函数是启动WebSocket连接的入口点。它创建Ws_Param类的实例,生成WebSocket URL,并使用websocket库中的WebSocketApp类来初始化WebSocket连接。
  8. ask_question函数是对main函数的封装,提供了一个便捷的方法来向聊天机器人API提问问题。
  9. 最后,startSparkOne函数是ask_question的封装函数,可以通过将问题作为参数传递给它来启动与聊天机器人API的交互。
    要使用此代码,在调用startSparkOne函数时,您需要为appid,api_key,api_secret和gpt_url参数提供适当的值。
import _thread as thread
import base64
import datetime
import hashlib
import hmac
import json
import pickle
import time
from urllib.parse import urlparse
import ssl
import sys
import io
import csv
from datetime import datetime
from time import mktime
from urllib.parse import urlencode
from wsgiref.handlers import format_date_time
# websocket-client
import websocketclass Ws_Param(object):# 初始化def __init__(self, APPID, APIKey, APISecret, gpt_url):self.APPID = APPIDself.APIKey = APIKeyself.APISecret = APISecretself.host = urlparse(gpt_url).netlocself.path = urlparse(gpt_url).pathself.gpt_url = gpt_url# 生成urldef create_url(self):# 生成RFC1123格式的时间戳now = datetime.now()date = format_date_time(mktime(now.timetuple()))# 拼接字符串signature_origin = "host: " + self.host + "\n"signature_origin += "date: " + date + "\n"signature_origin += "GET " + self.path + " HTTP/1.1"# 进行hmac-sha256进行加密signature_sha = hmac.new(self.APISecret.encode('utf-8'), signature_origin.encode('utf-8'),digestmod=hashlib.sha256).digest()signature_sha_base64 = base64.b64encode(signature_sha).decode(encoding='utf-8')authorization_origin = f'api_key="{self.APIKey}", algorithm="hmac-sha256", headers="host date request-line", signature="{signature_sha_base64}"'authorization = base64.b64encode(authorization_origin.encode('utf-8')).decode(encoding='utf-8')# 将请求的鉴权参数组合为字典v = {"authorization": authorization,"date": date,"host": self.host}# 拼接鉴权参数,生成urlurl = self.gpt_url + '?' + urlencode(v)# 此处打印出建立连接时候的url,参考本demo的时候可取消上方打印的注释,比对相同参数时生成的url与自己代码生成的url是否一致return url# 收到websocket错误的处理
def on_error(ws, error):print("### error:", error)# 收到websocket关闭的处理
def on_close(ws, status_code, reason):print("")# 收到websocket连接建立的处理
def on_open(ws):thread.start_new_thread(run, (ws,))def run(ws, *args):data = json.dumps(gen_params(appid=ws.appid, question=ws.question))ws.send(data)# 收到websocket消息的处理
def on_message(ws, message):# print(message)data = json.loads(message)code = data['header']['code']if code != 0:print(f'请求错误: {code}, {data}')ws.close()else:choices = data["payload"]["choices"]status = choices["status"]content = choices["text"][0]["content"]print(content, end='')if status == 2:ws.close()def gen_params(appid, question):"""通过appid和用户的提问来生成请参数"""data = {"header": {"app_id": appid,"uid": "1234"},"parameter": {"chat": {"domain": "general","random_threshold": 0.5,"max_tokens": 2048,"auditing": "default"}},"payload": {"message": {"text": [{"role": "user", "content": question}]}}}return datadef main(appid, api_key, api_secret, gpt_url, question):wsParam = Ws_Param(appid, api_key, api_secret, gpt_url)websocket.enableTrace(False)wsUrl = wsParam.create_url()ws = websocket.WebSocketApp(wsUrl, on_message=on_message, on_error=on_error, on_close=on_close, on_open=on_open)ws.appid = appidws.question = questionws.run_forever(sslopt={"cert_reqs": ssl.CERT_NONE})def ask_question(question):main(appid="",api_secret="",api_key="",gpt_url="ws://spark-api.xf-yun.com/v1.1/chat",question=question)def startSparkOne(question):ask_question(question)

app.py:
这段代码实现了一个简单的聊天界面,用户可以输入消息与SparkDesk Chatbot进行交互。下面对每部分代码进行详细解释:

  1. 导入了random模块,用于随机生成响应消息,gradio模块用于创建交互界面,startSparkOne来自SparkDesk模块,用于与聊天机器人进行交互。另外还导入了sys和io模块,用于处理标准输出和字符串流对象。
  2. random_response函数是一个用于生成随机响应的函数。它接收两个参数,message表示用户输入的消息,history表示之前的对话历史。在函数内部,它创建了一个字符串流对象,并将标准输出重定向到该流对象。然后调用startSparkOne函数与聊天机器人交互,并将机器人的回复输出到标准输出流。最后,它将标准输出重定向回原来的标准输出,并获取标准输出流的内容,即机器人的回复。
  3. demo是一个gr.ChatInterface对象,用于创建聊天界面。它接受两个参数,第一个参数是一个函数,用于处理用户输入和生成响应,这里使用了random_response函数。第二个参数是界面的标题和描述。
  4. 最后,调用demo.launch()启动聊天界面。
    通过这段代码,可以在一个简单的界面中输入消息与SparkDesk Chatbot进行交互,并获得机器人的随机响应。
import random
import gradio as gr
from SparkDesk import startSparkOne
import sys, iodef random_response(message, history):# 创建一个字符串流对象,并将其设置为标准输出old_stdout = sys.stdoutnew_stdout = io.StringIO()sys.stdout = new_stdoutstartSparkOne(message)# 将标准输出重新设置为原来的标准输出sys.stdout = old_stdout# 获取标准输出的内容response = new_stdout.getvalue()return responsedemo = gr.ChatInterface(random_response,title="SparkDesk Chatbot",description="输入消息来与 SparkDesk Chatbot 进行交互。",
)demo.launch()

3 效果

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/59935.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

ThingJS开发使用感受

封面来源于网络。 一、前言 1. 背景 出于为了实现有关厂区的数字孪生项目,断断续续使用ThingJS平台开发一年左右,做一个使用感受的总结。 2. 业务场景 开发一个基于厂区的数字孪生项目,基于ThingJS低代码开发的页面分为div3d、div2d结构&am…

.bit域名调研

.bit域名研究 问题: .bit域名和ENS域名的相同点?不同点?有什么关系? .bit的定义 .bit 是基于区块链的,开源的,跨链去中心化账户系统.bit 提供了以 .bit 为后缀的全局唯一的命名体系,可用于加密…

模拟实现消息队列

目录 1. 需求分析1.1 介绍一些核心概念核心概念1核心概念2 1.2 消息队列服务器(Broker Server)要提供的核心 API1.3 交换机类型1.3.1 类型介绍1.3.2 转发规则: 1.4 持久化1.5 关于网络通信1.5.1 客户端与服务器提供的对应方法1.5.2 客户端额外…

传统图像算法 - 运动目标检测之KNN运动背景分割算法

以下代码用OpenCV实现了视频中背景消除和提取的建模,涉及到KNN(K近邻算法),整体效果比较好,可以用来进行运动状态分析。 原理如下: 背景建模:在背景分割的开始阶段,建立背景模型。 …

计算机视觉一 —— 介绍与环境安装

傲不可长 欲不可纵 乐不可极 志不可满 一、介绍 研究理论和应用 - 研究如何使机器“看”的科学 - 让计算机具有人类视觉的所有功能 - 让计算机从图像中,提取有用的信息,并解释 - 重构人眼;重构视觉皮层;重构大脑剩余部分 计…

【前端 | CSS】flex布局

基本概念 Flexible模型,通常被称为 flexbox,是一种一维的布局模型。它给 flexbox 的子元素之间提供了强大的空间分布和对齐能力 我们说 flexbox 是一种一维的布局,是因为一个 flexbox 一次只能处理一个维度上的元素布局,一行或者…

verity cannot ... ‘/dev/block/dm-4‘ is read-only/ 证书cacerts系统目录

网上的说的一种做法是 su mount -o rw,remount / mount -o rw,remount /system cp /data/misc/user/0/cacerts-added/269953fb.0 /system/etc/security/cacerts/ rm /data/misc/user/0/cacerts-added/269953fb.0 reboot 但是我机子是android 12.0 提示 /dev/block/dm-4…

MySQL中同比和环比语句如何写?

营收表如下(表名:a)如下图: 营收表 year month money 2021 1 1000 2021 2 1200 2022 1 1300 2022 2 1500 需要算出2022年营收同比与环比: 同比:和去年同月相比(1300-1000/1000*100%&#xff0…

Unity之ShaderGraph 节点介绍 数学节点

数学 高级Absolute(绝对值)Exponential(幂)Length(长度)Log(对数)Modulo(余数)Negate(相反数)Normalize(标准化矢量&…

QGIS二次开发二:不重新编译QGIS进行二次开发

目录 一、下载OSGeo4W 二、配置VS 三、测试代码 四、补充:配置QT插件 五、导出项目为模板 六、Release模式的一个问题解决 由于重新编译QGIS对于初学者来说还是有一定难度,因此这里介绍另外一种不编译QGIS也能够二次开发的方法,不需要…

分布式 - 消息队列Kafka:Kafka生产者发送消息的分区策略

文章目录 1. PartitionInfo 分区源码2. Partitioner 分区器接口源码3. 自定义分区策略4. 轮询策略 RoundRobinPartitioner5. 黏性分区策略 UniformStickyPartitioner6. hash分区策略7. 默认分区策略 DefaultPartitioner 分区的作用就是提供负载均衡的能力,或者说对数…

CDC 数据复制:技术、权衡、见解

推荐:使用NSDT场景编辑器助你快速搭建可编辑的3D应用场景 在本文中,我将定义 CDC 数据复制,简要讨论最常见的用例,然后讨论常见技术及其权衡。最后,我将提供一些我作为数据集成公司Dataddo的首席执行官和创始人所学到…