部署谷歌的Gemini大模型

前言

本文将介绍如何使用Docker、Docker-Compose私有化部署谷歌的Gemini大模型,以及没有服务器的情况下如何使用Vercel来部署。

Demo:

使用新加坡云服务器部署:Gemini Pro Chat (snowice.eu.org)

使用Vercel部署:Gemini Pro Chat (snowice.eu.org)

作者项目地址babaohuang/GeminiProChat: Minimal web UI for GeminiPro. (github.com)

部署

获取API

Docker部署

如果你还没有安装Docker,Centos7安装Docker和Docker-Compose

本教程使用的是新加坡的云服务器,如果你使用国内的可能需要代理!

docker run --name geminiprochat \
--restart always \
-p 3000:3000 \
-itd \
-e GEMINI_API_KEY=*** \
babaohuang/geminiprochat:latest

***改为你获取到的API

还可以设置别的环境变量,例如设置网站密码为'123'

docker run --name geminiprochat \
--restart always \
-p 2990:3000 \
-itd \
-e GEMINI_API_KEY=*** \
-e SITE_PASSWORD=123 \
babaohuang/geminiprochat:latest

环境名描述是否必填
GEMINI_API_KEY您的 GEMINI 的 API 密钥。你可以从这里得到它。
API_BASE_URLGEMINI API 的自定义基础 URL。点击此处查看如何使用。
HEAD_SCRIPTS在页面的 </head> 标签之前注入分析或其他脚本。
PUBLIC_SECRET_KEY项目的秘密字符串。用于生成 API 调用的签名。
SITE_PASSWORD为站点设置密码,支持多个用逗号分隔的密码。如果未设置,站点将是公共的。

Docker-Compose部署

首先创建docker-compose.yml

vim docker-compose.yml

将以下内容粘贴到yml文件中,同样的将***换成获取到的API,同样的也可以设置别的环境变量

version: '3'services:geminiprochat:container_name: geminiprochatrestart: alwaysports:- "3000:3000"environment:- GEMINI_API_KEY=***image: babaohuang/geminiprochat:latest

设置网站密码为'123'

version: '3'services:geminiprochat:container_name: geminiprochatrestart: alwaysports:- "3000:3000"environment:- GEMINI_API_KEY=***- SITE_PASSWORD=123image: babaohuang/geminiprochat:latest

以“后台模式”运行服务

docker-compose up -d

更新服务

首先先暂停容器(回到你这个容器的docker-compose.yml目录下执行命令)

docker-compose down

重新拉取镜像

docker-compose pull

再次运行即可

docker-compose up -d

Vervel部署

Vercel点击一键部署,当然你也可以fork该项目自行使用Vervel部署

[t-primary icon='']点击Create[/t-primary]

输入你的API 点击Deploy

稍等片刻 部署成功

部署成功之后Vervel会送你一个域名可以访问该项目,但是该域名被墙了,因此需要自行添加域名。

在Vercel上配置自定义域名

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/299511.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

1861_什么是H桥

Grey 全部学习内容汇总&#xff1a; GitHub - GreyZhang/g_hardware_basic: You should learn some hardware design knowledge in case hardware engineer would ask you to prove your software is right when their hardware design is wrong! 1861_什么是H桥 H桥电路可以…

drf知识--05

两个视图基类 # APIView&#xff1a;之前一直在用---》drf提供的最顶层的父类---》以后所有视图类&#xff0c;都继承自它 # GenericAPIView&#xff1a;继承自APIView--》封装 继承APIView序列化类Response写接口 # urls.py--总路由 from django.contrib import admin from dj…

redis—String字符串

目录 前言 1.字符串数据类型 2.常见命令 3.典型应用场景 前言 字符串类型是Redis最基础的数据类型&#xff0c;关于字符串需要特别注意: 1)首先Redis中所有的键的类型都是字符串类型&#xff0c;而且其他几种数据结构也都是在字符串类似基础.上构建的&#xff0c;例如列表…

《深入理解C++11:C++11新特性解析与应用》笔记三

第三章 通用为本 专用为末 3.1 继承构造函数 派生类如果要使用基类的构造函数&#xff0c;通常要在构造函数中显式声明&#xff1a; 如果基类中有很多版本的构造函数&#xff0c;派生类里想要拥有和基类那样多的构造函数&#xff0c;就必须一一透传各个接口&#xff0c;相当麻…

Json和Xml

一、前言 学习心得&#xff1a;C# 入门经典第8版书中的第21章《Json和Xml》 二、Xml的介绍 Xml的含义&#xff1a; 可标记性语言&#xff0c;它将数据以一种特别简单文本格式储存。让所有人和几乎所有的计算机都能理解。 XML文件示例&#xff1a; <?xml version"1.…

漏刻有时数据可视化Echarts组件开发(46)散点图颜色判断

series组件 series: [{name: Top 5,type: scatter,coordinateSystem: bmap,data: convertData(data.sort(function (a, b) {return b.value - a.value;}).slice(0, 6)),symbolSize: 20,encode: {value: 2},showEffectOn: render,rippleEffect: {brushType: stroke},label: {fo…

AG16KDDF256 User Manual

AGM AG16KDDF256 是由 AGM FPGA AG16K 与 DDR-SDRAM 叠封集成的芯片&#xff0c;具有 AG16K FPGA的可编程功能&#xff0c;提供更多可编程 IO&#xff0c;同时内部连接大容量 DDR-SDRAM。  FPGA 外部管脚 FBGA256 封装&#xff0c;管脚说明请见下表 Table-1&#xff1a; Tab…

一篇讲透:箭头函数、普通函数有什么区别

前言 &#x1f4eb; 大家好&#xff0c;我是南木元元&#xff0c;热衷分享有趣实用的文章&#xff0c;希望大家多多支持&#xff0c;一起进步&#xff01; &#x1f345; 个人主页&#xff1a;南木元元 目录 什么是箭头函数 箭头函数和普通函数的区别 更简洁的语法 箭头函数…

【JAVA面试题】static的作用是什么?详细介绍

&#x1f34e;个人博客&#xff1a;个人主页 &#x1f3c6;个人专栏&#xff1a; JAVA ⛳️ 功不唐捐&#xff0c;玉汝于成 目录 前言 解释 静态变量&#xff08;类变量&#xff09;&#xff1a; 静态方法&#xff1a; 静态块&#xff1a; 静态内部类&#xff1a…

人工智能_机器学习074_SVM支持向量机_软间隔与优化目标函数构建_C参数由来_惩罚误差点的惩罚度---人工智能工作笔记0114

然后我们接着上一节再来看一下这里我们说有个 min_faces_per_person = 0 这个可以看到如果我们写上0,就意味着要加载所有的人脸图片,就会花费的时间久对吧 我们可以试试,这里我们 min_faces_per_person = 0 改成0然后 我们等一会加载完了以后,我们用 display(X.shape,faces.sh…

5g消息-5G时代短信升级-富媒体智能交互-互联网新入口

在5G时代&#xff0c;运营商和各大手机厂商都在积极推进5G消息的商用&#xff0c;基于短信入口的富媒体消息应用在近两年得到快速发展&#xff0c;并在企业端形成了广泛应用。 作为5G时代的数字原生应用&#xff0c;5G消息支持用户通过文字、图片、音频、视频、位置等富媒体方式…

Windows操作系统中:共享文件夹以及防火墙介绍

目录 一.共享文件夹 1.什么是共享文件夹 2.共享文件夹的优点以及不足 优点 不足之处 3.实际案例操作 共享介绍 普通共享 实例展示 高级共享 实例展示 二.防火墙 1.防火墙介绍 主要功能 2.防火墙常见的应用场景 3.实例操作 操作介绍 出现的问题 解决措施…