chatglm docker镜像,一键部署chatglm本地知识库

好久没有写文章了,今天有空,记录一下chatglm本地知识库的docker镜像制作过程。

核心程序是基于“闻达”开源项目,稍作改动。镜像可以直接启动运行,大家感兴趣可以进入镜像内部查看,代码位于 /app 目录下。

一、制作镜像:

docker tag chatglm:v1 ch1949/chatglm:latest
docker push ch1949/chatglm:latest

1) Tag 这里注意:

tag的名字斜线前面部分ch1949需要是本人docker的用户名,才能push成功。

本人的docker用户名,可以进入docker hub网站查看。

2) 通用化总结一下:

上传自己的镜像到 Docker Hub 上可以分为以下几个步骤:

  1. 注册 Docker Hub 账号并登录。在 Docker Hub 的官方网站上注册账号后,使用 docker login 命令登录到 Docker Hub。

    $ docker login

  2. 构建 Docker 镜像。在本地使用 Dockerfile 构建出需要上传的镜像,

    FROM python:3.9
    WORKDIR /app
    COPY . /app
    RUN pip install -r requirements.txt
    CMD ["python", "app.py"]

    通过 docker build 命令进行构建。

    $ docker build -t myusername/myapp:1.0 .

  3. 给镜像打标签。使用 docker tag 命令给构建出的镜像打上标签,格式为 <用户名>/<镜像名>:<标签>,其中 <用户名> 是在 Docker Hub 上注册的用户名,<镜像名> 是自己给镜像起的名字,<标签> 是版本号或者其他标识符。

    $ docker tag myusername/myapp:1.0 myusername/myapp:latest

  4. 上传镜像到 Docker Hub。使用 docker push 命令将打好标签的镜像上传到 Docker Hub 上,格式为 docker push <用户名>/<镜像名>:<标签>

    $ docker push myusername/myapp:1.0
    $ docker push myusername/myapp:latest

二、使用

1) 拉取镜像

(目前书库中只有一本《三国演义》)

docker pull docker.io/ch1949/chatglm

2) 创建容器

创建容器
# docker run --gpus all -p 17860:17860 --name chatglm -it ch1949/chatglm:latest后面可以通过start/stop来开关容器
# docker start chatglm
# docker stop chatglm

3) 然后直接浏览器访问  

这里记得打开你服务器机器的防火墙17860端口。

http://你机器的ip地址:17860

4) 看下效果

三、Dockerfile文件

FROM pytorch/pytorch:2.0.1-cuda11.7-cudnn8-runtime
LABEL maintainer="cc <ch1949@126.com>"
WORKDIR /appRUN conda install cudatoolkit=11.7 -c nvidia -yCOPY / ./RUN pip install -r requirements.txtCMD ["python", "main.py"]

关于dockerfile的一些说明:

这里有一个坑:pytorch/pytorch:2.0.1-cuda11.7-cudnn8-runtime 镜像里没有 libcudart11.0 libcublaslt11 库,需要单独安装。

否则会报错:Library cudart is not initialized

当然,也可以自行安装:

conda install cudatoolkit=11.7 -c nvidia -y

或者通过apt命令,比如在Ubuntu 22.04 下执行如下命令效果一样:

sudo apt install libcudart11.0 libcublaslt11

(未完待续)

20230704

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/13166.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

多元分类预测 | Matlab全连接神经网络(DNN)分类预测,多特征输入模型

文章目录 效果一览文章概述部分源码参考资料效果一览 文章概述 全连接神经网络(DNN)分类预测,多特征输入模型 多特征输入单输出的二分类及多分类模型。程序内注释详细,直接替换数据就可以用。程序语言为matlab,程序可出分类效果图,迭代优化图,混淆矩阵图。 部分源码

SpringBoot配置外部Tomcat项目启动流程源码分析

前言 SpringBoot应用默认以Jar包方式并且使用内置Servlet容器(默认Tomcat)&#xff0c;该种方式虽然简单但是默认不支持JSP并且优化容器比较复杂。故而我们可以使用习惯的外置Tomcat方式并将项目打War包。 【1】创建项目并打War包 ① 同样使用Spring Initializer方式创建项目 …

【kafka面试题2】如何保证kafka消息的顺序性

【kafka面试题】如何保证kafka消息的顺序性 一、整体策略 如何保证kafka消息的顺序性呢&#xff0c;其实整体的策略就是&#xff1a;我们让需要有序的消息发送到同一个分区Partition。 为什么说让有序的消息发送到同一个分区Partition就行呢&#xff0c;&#xff0c;下面我们…

Python学习笔记(十六)————异常相关

目录 &#xff08;1&#xff09;异常概念 &#xff08;2&#xff09;异常的捕获 ①异常捕获的原因 ②捕获常规异常 ③捕获指定异常 ④捕获多个异常 ⑤ 捕获异常并输出描述信息 ⑥捕获所有异常 ⑦异常else ⑧异常的finally &#xff08;3&#xff09;异常的传递 &#xff08…

Idea社区版创建SpringBoot

一 下载Spring Initalizr and Assistant插件 选择左上角的File->Settings->Plugins&#xff0c;在搜索框中输入Spring&#xff0c;出现的第一个Spring Boot Helper插件&#xff0c;点击Installed&#xff0c;下载插件。&#xff08;这里已经下载&#xff09; 二 创建Spr…

【MySQL练习及单表查询】

一、MySQL练习 一.创建表&#xff1a; 创建员工表employee&#xff0c;字段如下&#xff1a; id&#xff08;员工编号&#xff09; name&#xff08;员工名字&#xff09; gender&#xff08;员工性别&#xff09; salary&#xff08;员工薪资&#xff09; 二.插入数据 1&…

【Windows】Redis单机部署

下载redis 下载地址&#xff1a;Releases microsoftarchive/redis GitHub 1、下载后解压&#xff0c;在文件根目录下创建两个文件夹dbcache、logs 修改配置文件redis.windows.conf &#xff08;1&#xff09;配置redis地址&#xff1a; bind 127.0.0.1 &#xff08;2&am…

Redis常见数据结构

文章目录 前言一、Redis通用命令二、String类型三、Key的层级结构四、Hash类型五、List类型六、Set类型七、SortedSet类型 前言 Redis是一个key-value的数据库&#xff0c;key一般是String类型&#xff0c;但是value的类型多种多样 在学习Redis不同数据类型时&#xff0c;我们…

AIGC - Stable Diffusion 图像控制插件 ControlNet (OpenPose) 配置与使用

欢迎关注我的CSDN&#xff1a;https://spike.blog.csdn.net/ 本文地址&#xff1a;https://spike.blog.csdn.net/article/details/131591887 论文&#xff1a;Adding Conditional Control to Text-to-Image Diffusion Models ControlNet 是神经网络结构&#xff0c;用于控制预…

Vision Pro销售策略曝光,面罩/头带/屈光镜片加大零售难度

彭博社Mark Gurman再次发布了关于苹果Vision Pro的销售策略&#xff0c;以及零售方面的难题。 一、销售计划和策略 1&#xff0c;2024年初先在美国部分门店销售&#xff0c;仅线下购买&#xff0c;线上暂不开放。购买方式是先线上预约&#xff08;可能要提供面部扫描图、眼镜…

JMeter进行websocket测试

在做websocket性能测试的时候找了几个测试工具都暂时没有对websocket的支持&#xff0c;发现jmeter好像对websockect支持。但是使用jmeter时需要安装插件&#xff0c;下面一起看一下。 jmeter下载安装&#xff1a; 官网下载 https://jmeter.apache.org/download_jmeter.cgi 也…

spring-spring整合Junit

1.导包 <artifactId>spring-test</artifactId> <artifactId>junit</artifactId> 2.创建测试类