实时绘画迎来大更新,本地即可部署

img
个人网站:https://tianfeng.space

前言

自此LCM公布以来,这一个星期在相关应用方面的更新速度nb,各种实时绘画工作流随之出现,之前还只能依赖krea内测资格使用,让我们来看看上周发生了那些事吧!

网盘(其中实时绘画工作流下载于火锅):https://pan.quark.cn/s/223f12a85fa0

事件流程

本次讲解都是以comfyui为基础,如果没安装的可以看看,模型文件可以放在webui中,因为我的comfyui和webui共用一个模型文件夹

comfyui安装:https://blog.csdn.net/weixin_62403633/article/details/133994238?spm=1001.2014.3001.5501

LCM简单介绍:https://blog.csdn.net/weixin_62403633/article/details/134517970?spm=1001.2014.3001.5501

关于新手工作流搭建问题:可以先看看别人的,用的多了,相信你们自己后期也能搭建了

参考网站:https://comfyworkflows.com/

img

参考网站:https://civitai.com/search/models?sortBy=models_v5&query=workflow

img

参考网站:https://openart.ai/workflows/dev?sort=latest

img

1.LCM实时绘画工作流

我先公布我的节点把,img

缺哪个安装,防止无法复现工作流,重启

img

安装完毕记得全部更新一下img

刚安装的这个也更新一下,两个脚本文件点击一下

img

方案A:ComfyUI_Custom_Nodes_AlekPet节点(内置画板)

拖入工作流,ComfyUI_Custom_Nodes_AlekPet节点带有一个画板节点,可以直接画然后出结果,节点重新选一下模型和lcm-lora模型,右边勾选自动序列生成,点击提示词队列,开始实时绘画

img

img

方案B:comfyui-mixlab-nodes节点(投屏)

和上个工作流一样,就是画板节点换成了投屏节点

img

选择投屏psimg

回到comfyui,矩形选择ps画板区域(左上角拉到右下角就行)

img

最后点击liveRun,开启画中画,comfyui点击提示词队列,就可以实时绘画了

在这里插入图片描述

假设投屏选择的是ps,这个时候就会根据ps绘画进行实时绘画,旁边就是画中画实时预览img

方案C:krita绘画工具结合comfyui

https://github.com/Acly/krita-ai-diffusion#installation

img

把应用和插件都下载了

https://krita.org/zh/

https://github.com/Acly/krita-ai-diffusion/releases/download/v1.8.2/krita_ai_diffusion-1.8.2.zip

应用直接点击安装,打开后,把插件放在该目录下(插件如果更新下载替换就行)

img

打开krita,设置选项中,配置krita中python插件管理勾选AI Image Diffusion重启

img

打开comfyui和krita,新建一个画布,一般根据模型sd1.5一般512x512,sdxl则1024x1024,创建完成右下角会出现如下图(如果没有,设置->面板列表->勾选AI Image Diffusion)

img

点击configure配置,红色是缺少节点,你可以直接点击下载解压放到comfyui节点目录下,也可以去comfyui搜索安装,如果没有git clone或者下载解压

img

同时满足一下条件

https://github.com/Acly/krita-ai-diffusion/blob/main/doc/comfy-requirements.md

img

除了下载缺失节点还需要clip_vision模型放到models/clip_vision/SD1.5目录下

NMKD放大模型到models/upscale_models目录下

ipadapter模型放到custom_nodes/ComfyUI_IPAdapter_plus/models(直接把之前weui下的复制过去)

这个controlnet模型是放到节点里,所以共享模型无法识别;lcm-lora同样复制过来放了lora目录

(改名lcm-lora-sdv1-5.safetensors lcm-lora-sdxl.safetensors)

好了基本大功告成了,重新启动

img可以新建矢量图层,pose图,depth图等等,剩下的你们研究把!有问题私信。

2.SDXL-turbo

https://huggingface.co/stabilityai/sd-turbo/tree/main

img

SD-Turbo 是Stable Diffusion 2.1的精炼版本,经过实时合成训练。SD-Turbo 基于一种称为对抗扩散蒸馏 (ADD) 的新颖训练方法(请参阅技术报告),该方法允许在高图像质量下以 1 到 4 个步骤对大规模基础图像扩散模型进行采样。这种方法使用分数蒸馏来利用大规模现成的图像扩散模型作为教师信号,并将其与对抗性损失相结合,以确保即使在一个或两个采样步骤的低步骤状态下也能确保高图像保真度。

下载模型放置后搭建工作流体验,对物体还过得去,人物效果一般,期待后续优化。

提供两个工作流,可以https://civitai.com/models/219765/sdxl-turbo-lcmworkflow下载相应模型

img

2.SVD

SVD:该模型经过训练,可以在给定相同大小的上下文帧的情况下生成分辨率为 576x1024 的 14 帧。SVD-XT:与架构相同,SVD但针对 25 帧生成进行了微调。

SVD:https://huggingface.co/stabilityai/stable-video-diffusion-img2vid

SVD-XT:https://huggingface.co/stabilityai/stable-video-diffusion-img2vid-xt

img

当前局限性

  • 生成的视频相当短(<= 4秒),并且该模型无法实现完美的照片级真实感。
  • 该模型可能会生成没有运动或非常缓慢的摄像机平移的视频。
  • 模型无法通过文本控制。
  • 该模型无法呈现清晰的文本。
  • 一般情况下,面孔和人物可能无法正确生成。
  • 模型的自动编码部分是有损的。

下载对应模型文件即可使用,网盘提供一些工作流,更多请自己去我提供的网站下载吧!

img

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/245432.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

【UGUI】sprite精灵的创建与编辑

如何切图&#xff08;sprite editor&#xff09; 有时候一张图可能包含了很多张子图&#xff0c;就需要在Unity 临时处理一下&#xff0c;切开&#xff0c;比如动画序列帧图集 虽然我们可以在PS里面逐个切成一样的尺寸导出多张&#xff0c;再放回Unity&#xff0c;但是不需要这…

基于ssm的疫苗预约系统(有报告)。Javaee项目。ssm项目。

演示视频&#xff1a; 基于ssm的疫苗预约系统&#xff08;有报告&#xff09;。Javaee项目。ssm项目。 项目介绍&#xff1a; 采用M&#xff08;model&#xff09;V&#xff08;view&#xff09;C&#xff08;controller&#xff09;三层体系结构&#xff0c;通过Spring Spri…

汽车电子 -- 毫米波雷达

参看&#xff1a;自动驾驶感知——毫米波雷达 一、雷达分类 二、毫米波雷达信号频段 三、车载毫米波雷达的重要参数 常见参数 探测距离 &#xff08;车辆0.5m ~ 200m 行人0.5m ~ 70m&#xff09;距离向精度 &#xff08;0.15 m&#xff09;距离向分辨率 ( 0.5 m)测速范围…

java开发之个微机器人的开发

简要描述&#xff1a; 初始化通讯录列表 请求URL&#xff1a; http://域名地址/initAddressList 请求方式&#xff1a; POST 请求头Headers&#xff1a; Content-Type&#xff1a;application/jsonAuthorization&#xff1a;login接口返回 参数&#xff1a; 参数名必选…

ToDesk优惠码来了,需要的不容错过

最近发现Todesk也有活动了&#xff0c;很多小伙伴不知道&#xff0c;除了中秋国庆双节&#xff0c;ToDesk另有专享优惠码&#xff0c;输入优惠码最高立减25元&#xff0c;即使是活动日也能折上折&#xff0c;不影响此优惠码的折扣力度&#xff01; Todesk作为国内优良的远程控制…

idea保存时自动删除不用的import

1、File->setting 2、Editor->General->Auto Import 按照操作&#xff0c;即可实现&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;&#xff01;

如何使用Access中的窗体与数据打交道,看这篇文章就够了

Access数据库由一个或多个包含相关信息的表组成。一旦创建了这样一个空数据库,就可以遍历所有的表来填充信息。 然而,这可能会变得乏味和混乱。当你试图输入数据时,很难遵循表中数据之间的关系。访问输入窗体是一个很有价值的工具。你可以设计输入窗体,以便以逻辑格式输入…

VMware安装OpenEuler(安装界面)

本文中使用的OpenEuler版本&#xff1a;22.03 LTS SP2 VMware&#xff1a;17.0.0 一、下载镜像 根据CPU和场景&#xff0c;按需下载 https://www.openeuler.org/zh/download/?versionopenEuler%2022.03%20LTS%20SP2 二、初始化VmWare 三、配置操作系统 四、安装操作系统 …

【蓝桥杯】二分查找

二分查找 题目描述 输入 n n n 个不超过 1 0 9 10^9 109 的单调不减的&#xff08;就是后面的数字不小于前面的数字&#xff09;非负整数 a 1 , a 2 , … , a n a_1,a_2,\dots,a_{n} a1​,a2​,…,an​&#xff0c;然后进行 m m m 次询问。对于每次询问&#xff0c;给出一…

基于SSM框架的快乐商城设计与实现

目录 第一章 前言 1 1.1 系统开发引言 1 第二章 相关开发工具介绍 1 2.1 Eclipse介绍 1 2.2 Oracle数据库 1 2.3 Tomcat服务器 2 2.4 Spring 介绍 3 2.5 SpringMVC 介绍 4 2.6 Mybatis 介绍 4 第三章 系统可行性分析 4 3.1 技术可行性分析 4 3.2 操作可行性分析 5 3.3 经济可行…

成为AI产品经理——回归模型评估(MSE、RMSE、MAE、R方)

分类问题的评估是看实际类别和预测类别是否一致&#xff0c;它的评估指标主要有混淆矩阵、AUC、KS。回归问题的评估是看实际值和预测值是否一致&#xff0c;它的评估指标包括MAE、MSE、RMSE、R方。 如果我们预测第二天某支股票的价格&#xff0c;给一个模型 y1.5x&#xff0c;…

mockito加junit实现单元测试笔记

目录 一、简介1.1 单元测试的特点1.2 mock类框架使用场景1.3 常用mock类框架1.3.1 mockito1.3.2 easymock1.3.3 powermock1.3.4 JMockit 二、mockito的单独使用2.1 mock对象与spy对象2.2 初始化mock/spy对象的方式初始化mock/spy对象第1种方式初始化mock/spy对象第2种方式初始化…