DMS+ADB-PG支持一键部署QwQ-32B推理模型

news/2025/3/9 13:07:45/文章来源:https://www.cnblogs.com/fengmobei/p/18757931

3月6日,阿里云发布并开源全新的推理模型通义千问QwQ-32B。通过大规模强化学习,千问QwQ-32B在数学、代码及通用能力上实现质的飞跃,整体性能比肩DeepSeek-R1。在保持强劲性能的同时,千问QwQ-32B还大幅降低了部署使用成本,在消费级显卡上也能实现本地部署。此次,阿里云采用宽松的Apache2.0协议,将千问QwQ-32B模型向全球开源,所有人都可免费下载及商用。

现已支持在DMS+ADB上私域部署并与Dify打通使用, 低至2万+/月即可获得独占满血版服务,开通参考下述指南:

一、开通AI实例的ADB节点

选择 ADB.AIMedium.2 以及以上的规格,如Large.2,XLarge.2等进行开通。如已有ADB实例请忽略;

快捷链接:https://yaochi.console.aliyun.com/NewPurchase?newProductCodes=adbMysql,adbPg

二、DMS上部署模型,并与Dify打通

前置条件:已开通Dify On DMS服务,如需开通请点此申请。PS:若不部署Dify,单独创建工作空间也可完成模型部署和使用。

1.进入Dify所在工作空间,点击模型部署:

用户登陆地址:https://dms.aliyun.com/

2.选择QwQ-32B镜像,配置相关参数,进行部署即可。

3.部署完成后,获取模型URL:

4.在Dify模型供应商进行配置:

5.配置完成后即可使用:

如有疑问,请钉钉扫码入群交流

参考资料
1.Data+AI 数据管理服务 DMS
2.云原生数据仓库 AnalyticDB PostgreSQL 版
3.数据管理 DMS支持托管 Dify 免费邀测

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/895135.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

下载安装nvm

1.下载 网址:Release - nvm-windows:一个针对Windows平台的Node.js版本管理工具,是用Go语言编写的。 - GitCode 能不能打开看命,我是一直打不开,还是同事打开了发给我得 2.安装 找到nvm文件,找到setting.txt文件并打开复制下面代码,引用镜像:node_mirror: https://npm…

算法学习笔记:DS-区间类问题

DS:区间类问题 前言 对于区间或区间子区间问题,我们有一些惯用套路简化问题。 很多区间问题都可以转化为平面上矩形问题,用扫描线就可以解决。具体地,我们把区间 \([l,r]\) 抽象为平面内的点 \((l,r)\)。 同时我们可以使用反演的思路,考虑每个值对哪些询问如何造成贡献,而…

vuepress中引入本地资源

二次封装了一个jessibuca的组件 使用vuepress写文档一时不知如何引入jessibuca.js文件 于是搜索且验证以下可行方式 // .vuepress/config,js 文件 添加head配置项 module.exports = {...head: [[script, { src: /jessibuca-pro.js }]]... }jessibuca.js和decoder.js文件放在pub…

VMware ESXi 6.7 U3v (ESXi670-202503001) 下载

VMware ESXi 6.7 U3v (ESXi670-202503001) 下载VMware ESXi 6.7 U3v (ESXi670-202503001) 下载 VMware ESXi 6 Extend Support Release 🆓 🔄 请访问原文链接:https://sysin.cn/blog/vmware-esxi-6/ 查看最新版。原创作品,转载请保留出处。 作者主页:sysin.org2025-03-0…

Linux系统离线安装docker环境

1 下载docker的安装文件 下载地址:https://download.docker.com/linux/static/stable/x86_64/ 2 解压 tar -zxvf docker-18.06.3-ce.tgz 3 复制 cp ./docker/* /usr/bin 4 创建docker.service文件 cd /etc/systemd/system/ touch docker.service 5 编辑docker.service文件 vi …

告别Qt,拥抱CUTOS - 智能设备应用开发新选择

本文探讨了在智能设备应用开发领域,从传统Qt框架向新兴CUTOS框架的转变。CUTOS在开发效率、稳定性、学习门槛和生态融合等方面表现突出,将成为更具前瞻性的开发框架。一、引言 Qt是一个功能强大且历史悠久的跨平台C++应用开发框架,由芬兰公司Qt Company开发。Qt在汽车、航空…

k3s高可用集群搭建

机器统一操作 # 更新yum源数据 # 复制ContOS-Base.repo到/etc/yum.repos.d/ yum makecache yum update -y# 安装vim yum install -y vim# 关闭swap vim /etc/fstab 注释掉最后一行 # /dev/mapper/centos-swap swap swap defaults 0 0 swapoff -a#…

kylin v10 sp2升级glibc到2.29和2.31

目录环境安装glibc2.29安装glibc2.31 环境 [root@kyline10 ~]# cat /etc/os-release NAME="Kylin Linux Advanced Server" VERSION="V10 (Sword)" ID="kylin" VERSION_ID="V10" PRETTY_NAME="Kylin Linux Advanced Server V10 (…

pycharm连接CentOS虚拟机并执行Spark

pycharm连接虚拟机注意:pycahrm远程使用ssh连接虚拟机需要专业版在CentOS7的虚拟机当中,会自带一个python2.6老版本的python,所以自己准备一个python3.x版本的解释器,如python3.9 一、前置准备工作 # 安装前置依赖 yum install zlib-devel bzip2-devel openssl-devel ncurs…

02_openai开发

基本概念Tokens(标记):在自然语言处理中,token是输入文本被分割成的小单元。一个token可以是一个单词、一个子词,甚至是一个字符。这取决于文本的具体分割方式。OpenAI常用参数 1. max_tokens(最大token数) 定义:指令生成的回答中包含的最大token数。例如,如果设置为1…

day20 yum的详细的讲述

day20 yum的精讲 yum是centos 7中很重要的工具需要我们去了解和学习 1.学习的任务和背景 一般开发团队需要数据库的环境来测试程序 现在需要运维人员来协助在测试机器上Centos7上安装好 MySQL-5.6.43版本来作为前期迁移的准备的工作 同时== 配备好本地的yum源==方便后续软件包的…

Active Directory审核的常见误区(3)

一、忽略过时、未激活和孤立的用户帐户 存在未使用的用户帐户在AD域中是一个重大的安全隐患。离职员工和黑客可能会因此漏洞而去窃取企业的重要资源。这时候,制定处理离职员工的策略就显得至关重要,这包括禁用他的AD用户帐户、将他从电子邮件组中删除、撤销他对业务应用程序的…