腾讯云 TI 平台部署与调用DeepSeek-R1大模型的实战指南

news/2025/2/6 11:51:11/文章来源:https://www.cnblogs.com/guoxiaoyu/p/18699955

今天我们将继续探讨如何部署一个私有化的 DeepSeek-R1 大模型,具体的部署过程我们将利用腾讯云的 TI 平台进行操作。当前,腾讯云 TI 平台为用户提供了免费体验的满血版 DeepSeek-R1 大模型,同时该平台还提供了开放的 API 接口服务,用户可以方便地将其接入到自己的平台中,进行定制化使用。接下来,我们将深入讲解如何快速实现 DeepSeek-R1 大模型的私有化部署,帮助大家更高效地掌握整个流程,确保能够顺利地将这一先进技术应用到自己的实际场景中。

腾讯云 TI 平台

免费体验

第一步,我们首先需要登录腾讯云,进入腾讯云的控制台页面,接着在搜索栏中查找“腾讯云 TI 平台”。需要注意的是,目前该平台的产品名称仍然为“TI-ONE 训练平台”,在搜索结果中点击对应的产品名称进入平台页面,如下图所示:

image

进入之后我们就可以来到广场免费体验一波了,一个满血版一个低配版,你可以直接只管对比两者的差距。如图所示:

image

免费API

当然,你也可以直接对接完整版的API接口,值得注意的是,直到2025年2月26日之前,该接口将是免费的,因此现在完全可以放心使用。接下来,我们将首先在本地安装所需的相关依赖,以确保能够顺利调用该API并与之进行交互。

python3 -m pip install --upgrade tencentcloud-sdk-python-common
python3 -m pip install --upgrade tencentcloud-sdk-python-lkeap

紧接着使用官方提供的SDK直接调用即可。代码如下:

import json
from tencentcloud.common.common_client import CommonClient
from tencentcloud.common import credential
from tencentcloud.common.exception.tencent_cloud_sdk_exception import TencentCloudSDKException
from tencentcloud.common.profile.client_profile import ClientProfile
from tencentcloud.common.profile.http_profile import HttpProfileclass NonStreamResponse(object):def __init__(self):self.response = ""def _deserialize(self, obj):self.response = json.dumps(obj)try:# 实例化一个认证对象,入参需要传入腾讯云账户 SecretId 和 SecretKey,此处还需注意密钥对的保密# 代码泄露可能会导致 SecretId 和 SecretKey 泄露,并威胁账号下所有资源的安全性。以下代码示例仅供参考,建议采用更安全的方式来使用密钥,请参见:https://cloud.tencent.com/document/product/1278/85305# 密钥可前往官网控制台 https://console.cloud.tencent.com/cam/capi 进行获取cred = credential.Credential("", "")httpProfile = HttpProfile()httpProfile.endpoint = "lkeap.tencentcloudapi.com"httpProfile.reqTimeout = 40000  # 流式接口可能耗时较长clientProfile = ClientProfile()clientProfile.httpProfile = httpProfileparams = "{\"Model\":\"deepseek-r1\",\"Messages\":[{\"Role\":\"user\",\"Content\":\"你好\"}],\"Stream\":true}";common_client = CommonClient("lkeap", "2024-05-22", cred, "ap-guangzhou", profile=clientProfile)resp = common_client._call_and_deserialize("ChatCompletions", json.loads(params), NonStreamResponse)if isinstance(resp, NonStreamResponse):  # 非流式响应print(resp.response)else:  # 流式响应for event in resp:print(event)
except TencentCloudSDKException as err:print(err)

私有化部署

当然,如果你希望更好地保护个人或企业的隐私数据,那么私有化部署将成为不可或缺的选择。腾讯云 TI 平台特别为用户提供了多种算力配置的服务器,可以根据自己的实际需求进行选择。目前,DeepSeek的大模型提供了多种版本,你可以根据项目需求查看不同的模型选项。需要注意的是,算力收费与所选模型的大小并不直接相关,因此你完全可以选择直接部署性能最强的完整版DeepSeek-R1大模型,以获得更强大的计算能力和更高的性能表现。如图所示:

image

在完成部署后,你将能够直接调用兼容OpenAI接口的服务,享受其提供的强大功能。目前,由于OpenAI的接口已经广泛应用和普及,因此在此不再进行演示,相关的调用方式和文档资料已随处可见。

总结

通过本次讨论,我们详细介绍了如何利用腾讯云的 TI 平台完成 DeepSeek-R1 大模型的私有化部署。无论是通过免费的API体验,还是选择适合自己需求的算力配置,用户都能轻松实现大模型的集成和定制化应用。接下来,随着技术不断发展,私有化部署将在保障数据安全的同时,进一步提升企业的计算能力和应用效果。

希望今天的分享能帮助大家更好地理解并掌握这一流程。


我是努力的小雨,一个正经的 Java 东北服务端开发,整天琢磨着 AI 技术这块儿的奥秘。特爱跟人交流技术,喜欢把自己的心得和大家分享。还当上了腾讯云创作之星,阿里云专家博主,华为云云享专家,掘金优秀作者。各种征文、开源比赛的牌子也拿了。

💡 想把我在技术路上走过的弯路和经验全都分享出来,给你们的学习和成长带来点启发,帮一把。

🌟 欢迎关注努力的小雨,咱一块儿进步!🌟

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/879594.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

本地化部署deepseek For_Mac

最近deepseek非常火爆,蒸馏算法的落地,实现了小资源跑大模型,也极大的降低了本地化运行的门槛,为打工人带来了福音;本地化运行可以解决脱网、隐私、审计等重要问题,适合闲暇聊个天、练练英语、完成打工任务 等step1 下载并安装Ollama Ollama是一个开源的 LLM(大型语言模…

数字先锋 | 车企,出海!天翼云AOne擦亮车企“智慧服务”新名片!

近年来,中国汽车市场迎来巨变,消费者的消费习惯不断变迁,价格战愈演愈烈......如何紧跟数字化转型步伐,实现稳健经营,成为车企所面临的时代命题。作为一家科技型制造企业,某车企主营业务涉及汽车及核心三电等产品的研发、制造、销售及服务。公司产品线覆盖新能源汽车和传…

电影《哪吒之魔童闹海》迅雷BT下载[MP4/1.12GB/2.35GB]百度云高清版共享[HD1280p资源已更新]

在那遥远的古代,天地未分,混沌一片,而人间却孕育着无尽的传奇。陈塘关,这个被山海环绕的古城,再一次成为了世人瞩目的焦点。风起云涌间,一个关于哪吒的传奇故事再次拉开序幕,这一次,他不再是那个孤军奋战的孩童,而是携手敖丙,共同面对命运的挑战。电影《哪吒之魔童闹…

帆软单元格换行

在Oracle查询数据时,使用函数WM_CONCAT函数把数据拼成 “A,B,C”格式时,在报表展示中如果在同一个单元格中展示就会显得很拥挤。所以就想通过“,”来实现单元格中换行显示。使用场景 每一行显示一个患者信息,同时该患者的多个诊断、手术等。REPLACE($$$,,,\n)也可参考帆软指…

底层开发必备技能:C#中的位运算

底层开发必备技能:C#中的位运算 在编程的世界里,位运算是程序员掌握底层开发和优化性能的利器。对于那些需要处理二进制数据、优化算法或进行底层操作的开发者来说,理解并熟练使用位运算符是必不可少的技能。本文将详细介绍C#中的位运算符及其应用场景,帮助你更好地理解和运…

关于NVIDIA控制面板无法调节颜色设置

1.排除了显卡驱动过旧的情况具体操作:下载DDU将老版本驱动删除,再从英伟达官网(后缀为.cn)根据自己电脑下载对应型号的驱动,自定义安装——执行清洁安装结果:无效 2.排查系统设置与更新具体操作:用管理员权限打开CMD,依次运行sfc /scannow        DISM /Online…

P1220关路灯双log

加强版。课上讲到的经典例题,以下的时空 \(\mathcal O(n\log^2 V)\) 做法(\(V\) 为路灯位置值域)理论上是人尽皆知的,但是全网搜不到这么搞的题解,估计是这题太久远了。传统区间 DP 无法规避两维状态的问题在于,每次折返/拓展时要用新增时间计算两侧灯消耗的额外能量。考…

Xshell 8 Build 0066绿色特别版发布:功能强大且永久免费使用

软件介绍 Xshell 8 Build 0066 绿色特别版是一款强大且实用的远程连接与管理工具集。Xshell 本身就是备受赞誉的 Linux 远程连接工具,以及强大的 SSH 终端管理器,能帮助用户轻松管理远程服务器。而这个绿色特别版在原版基础上进行了深度优化和处理,由 zdBryan 精心打造。它基…

浏览器事件循环

宏任务浏览器执行的异步代码 eg:JS执行脚本事件、setTimeout/setInterval,ajax请求完成事件、用户交互事件等微任务Js引擎执行的异步代码 eg:Promise对象.then()的回调注意:Promise本身是同步的JS内代码执行流程 执行script脚本事件宏任务里面的同步代码,遇到宏任务/微任务…

《ESP32-S3使用指南—IDF版 V1.6》第四章 认识ESP-IDF

第四章 认识ESP-IDF 1)实验平台:正点原子DNESP32S3开发板 2)章节摘自【正点原子】ESP32-S3使用指南—IDF版 V1.6 3)购买链接:https://detail.tmall.com/item.htm?&id=768499342659 4)全套实验源码+手册+视频下载地址:http://www.openedv.com/docs/boards/esp32/ATK…

使用大模型

https://github.com/deepseek-ai/awesome-deepseek-integration/blob/main/docs/zotero/README_cn.md--- 她说, 她是仙,她不是神

spring之hellospring

高耦合的代码 我想要写一段程序,该程序有dao层和service层,dao层有接口UserDao,定义了一个方法叫做sayHello(),并且在dao层定义两个类MysqlDao和OracleDao,他们都实现了UserDao接口,并且实现了sayHello()方法,如图和代码所示 UserDao接口的代码如下package com.loubin.…