大家好,我是六哥。
由于DeepSeek真的太火了,也许你也跟我一样,常会遇到这样的情况:
真的让人抓狂,10条回复里常常有9条是“服务器blabla,请稍后重试”,看到这话,就问你,谁能不崩溃?
其实仔细想想,DeepSeek的目标是AGI,算力资源更多用在探索模型上,很难兼顾几亿用户的推理需求。而且DeepSeek R1是开源的,人人都能部署。既然官方R1这么卡,咱们不妨换个思路,用别人部署的R1第三方服务,反正模型一样,效果没差。
有人可能想在自己电脑上部署,可R1模型参数高达671B,需要1300G显存才能运行满血版。现在普通人常用的4060显卡,显存才6G,就算用A100 80G的显卡,也得16张才能部署。那些所谓的本地运行R1教程,大多部署的是7B蒸馏版模型,和满血R1比起来,又笨又慢,基本没法用。所以,使用第三方服务成了最优选择。
目前国内很多云都支持DeepSeek的API调用,像百度云、腾讯云、华为云、阿里云,昨天下午火山引擎也加入了。不过,我觉得最好用、最适合小白的,是硅基流动+Chatbox AI的组合,体验超棒,而且价格亲民。硅基流动负责部署DeepSeek R1并提供API key,相当于后端;Chatbox AI是前端对话产品,输入硅基流动的API key就能对话,它还是目前唯一支持自定义API Key,且有Mac、Win、安卓、IOS四端产品的,太方便了。
下面就给大家分享具体教程,超级简单,一共两大步:第一步,获取硅基流动的API key;第二步,下载Chatbox AI并粘贴API key。
一、搞定硅基流动的API Key
首先,注册并登录硅基流动官网。现在硅基流动有活动,用我的邀请链接注册 (https://cloud.siliconflow.cn/i/nyZIgvwa),咱俩都能白嫖14块钱额度,高频使用2周到1个月没问题(真不是广告)。
登录后直接进入【模型广场】,别管排在首位的模型,看向最左边导航栏,找到【API密钥】点进去。
再点击右上角新建API密钥。密钥描述可以随意填写,方便自己区分就行,还能建多个密钥。新建完成,就能得到加密的API Key,点击密码处即可复制。这里一定要注意,千万不要把API key给别人,不然账户里的钱可能很快就没了。
二、下载Chatbox AI
这是一款我超喜欢的AI神器,官网:https://chatboxai.app/zh#download 。
可以直接下载所需客户端,苹果用户去AppStore下载,其他用户记得来官网下载。
以mac客户端为例(手机操作一样),打开后是空白对话界面,点击左下角设置按钮。在模型提供方里找到SiliconFlow API,在API密钥里输入上一步复制的API key,粘贴完,下面模型下拉框会出现硅基流动部署的模型,拉到后面选择DeepSeek R1模型,然后保存。
这样就全部完成了,随便提问测试,比如“我爱罗是葫芦娃中的几娃?”,
答案完美呈现,而且ChatBox AI界面还带有思考过程,太赞了!
三、写在最后
这回不用担心,服务器繁忙问题了,想怎么玩就怎么玩。
使用下来,总体体验还是比官网好很多。感谢硅基流动和华为春节期间的加班加点。未来,相信会有更多云厂商和算力租赁加入,让开源模型运行更稳、更快。教程已分享完,快去享受你的专属DeepSeek吧。
我是六哥,如果你对新技术感兴趣,记得星标我哈!