DeepSeekR1本地可视化运行!同时支持GPT4,Gemini,Cluade,Ollama所有开源模型

news/2025/1/24 21:30:41/文章来源:https://www.cnblogs.com/wangpg/p/18690374
昨天使用Ollama在本地运行了DeepSeek R1这个可以深度思考的AI模型。通过这种方式可以快速体验模型,但是要长期高频使用的话,通过命令行这种方式终究是不太方便。
所以今天来分享一个可视的软件ChatWise
 
 
添加图片注释,不超过 140 字(可选)
这是一个独立开发者开发的软件,界面简介,功能强大,支持多平台,支持几乎所有大语言模型的调用。
 
 
添加图片注释,不超过 140 字(可选)
软件界面布局清晰,左边是对话记录,中间是对话窗口,右边是参数设置。可以设置系统指令角色扮演,也可以调整Temperature,Truncate,Reply language等参数。
ChatWise其实是一个非常轻量级的软件,它并不真正运行任何模型,全部都是通过API来实现。几乎支持所有主流大模型。
下面就演示一下如何接入各类模型,闭源和开源的都可以。
接入OpenAI
先来说一下最具代表想的大语言模型ChatGPT。
 
 
添加图片注释,不超过 140 字(可选)
只要点击左下角的设置按钮,
点击Providers,
点击OpenAI,
输入API key
这样就配置完成了。
API key可以从OpenAI获取,也可以从第三方代理处获取,甚至可以用兼容OpenAI接口的其他模型服务中获取。
这里的API BASE URL和TTS Voice可以不用修改。
设置完成后,关闭设置窗口,选择ChatGPT的模型,就可以进行对话了。
除了ChatGPT之外,
还可以接入Anthropic,
DeepSeek,
ElevenLabs,
Google AI,
Groq,
Mistrral
等知名的大模型平台。
接入Github Copilot
Copilot是Github推出的AI编程助手,专门用于编程辅助。这里单图拿出来说一下,因为它是的授权不太一样,是使用github授权的方式来接入。
 
 
添加图片注释,不超过 140 字(可选)
点击设置里面的Github Copilot,就可以使用github账号进行授权了,上图为授权完成之后的状态。
Copilot是有免费配额的,所以如果你没有其他平台的API,可以先绑定这个,来快速体验。
 
 
添加图片注释,不超过 140 字(可选)
Copilot默认支持Claude 3.5 SonnetGPT-4o这两个顶级模型。
Google现在的大模型也很不错,但是我接入之后遇到了一些问题,就不展示了,可能是有一些bug。
接入Ollama
这个是我们今天的重点,Ollama支持Windows,Mac等平台,但是没有界面。而ChatWise刚好有一个很棒的界面,而且支持Ollama,而且也是支持多平台安装。可以说是天衣无缝,相当丝滑。
ChatWise通过Ollama可以对接所有主流的,强大的,最新的开源模型。包括开头说刚推出没几天的DeepSeekR1
具体方法如下:
首先安装Ollama并启动。
 
 
添加图片注释,不超过 140 字(可选)
然后通过命令下载需要的模型。比如qwen2.5。
 
 
添加图片注释,不超过 140 字(可选)
输入命令后会自动下来模型,并载入模型。qwen2.5是chatwise指定的模型,也是一个综合性能很强,实用性很强,发挥比较稳定的开源模型。
下载完qwen2.5之后就可以下载deepseek了。
deepseekr1的安装命令:
ollama run deepseek-r1#ollama run deepseek-r1:1.5b#ollama run deepseek-r1:14b
默认下载70亿参数的7B模型,如果电脑配置比较低,可以运行第二行命令下载1.5B模型,如果电脑配置高可以运行第三行命令下载14B模型。更大的还有70b,671b。
一般来说下7B就好了,配置较好的话,自然是越大越好。模型尺寸不同,能力也完全不一样。
一旦模型加载完成之后,就可以关闭这个命令窗口了。
此时,ChatWise的模型列表会自动更新。
 
 
添加图片注释,不超过 140 字(可选)
点击下拉菜单可以看到有Ollama这个分类了,分类下面显示了具体的模型。这些都是我已经下载到本地的模型。
这里直接选择deepseek就可以与之对话了。对话过程可以显示think内容和最终输出。
 
 
添加图片注释,不超过 140 字(可选)
聊天标题
另外还有一个注意点。ChatWise可以自动给对话命名,也就是说可以根据聊天内容,给这个聊天信息取一个标题。这一点用过ChatGPT等其他模型的应该很清楚。
生成这个名字需要用到Qwen2.5的模型,这也是上面先下载Qwen2.5的原因。
 
 
添加图片注释,不超过 140 字(可选)
如果没有这个模型,默认左边只会显示NewChat,本地有了这个模型之后,在使用其他模型时,也能根据对话内容进行自动命名。
视觉模型
单纯的对话模型现在已经有点单调了,现在比较流行是多模态模型或者说视觉模型。
ChatWise也支持发送图片和其他文件。
 
 
添加图片注释,不超过 140 字(可选)
对于图片而已,无论是截图还是本地图片,都可以轻松插入。比如我直接截取了软件的一部分,然后直接粘贴,就可以直接问他图片里的这个英文是什么意思。
这里只需要注意一点,视觉问答,得基于视觉模,闭源模型基本都支持,而开源模型中目前比较好的是小钢炮minicpm-v 。前几天刚介绍过这个系列的模型。所以视觉问题,就用这个模型来解答。
另外ChatWise也支持搜索功能和其他实验性功能,不过这两个功能没有免费开放,作增值功能了,有需要的可以支持一下软件作者。
这种聚合类的桌面应用和网页应用并不少,但是这个软件简洁的UI设计和清晰的布局深得我心,尤其是在macOS上浑然天成。另外,功能上也完全满足我的基本需求。
所以,跟大家分享一下!
DeepSeekR1本地可视化运行!同时支持GPT4,Gemini,Cluade,Ollama所有开源模型 - 托尼不是塔克

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/874887.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

[ABC266Ex] Snuke Panic (2D) 题解

[ABC266Ex] Snuke Panic (2D) 题解 前言 前几天看到了这个,发现自己还真没仔细思考过。 做了两道题,把这个题当个总结。 思路 设 \(f_i\) 表示:在 \(T_i\) 走到第 \(i\) 个节点的最大收益。 有转移:\(f_i=\max \{f_j\} + A_i\)。 其中 \(j\) 需要满足:\(y_j\le y_i\) \(T_i…

DeepSeek R1果然有点意思! Windows本地使用ollama轻松跑起来。

这段时间国内外讨论DeepSeek的人都比较多,我印象比较深的是,Deepseek用较低的成本训练了一个不错的模型。另一个是说最近的R1可以匹敌chatgpt的o1。 对比chatgpt的模型很多,我也不知道是宣传而已,还是真的这么牛逼。所以准备本地运行一下看看。因为ollama上已经有这个模型了…

跟着狂神学java-第一天

Markdown学习 标题 (一个#+空格,一级标题) 二级标题 (两个#+空格,二级标题) 三级标题 (以此类推。。。) 字体helloworld (两个星号,加粗) hello world ( 一个星号,斜体) hello world (三个*,加粗的斜体) hello world (两个~,删除线) hello world…

36. 打印机

一、打印机应用程序一般都有打印功能,可以将重要内容打印成纸质资料。PySide6 支持打印操作,它可以识别系统中已经安装的打印机,驱动打印机进行工作,可以用与打印机有关的类直接打印,也可通过打印对话框进行打印,还可对打印的内容在打印前进行打印预览。与打印有关的类主…

MiniCPM-o 2.6 本地部署记录,Windows+RTX3060全部跑通!

上一篇中,大致聊了下国产小钢炮MiniCPM的特性,看起来很不错,可玩性很高。今天,主要来说一下,如何在本地运行这个项目。 添加图片注释,不超过 140 字(可选)配置过程花了一些时间,最终还是成功了,可以正常进行视频通话,语音通话,和聊天机器人。安装和测试过程中遇到了…

CTF-web-计算器

1.打开题目2.发现只能输入一个数字 3.查看源代码4.修改参数5.可以正确输入后得到flag

CTF-web-web2

1.打开靶场,发现是一个动图。2.通过直接查看源代码,发现flag3.flag :KEY{Web-2-bugKssNNikls9100}

WC 2025 游记

前情提要:CSP 运气好,苟进来了。然后 NOIP 爆炸,没去任何 THU/PKUWC。 Day 1 (1.17) 早上 5:30 起来往火车站跑,太幽默了。 到了就开始摆烂,胸牌只有一面有名字,另一面是“日程安排”。晚上是开幕式,唯一亮点是 dzd 讲话。上大学的时候,政治老师说:资本主义必然灭亡,…

RTE 社区 2024 总结:虽然「卷」,但可以和一群朋友一起,找到自己的速度丨RTE 开发者社区

「如果用一个词来总结你的 2024,将会是什么?」「卷。」「朋友。」「速度。」2025 年 1 月 4 日,小寒前夕,在北京甜水园的苟市和上海静安的 Solution,一群 Real-Time AI&Voice Agent Builder 加入了一场名为 「RTE Dev Party 2024o」的年度开发者聚会。席间觥筹交错,欢…

要成为客户的顾问、朋友、陪跑者

在销售领域,传统的 “推销” 模式正逐步被更为人性化、服务导向的理念所取代。出色的销售人员不再仅仅局限于销售产品,更重要的是身兼客户的顾问、朋友与陪跑者这三重角色。以下为您介绍如何在这三个角色间灵活转换,以此深化客户关系,提高销售业绩。 一、成为客户的顾问专业…

卡特兰数 Catalan

卡特兰数 定义 \(Catalan\) 数列 \(H_n\) 是以下问题的方案数:有一个大小为 \(n n\) 的方格图,左下角为 \((0, 0)\) 右上角为 \((n, n)\),从左下角开始 每次都只能向右或者向上走一单位,不走到对角线 \(y = x\) 上方(但可以触碰) 的情况下到达右上角有多少可能的路径? …

【vjudge训练记录】大一寒假专项训练——并查集

训练情况A题 并查集模板,求班级最多人数和班级数,可以使用map进行统计,取父节点塞进map里面,取最大值和size即可点击查看代码 #include <bits/stdc++.h> // #define int long long #define endl \nusing namespace std;const int N = 1e5 + 3;int fa[N];int n,m;int …