Deepseek本地知识库(Ollama + Deepseek + Cherry)
需要使用到的技术以及站点
- Ollama: https://ollama.com/download
- DeepSeek: https://ollama.com/library/deepseek-r1:7b
- bge-m3: https://ollama.com/library/bge-m3
- Cherry Studio下载: https://cherry-ai.com/
0x00 前言
目前互联网上的各类安装教程都非常的齐全,我在这里作为一个我安装过程的一个记录,或许也能给大家提供一些思路,如果大家有更好的实现方法,也可以相互交流交流
我目前使用的是logseq来记录我的日常的工作记录以及个人笔记,我想要实现Deepseek能够根据我的Logseq笔记内容,进行输出。例如让Deepseek输出工作日报、周报、月报,在例如输出未来一周中有哪些任务需要完成等等。
PS:但是最终还是没能实现
0x01 Ollama安装
安装基于Mac系统进行,Windows系统应该大同小异,如果是windows用户,可尝试自行摸索,文中不在详细叙述。
1、下载
访问Ollama官网:https://ollama.com/download 下载Ollama安装包进行安装。
如果官网下载出现问题,可以到Github去下载:https://github.com/ollama/ollama/releases/
2、安装
下载后是个压缩包,解压后,如果是mac系统,是个Application,可以直接拖入应用程序中。
完成后点击打开,点击Next进入下一步
然后点击Install进行安装(安装过程需要系统授权,记得输入密码)
出现如下界面时,表示安装成功,点击Finish
接下来可以打开终端,输入命令Ollama查看安装是否成功,命令可成功执行代表成功
Ollma的启动和关闭方法也很简单,不需要执行命令,仅需点击之前的应用程序,即可打开
打开后,Ollama在菜单栏中会有图标,表示Ollama已经在运行
如果要退出,点击图标后,点击Quit Ollama即可
Ollama启动后就会开启11434端口
访问 http://127.0.0.1:11434/ 会返回 Ollama is running
0x02 Deepseek下载
进入站点: https://ollama.com/library/deepseek-r1:7b
在左侧根据自己的设备选择合适的模型,复制右侧命令,在自己的终端执行
完成后默认是运行状态,可以输入问题观察回答
也可以使用/?查看控制命令,例如想要退出,输入/bye
0x03 bge-m3安装
bge-m3的安装和Deepseek相同
访问站点 https://ollama.com/library/bge-m3
使用命令ollama pull bge-m3 安装
0x04 Cherry Studio
下载 Cherry Studio:https://cherry-ai.com/
官网中如果无法下载到macos版本的话,我们到Github上去下载
https://github.com/CherryHQ/cherry-studio/releases/
根据自己的系统版本下载合适的安装包进行安装
安装完成后打开,进入设置-> 模型服务->Ollama ->开启Ollama -> 点击管理
将两个模型都加入
接下来来设置知识库,可自行添加文件、目录、网址等等
完成之后返回对话,在顶部模型位置选择deepseek-r1:7b|Ollama
设置完成之后还需要注意,在不同的助手中,还需要将知识库添加到其中,不然不会生效
在对应的助手上点击右键,选择编辑助手->知识库设置->添加对应知识库
0x05 结语
实际测试过程中,发现被添加到知识库中的文件名并不会被AI获取
也就是说,AI无法识别出Logseq中的Journal是哪一天的,这样就无法将相关的事件进行串联,也无法实现例如输出周报月报等功能,同样Obsidian的日记格式也是不会在本地文件中存储日期
使用中发现Cherry可以上传文件进行分析,我在实际测试中发现可以上传多个文件,但是只能解析两个文件,其余文件会被忽略
目前看来,是不能实现我的设想了,我个人推测可能有以下几个方面原因
- 我本地记录的日志可能过于散乱,或者日志格式本身不适合RAG训练
- bge-m3 在进行文件处理过程中,可能未将文件名和文件内容绑定到一起,因此AI无法使用时间线串联整个资料库
- 1:7b模式还是有些傻傻的,部分回答会将不同的无关联的事情强行绑定在一起
最后,如果大家有类似想法或实现,我们可以在评论区一起交流沟通,感谢!!!
参考链接:
https://cloud.tencent.com/developer/article/2494120