本地部署DeepSeek并用Python调用

news/2025/2/5 0:26:00/文章来源:https://www.cnblogs.com/zzy0471/p/18698656

目录
  • 需要下载的软件
  • 安装步骤
    • 安装Ollama并运行模型DeepSeek
    • 安装Hollama
  • 试用python调用

需要下载的软件

  1. OllamaSetup.exe(Ollama是一个管理和运行大语言模型的开源工具)
  2. Hollama_0.25.1-win-x64.exe【可选】(Hollama是一个Ollama的可视化工具)
  3. python-3.13.1-amd64.exe
  4. VSCodeUserSetup-x64-1.96.4.exe【可选】

安装步骤

安装Ollama并运行模型DeepSeek

从官网下载相应的版本,这里使用的是Windows版本,双击执行安装文件默认会安装到C盘,可通过如下方式指定安装路径:
OllamaSetup.exe /DIR=your path

安装完毕后运行Ollama.exe即可,可通过命令ollama help查看参数。其中,应先了解以下参数:

  • serve,用来启动ollama(windows上通过安装包安装的Ollama会开机自动启动,启动后可以在浏览器中查看,地址为:http://127.0.0.1:11434/)
  • run 运行一个模型(初次运行,会自动下载模型)
  • list 列出所有模型
  • cp 列出正在运行的模型
  • rm 删除模型
  • help 帮助

安装完毕并启动Ollama后,可通过执行以下命令下载并运行DeepSeek:
ollama run deepseek-r1:1.5b
更多模型请见 https://ollama.com/search, 我电脑配置低,故选的是1.5b。

如果一切正常,DeepSeek运行起来后是这样的:
image

这时候可以发一些文字并得到反馈了:
image

可输入/?看到帮助信息

安装Hollama

Hollama也是一个开源软件,它和ollama的关系类似于Navicat和Mysql,有了它,就不用在黑糊糊的CMD下面和模型交互了,类似的软件有还有很多,请参见:https://github.com/ollama/ollama

运行起来的效果如下:
image

试用python调用

这里列出了可以调用Ollama服务的很多类库:https://github.com/ollama/ollama。 暂使用Python测试:

先安装模块:

pip install ollama

用VS Code编写代码如下:

import ollamaif  __name__ == '__main__':res = ollama.chat(model='deepseek-r1:1.5b', stream=False, messages=[{'role': 'user', 'content':'how are you'}])print(res)

执行结果:
image

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/878816.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

12 网络编程详解

知识预备网络通信 :​ 网络通信是指,将一台设备(Host1)中的数据通过网络传输到另一台设备(Host2)。java.net 包下提供了许多用于完成网络通信的类或接口。 ​ 相关流程图如下 :网络 :​ 两台或两台以上的设备通过一定物理设备(交换机,网关服务器等等)连接起来…

25.2.4小记(FoxandRabbit代码复现)

1.接口(interface)不仅可以用于定义方法的签名,还可以充当类型的一部分。其本身可以作为类来引用 eg.Cell[][] field 数组中的对象是实现了这个接口的类的实例。 是一种特殊的classreturn list.toArray(new Cell[list.size()]);中list.toArray是将原来的数组填充到()中的对…

2015 纯碱

回调后有一波多头行情

2015 锰硅

年后回调后有波多头行情 具体等交易系给出信号

2024 山东一轮省集组合计数选讲学习笔记

https://www.luogu.com/article/hcy6mqry 初等双射 通常的方法是构造一个不会映射到自己的对合,这样就就可以把所有的组合对象分为数量相等的两类。 还有一种方法就是给等式两边找到一个相同的组合意义,以证明他们相等,这个不一定是一个映射,它允许“一对多”“多对一”。 …

TCP和UDP协定的基础知识解析,从网路效能到网路安全看TCP、UDP协议

TCP和UDP协定的基础知识解析,从网路效能到网路安全看TCP、UDP协议TCP和UDP协定是网路通讯中不可或缺的基础。 TCP以其可靠性著称,能够确保资料完整传输,适合文件传输和邮件服务等场景。它透过建立连接和确认机制,提供稳定的通讯体验。相比之下,UDP更注重速度和即时性。它无…

小程序学习2.4

阅读文档观看视频属性小程序开发内容

Windows下本地部署deepseek

如果你对DS有深度使用需要,且电脑配置不错,那就本地部署deepseek试试吧。 1、下载并安装Ollama Ollama是一个开源的 LLM(大型语言模型)服务工具(就是大模型运行工具),用于简化在本地运行大语言模型,降低使用大语言模型的门槛,使得大模型的开发者、研究人员和爱好者能够…

使用 FFmpeg命令 通过 RTMP 协议推送本地视频

背景:有时候想模拟一下往流媒体服务器推流,就可以使用强大的ffmpeg这个工具来模拟推流了。 使用也很简单,一条命令即可将本地视频通过rtmp协议推送到流媒体服务器了。 命令如下: ffmpeg -re -i [本地mp4文件路径] -c:a aac -ar 44100 -f flvrtmp://your-server/your-applic…

黑天鹅

流光忆庭的忆者,慵懒神秘的占卜师。 耐心聆听「记忆」,诸般命运尽在掌握。