使用LM Studio部署DeepSeek 1.5B模型

下载LM Studio:
https://installers.lmstudio.ai/win32/x64/0.3.9-6/LM-Studio-0.3.9-6-x64.exe

安装LM Studio:

打开LM Studio
设置语言

启用内置代理,用于下载模型,否则大概率在Model Search中看不到模型信息,无法下载模型

模型下载,两种方式:
第一种,通过LM Studio自动下载,在Model Search中选择自己要用的模型即可下载(需要勾选上面提到的proxy)

下载完成的效果

第二种,手动下载模型,通过huggingface.co或modelscope.cn等网站找到需要的模型
根据网页提示,使用git下载


在LM Studio存放模型的文件夹中新建一个目录,以deepseek为例,确保模型路径为<LM Studio模型目录>/<模型发布者>/<具体某种模型>/xxxxx.GGUF,否则识别不到模型路径

创建deepseek目录

在deepseek目录下使用git下载,由于没有指定分支,所以只下载了部分文件

进入git创建的目录,然后使用checkout补全剩余文件,文件比较大下载需要点时间,另外实际只需下载仓库中某个GGUF文件即可,例如DeepSeek-R1-Distill-Qwen-1.5B-Q4_K_M.gguf

下载完仓库的效果,里面包含多个GGUF格式的模型

使用模型
在聊天窗口上面选一个模型加载

不修改默认参数,直接加载即可

现在可以和模型互动了

作为web后端部署
这种部署方式是作为浏览器插件后端来使用的,那些插件会根据用户提问去搜索网页,然后让模型分析

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/881242.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

React—05—脚手架

使用npm全局下载create-react-app, 建议node>16。npm install create-react-app -g; 然后创建项目即可。create-react-app 项目名称 但是现在create-react-app有问题,有些库依赖的react18但是这个脚手架创建的默认是react19,而官方还没解决这个问题,建议用vite创建一…

2.9 CW 练时记录

前言 新的类型, 跟考试放的差不多的策略就行了 后面就是找时间复习, 然后找一下状态就好了 \(\rm{F}\) 看到这是个 \(\rm{C}\) 题, 先做这个 思路给定 \(p_{i, c}\) 表示位置 \(i\) 是字符 \(c\) 的概率, 确定 \(\displaystyle\sum_{c = 1}^{t} p_{i, c} = 1\) 一个有效的信息被…

SMU2025寒假训练周报2

这周状态其实不太好,很多时候心急总是卡简单题,中档题也有些难a,希望尽快调整 一.个人训练赛2 1. Linova and Kingdom 题目链接:Problem - C - Codeforces 每加一个点总体贡献就可能发生变化,那我们就处理每个点的贡献,将他的深度减去他孩子的总个数就是贡献,最后排序取…

无需服务器个性化域名重定向到其他网站

1. 准备工作 1. 申请个人域名免费方式:从 ClouDNS.net上创建账号申请即可,右上角可以选择中文。如果实在不会操作,可以参考:教你免费注册一个ClouDNS永久域名(保姆级教程) ,还可以自行搜索或问大模型或留言。 付费方式:从 主流域名注册商注册,国外:namesilo 比较便宜,…

在GitHub上部署个人静态网站

在GitHub上部署个人静态网站 首先将网站设置文件上传到github的一个新建仓库,并公开仓库(会员可不用公开)找到settings(设置)-page(页面)选项并进入 选择分支(root)并save等待一段时间(5分钟左右),重新进入该仓库的pages 已经生成网址点击网址或者Visit site进入网站…

使用nvm管理node版本

1、下载安装 NVM:https://github.com/coreybutler/nvm-windows2、下载完成后,解压缩nvm-setup.zip文件到您想要安装 NVM 的目录,双击nvm-setup.exe进行安装 3、配置环境变量,将安装目录添加到path环境变量PS C:\Users> nvm -v 1.2.24、查看可用的 Node.js 版本: 5、选择…

Cursor从0到1:让每个人都会编程

Cursor 可谓是最近最火的 AI 代码类应用之一。它结合了传统编辑器的功能(如 VS Code 的体验)与 AI 驱动的智能编程能力,旨在提升开发效率和代码质量。一、关于Cursor 1.1 简介 Cursor 是一款基于人工智能(AI)的现代化代码编辑器,专为开发者设计。它结合了传统编辑器的功能…

销售就是推销自己

销售的本质是顾客用钱买满足自己需求的卖方提供的产品。销售员就承担着桥梁的角色。渠道那么多,销售人员那么多,顾客为什么要通过你来买? 优秀的销售人员(商人)有下面几个特点。 1.自信 如果你相信你会成功,成功便会发生;如果你相信你会失败,失败便会找上门。无论如何我…

Snipaste - 截屏软件

qq截屏闪退,故更改软件————下载https://www.snipaste.com/download.html选择对应版本 下载后双击即可(默认F1截屏) 参考: https://blog.csdn.net/m0_64979660/article/details/142353087

红蓝对抗之系统密码提取

mimikatz mimikatz工具从内存中提取明文密码,HASH值,PIN密码和票据,利用zerologon漏洞(通过NetLogon/MS-NRPC协议与AD域控建立安全通道时,可利用该漏洞将AD域控的计算机账号密码设置为空。 mimikatz 需要管理员或 SYSTEM 权限,通常使用 DEBUG 权限执行某些操作,与 LSASS…

wsl启动报错Cannot execute daemonize to start systemd的解决方法

WSL 启动报错 "Cannot execute daemonize to start systemd" 的解决方法 问题背景 在启动 WSL2 时遇到以下错误: Cannot execute daemonize to start systemd解决思路来源:https://github.com/DamionGans/ubuntu-wsl2-systemd-script/issues/37此错误通常是因为 dae…

2.2-2.9做题笔记

2.2 - 2.9 做题笔记 最近一周做的所有题目,包括 cyezoj 上的模拟赛,专题作业和 ABC。 2.4 CYEZ SHOI2025 模拟测试七 CYEZ 404 过桥 题目难度:省选 D1T1 赛时:20pts ;订正:100pts 大意 有 \(n\) 个人要过一座每次最多容 \(c\) 人通过、且仅有一只手电的一座桥。多人同时过…