Windows里使用ollama本地大模型部署

下载

ollama官网进行下载
在这里插入图片描述

下载完后下一步下一步即可

安装完成后验证是否成功,打开命令行输入ollama,有该指令即安装成功
在这里插入图片描述

环境变量配置

  • 配置模型下载位置
    看自己电脑硬盘情况配置
    在这里插入图片描述

  • 打开所有ip接口访问权限
    如果想要远程调用ollama接口,那就需要次配置,如果只是本地访问,忽略
    在这里插入图片描述

ps: 如果已经打开了ollama,需要重启ollama才能生效!!!

安装大模型

回到官网,点击右上角的models在这里插入图片描述

在这里插入图片描述
选择自己想要的模型,点进去
在这里插入图片描述

在命令行中执行对应的命令即可

在这里插入图片描述
安装完成后即可在命令行进行对话

安装图形化界面

在ollama的github的介绍上面,有多个已经适配了ollama的web可以选择

在这里插入图片描述

这里选open-webul为例,找到对应的github仓库,安装文档安装,这里选择docker安装
在这里插入图片描述

在这里插入图片描述
我配置的的映射端口是4000,如果按github上的脚本是3000
浏览器输入地址打开对应的网页
在这里插入图片描述
第一次进入要注册,首次注册的是管理员账号
然后就可以聊天了

api访问

ollama接口文档

如果是本地访问,直接调用11434端口即可
在这里插入图片描述
如果是外部访问,需要配置上面的第二条环境变量
在这里插入图片描述
然后就可以发请求玩了

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/701198.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

怎么保护云服务器的安全

在云计算技术迅速发展的今天,云服务器被广泛使用,云服务器已经成为企业、组织和个人不可或缺的重要基础设施。然而,云服务器的普及也伴随着日益严峻的安全挑战。今天德迅云安全就和大家了解云服务器安全的重要性,并分享一些常见的…

3ds Max与Maya不同之处?两者哪个更适合云渲染?

3ds Max 和 Maya 都是知名的3D软件,各有其特色。3ds Max 以直观的建模和丰富的插件生态闻名;Maya 则在动画和角色创作方面更为出色。两者都支持云渲染技术,能帮助用户在云端高效完成项目。 一、3ds Max和Maya之间的主要区别: 3ds…

【初阶数据结构】单链表基础OJ题讲解

前言 📚作者简介:爱编程的小马,正在学习C/C,Linux及MySQL。 📚本文收录与初阶数据结构系列,本专栏主要是针对时间、空间复杂度,顺序表和链表、栈和队列、二叉树以及各类排序算法,持…

【大道至简】官方兼容到android13+的获取系统屏幕高度, statusbar,navBar

android在屏幕高度和app高度,statusbar, navigationbar的高度处理上,迭代了好多版本。 android11, android12都有新的api和过时的api标记。 涉及的api类似如下: windowManager,defaultDisplay, Context.display, Deco…

分布式光伏监控系统功能模块详解

目前,分布式光伏发电系统的总容量比较小,并且光伏电站的功率受外界环境影响容易出现大起大落的现象。这使电压调整变得很困难。光伏电站运行维护人员不足,长时间不保养维护会影响光伏电站的发电效率。针对上述问题,鹧鸪云基于无线…

RK3588 camera驱动总结一

RK3588的硬件能力 ISP和VICAP的链接关系: VICAP和ISP是独立的两个图像处理IP, VICAP所采集图像若要通过ISP处理,在驱动层面需要生成VICAP对应接口的v4l2 sub device链接到ISP对应的节点,以提供参数给ISP驱动使用。 1.RKISP 驱动 RKISP驱动主…

java内容快速回顾+SSM+SpringBoot简要概述

文章目录 java基础知识基本知识列表面对对象堆与栈的关系值修改与引用修改异常:错误异常 SSMspringMVCServletSpringMVC:基于 Servlet的 Spring Web 框架, spring控制反转 IoC(Inversion of Control)面向切面 Aop MybatisJDBCMybatis SpringB…

C++ QT设计模式 (第二版)

第3章 Qt简介 3.2 Qt核心模块 Qt是一个大库,由数个较小的库或者模块组成,最为常见的如下:core、gui、xml、sql、phonon、webkit,除了core和gui,这些模块都需要在qmake的工程文件中启用 QTextStream 流,Qdat…

深入了解 npm:Node.js 包管理工具详解

文章目录 一、npm 基本概念1.1 什么是 npm?1.2 package.json 文件 二、npm 常用命令2.1 初始化项目2.2 安装依赖2.2.1 安装单个包2.2.2 全局安装包2.2.3 安装开发依赖 2.3 移除依赖2.4 更新依赖2.5 查看已安装的包2.6 发布包 三、npm 高级用法3.1 使用 npm scripts3…

电源模块效率的正确测试方法

电源效率是评价电源性能的重要指标,它直接关系到设备的稳定性和能源的利用效率。因此,对电源进行效率测试显得尤为重要。电源在工作过程中,会有部分能量损耗,因此,电源效率的高低,不仅影响着设备的性能&…

一篇文章带你入门CSRF

1.什么是CSRF 用一个形象生动的比喻就是: 你给朋友的房子留下了备用钥匙,但是有人偷偷拿走了这把钥匙,然后用这把钥匙进入了你朋友的房子并做了各种坏事。你朋友以为只有你能使用这把钥匙,所以没对任何操作产生怀疑。 在这个比…

C++自定义日期类的精彩之旅(详解)

在学习了C的6个默认成员函数后,我们现在动手实现一个完整的日期类,来加强对这6个默认成员函数的认识。 这是日期类中所包含的成员函数和成员变量: 构造函数 // 函数:获取某年某月的天数 inline int GetMonthDay(int yea…