大模型常见文件格式safetensors vs. gguf-编程知识

大模型常见文件格式safetensors vs. gguf

news/2025/2/28 13:44:22/文章来源:https://www.cnblogs.com/zh-jp/p/18743080

safetensors

Header: 文件的元数据（大小、版本）
Meta data: 列表，每个元素表示文件里存的张量的类型、形状、偏移量
Tensor data: 列表元素对应的张量数据

gguf

gguf不依赖外部的配置文件，它可以把配置文件、词表、tokenizer、template等存入gguf中（如果一个模型有多个gguf文件组成，只有第一个会包含这些信息）

文件格式转换

safetenors转gguf 可以使用 llama.cpp提供的convert_hf_to_gguf.py脚本。

gguf转safetensors 目前没有较好的方法。

参考文献

https://huggingface.co/docs/safetensors/index
https://huggingface.co/docs/hub/en/gguf#finding-gguf-files

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/891138.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

2025年最值得入手的CRM系统！这5款真的好用不踩坑

挑CRM真让人头大！有的太复杂，上手难有的功能太少，啥都干不了有的收费离谱，小团队根本用不起别担心！今天就给大家盘点5款2025年最值得入手的CRM系统，每一款都是真实用户口碑不错的，不管你是创业小团队，还是大公司，这里面肯定有一款适合你。一、简道云CRM 如果你…

web开发辅助学习管理系统开发日记 day4

/**法法法！！！忘记保存发布了，写了一天的草稿直接没了，我晕死，今天补档昨天的吧。 */今天开始开发员工管理模块了，也得知了3月14有校招的消息，看来要加快进度了(╯▔皿▔)╯ Q1:今天调了一个时间最长的bug，在写分页查询的时候我将三层架构全部写完之后，运行程序下面报…

Web前端入门第3问：前端需要学习哪些技术？

Web前端开发技术学习路径基础知识必备 HTML+CSS+JavaScript ，就目前来看，这三板斧是入门前端开发的门槛，无论如何都是逃不掉了。进阶知识必须会一门主流的前端框架，比如：React/Vue/Angular/Svelte，就国内的从业环境来看，Vue占有绝对优势，后续也会写一些 vue 相关的文章…

Web前端入门第1问：英语是否很重要？有哪些前置条件？

HELLO，这里是大熊学习前端开发的入门笔记。本系列笔记基于 windows 系统。在入门之前，是否有这样的疑问：程序员的英语是否很牛？毕竟程序员的代码像天书一样，比如这样：答案是否定的。英语并不是编程的前置条件，不要被看似天书的代码吓到，程序代码都存在一定的语法结…

红外成像工具非接触式热成像仪高精度温度测量与多功能应用

红外成像工具非接触式热成像仪高精度温度测量与多功能应用IFD-x是一款非接触式热成像仪器，采用红外阵列高精度温度传感器和先进的软件算法。该设备能够对视场范围内的物体进行红外成像，成像分辨率达到512*384像素，温度灵敏度为0.1℃，绝对精度为1.5℃，刷新频率最高可达64…

Educational Codeforces Round 175 (Rated for Div. 2) 比赛记录

Educational Codeforces Round 175 (Rated for Div. 2) 比赛记录比赛连接手速场，上蓝场，但是有点唐，C 想错了写了半个多小时，想到正解不到 \(10\) 分钟就写出来了，看到 D 后悔没先做 D 了，过于简单了。赛时切掉了 A - D，也算是成功渡劫上蓝了! 过题记录：A. FizzBuzz…

numpy知识点

1.点乘 .dot() 2.转置 .T 3.求逆矩阵np.linalg.inv() 4.拼接(返回变化后，但是并不对原来对象更改） np.concatenate((要拼接的ndarray对象),axis=按哪个维度拼接) axis=0 -->行增加 axis=1-->列增加对于如果只有一个维度的ndarray，那么只能增加列，一直只有一行import…

销售必读！避免急躁，用这3个技巧轻松拿下客户

做销售，内心要急迫，但表面上不能着急。一旦着急，就会陷入被动，甚至在商业竞争中输得一败涂地。不急于介绍产品，循序渐进有些销售人员见到客户后，就像倒豆子一样，噼里啪啦地介绍产品功能、材质工艺，甚至是各种奇特设计，滔滔不绝。但他们从没想过，客户真的喜欢听这些…

联合体成员低地址对齐方法一：联合体 #include <stdio.h> #include <malloc.h>union myunion {int a;char b; };int main(void) {union myunion test;test.a = 0x12345678; if (test.b == 0x78)printf("小端模式"); else if (test.b == 0x12)printf(&q…

hexo 本地启动项目 hexo-browsersync 不工作原因总结

问题 1 ： hexo-server 开启 compress 压缩后 hexo-browsersync 插件热更新完全无效，没办法自动刷新此问题表现在 hexo 任何版本问题原因： hexo-server 依赖 compression^1.7.4 会自动安装 compression@1.8.0，压缩后 Content-Encoding 不是 gzip 而是 br， hexo-browsersy…

共振底选股思路和案例

当前时间： 2025年2月28日主图中的所有提示都编写了选股指标，我无偿分享。共振底选股思路：在短线、中线均都向上的情况下，同时出现以下条件的两个以上，则为共振底。 1. 1025战法的低吸位附近出现止跌阳线。 2. 小底图形反包。 3. 泰乐KDJ副图指标显示【大进】、【逛进】…

Vue2/Vue3 项目生产环境开启 vue devtools 插件线上调试 vue 组件

说到 vue 项目的调试工具，必然少不了 “vue devtools 插件”，此插件就像“手术刀”一样，是开发环境下的一个利器，生产环境一般情况没办法使用。要在生产环境使用，就必须要一点手段。前置条件安装 Chrome 浏览器，本文编写时使用的 Google Chrome 133 版本。安装 vue dev…