浮点数

news/2024/9/20 5:53:06/文章来源:https://www.cnblogs.com/xuekui-jin/p/18326264
FP32：

1bit符号位，10bit指数，23bit底数位。
image

FP16：

1bit符号位，5bit指数，10bit底数位。
image

FP16转FP32
  1. NAN/INF：对应的FP32的值
  2. +0/-0： +0/-0
  3. normal：指数+0x70,底数左移13位
  4. subnormal：对应的FP32属于normal，需要继续左移至最高位为1的省略掉。(0x0078, 需要左移四位)，指数+0x70-(x-1)(x为底数左移位数，-1是额外左移值-1)
    例如：FP16的0x0078转换成FP32是0x36F00000.

https://blog.csdn.net/ysaeeiderup/article/details/124104042

本文来自互联网用户投稿，该文观点仅代表作者本人，不代表本站立场。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如若转载，请注明出处：http://www.hqwc.cn/news/772184.html

如若内容造成侵权/违法违规/事实不符，请联系编程知识网进行投诉反馈email:809451989@qq.com，一经查实，立即删除！

相关文章

军品研制阶段划分

军品研制阶段划分

阅读更多...
主动触发异常和自定义异常

主动触发异常和自定义异常

主动触发异常自定义异常点击查看代码try:raise MyError("raise MyError，e就是里面的")except MyError as e:e.log()print(e)print(e.args) # 就是raise MyErrorprint(e.__class__.__name__) # 就是MyErrorprint(e.__class__)except Exception as e:traceback.prin…
阅读更多...
python-数据交换

python-数据交换

a=10 b=20 a, b = b, a #数据交换 print(a, b)#a, b, c, d = d, c, b, a
阅读更多...
性能测试工具 - Siege

性能测试工具 - Siege

在快速发展的技术时代，网站和应用的性能对于用户体验和业务成功至关重要。作为测试工程师，找到高效的性能测试工具显得尤为重要。今天，我们来聊聊一个备受推崇的性能测试工具——Siege。为什么Siege能够在众多性能测试工具中脱颖而出？它究竟有哪些独特之处，能帮助测试人员…
阅读更多...
2024暑假集训测试12

2024暑假集训测试12

前言比赛链接。T2 其实和货车运输这题差不多但是由于给定图为树的部分分都没想出来压根没想到重构树，感觉不太应该，思路还是不清晰，赛时没有拿到那个部分分的，因为拿到的都顺着推出正解了；T3 是道黑，赛时 \(A,B\) 循环输出能拿到 \(40\) 分，赛后重测了；T4 题都看不懂。…
阅读更多...
中大企业如何选择高效的缺陷管理系统？

中大企业如何选择高效的缺陷管理系统？

国内外主流的10款中大型企业使用的缺陷管理系统对比：PingCode、Worktile、禅道云、Testin、FineReport、华为DevCloud、Jira、Bugzilla、Redmine、Trac。在选择适合中大型企业的缺陷管理系统时，关键的挑战在于找到一个既能满足独特业务需求，又能提供可扩展性和高效率的解决方…
阅读更多...
暑假集训CSP提高模拟8

暑假集训CSP提高模拟8

T2 赛时想法是维护\(m\)个并查集,二分答案,然后比较祖先是否相同,\(O(mlogn+qmlogn)\)的复杂度,而且内存开不下，只拿\(20pts\)点击查看代码 #include <bits/stdc++.h> #define ll long long #define pb push_back using namespace std; const int N = 1e5+5; vector <…
阅读更多...
java位运算

java位运算

位运算符:针对二进制的值补码形式进行计算的 & | ^（相同为0，不同为1） ~ << >> >>>public class WeiOptDemo1 { public static void main(String[] args) { byte a1 = 3; byte b1 = 4;System.out.println(a1 & b1);System.out.println(a1 | b1)…
阅读更多...
【Azure APIM】调用APIM的备份接口时候遇见InvalidParameters错误

【Azure APIM】调用APIM的备份接口时候遇见InvalidParameters错误

问题描述 根据官方文档，可以调用REST API来对APIM执行备份操作。要备份 API 管理服务，请发出以下 HTTP 请求： POST https://management.chinacloudapi.cn/subscriptions/{subscriptionId}/resourceGroups/{resourceGroupName}/providers/Microsoft.ApiManagement/service/{s…
阅读更多...
kruskal重构树

kruskal重构树

比较好理解，相当于重建了一个二叉树，所有的父亲节点都为原来图中的边，儿子节点为点。 重构树就可以利用lca求两点间的最大（或者最小）边权以及一些树上操作。较为简单的应用，需要用线段树来维护信息。点击查看代码 #include<bits/stdc++.h> using namespace std;con…
阅读更多...
陈怡蓉大学规划

陈怡蓉大学规划

阅读更多...
hive03_高级操作

hive03_高级操作

Hive 分区表https://blog.csdn.net/weixin_41122339/article/details/81584110 表在存储时，可以将数据根据分区键的列值存储在表目录的子目录中。这样将数据切分到不同目录存储后，可以加快对分区键字段的查询和过滤速度，通过在查询条件中指定过滤条件，可以只对指定目录的数…
阅读更多...
推荐文章
最新文章

Copyright @ 2022~2023