C# float/double 减 float/double 等 (X.xxxxxxxxxxxxxE-07)(黑盒测试)

问题

因为没有深究原理,所有只进行了“黑盒测试”

黑盒测试结论:

问题操作结论
float/double运算进过一系列的运算后大概率  != 0.0  ,
而是等于0.00000000000xxxx
等于X.xxxxxxxx一串数字的时候不影响下一步继续使用
当需要显示float/double的时候进行一次 “保留N位运算”
Mach.Round(float, n)
String.Format("{0:F2}", 1.0f); //  结果 1.00

代码

 void ChangeFormat(){double aaa = 2.2f;double bbb = 2.0f;double ccc = aaa - bbb;// double ddd = ccc - 0.2d;// double ddd = 2.2f - 2.0f - 0.2d; // 这个与上方的结果一样double ddd = 2.2d - 2.0d - 0.2; // 这个与上方的结果一样string str1 = String.Format("{0:F2}", ddd);Debug.Log(ddd);                 // 结果 1.66533453693773E-16Debug.Log(ddd + 0.001d);        // 结果 0.00100000000000017Debug.Log(Math.Round(ddd, 2));  // 结果 0Debug.Log((int)ddd);            // 结果 0Debug.Log(str1);                // 结果 0.00// 测试:4.76837158092103E-07 是否大于 0if (ddd > 0){Debug.Log("得到: 1.66533453693773E-16  > 0");}// ddd + 0.001f 为什么 +0.001// 因为:经过测试得 1.66533453693773E-16 == 0// 所以:+0.001, 还原显示数值 (一般只要小数两位)}

输出结果

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/297290.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Django之按钮(actions)

开篇就是道歉,哈哈哈哈,托更了好久好久,最近太忙了没啥时间更新,各位看官有催更的阔以给我私信哇,希望各位看官给个三连!!!😍😍😍😍 …

SLAM算法与工程实践——SLAM基本库的安装与使用(6):g2o优化库(2)g2o编程框架

SLAM算法与工程实践系列文章 下面是SLAM算法与工程实践系列文章的总链接,本人发表这个系列的文章链接均收录于此 SLAM算法与工程实践系列文章链接 下面是专栏地址: SLAM算法与工程实践系列专栏 文章目录 SLAM算法与工程实践系列文章SLAM算法与工程实践…

嵌入式 开发——DMA内存到外设

学习目标 加强理解DMA数据传输过程加强掌握DMA的初始化流程掌握DMA数据表查询理解源和目标的配置理解数据传输特点能够动态配置源数据学习内容 需求 串口发送数据 uint8_t data = 0x01; 串口发送(data); 实现串口的发送数据, 要求采用dma的方式 数据交互流程 CPU配置好DM…

10.2多点触摸屏驱动

多点电容触摸(MT)协议 多点电容触摸(MT)协议是 input 子系统的一部分, MT 协议被分为两种类型,分别是 Type A 和 Type B : Type A :适用于触摸点不能被区分或者追踪的设备&#xf…

【Java】springboot

文章目录 Spingboot1、起步依赖2、构建springboot工程jar包3、springboot配置文件4、多环境配置5、maven和boot多环境兼容问题6、配置文件分类7、springboot整合mybatis Spingboot springboot用来简化spring的初始搭建以及开发过程。 比方说,创建一个springmvc程序…

Ps2022版DR5插件扩展窗口不展示及未正确签署等问题修复

前言 最近在安装DR5的时候遇到了一些报错问题,翻看了几篇文章找了一些实质性的方案,亲测有效,有同样问题的小伙伴自己对号入座哈。 窗口扩展不显示问题 问题 很多人第一次安装DR5时会发现这个【窗口-扩展】是灰色的,且没有DR5…

class087 动态规划中根据数据量猜解法的技巧【算法】

class087 动态规划中根据数据量猜解法的技巧【算法】 2023-12-24 14:36:06 算法讲解087【必备】动态规划中根据数据量猜解法的技巧 code1 打 怪 兽 // 贿赂怪兽 // 开始时你的能力是0,你的目标是从0号怪兽开始,通过所有的n只怪兽 // 如果你当前的能力…

35c3 krautflare

参考这篇文章可以彻底了解本题的漏洞所在 https://xz.aliyun.com/t/6527 由于Math.expm1经过patch以后的返回值不可能是-0,但是patch的地方是在typer优化中,所以实际上如果没有优化的话是可以返回-0的,这就意味着如果我们先不停地Math.expm1…

【C++】unordered_set/unordered_multiset/unordered_map/unordered_multimap

我们下面来学习C的另外两个容器:unordered_set和unordered_map 目录 一、unordered系列关联式容器 二、unordered_map 2.1 unordered_map的介绍 2.2 unordered_map的接口说明 2.2.1 unordered_map的构造 2.2.2 unordered_map的容量 2.2.3 unordered_map的迭…

java的XWPFDocument3.17版本学习

maven依赖 <dependency><groupId>org.apache.poi</groupId><artifactId>poi-ooxml</artifactId><version>3.17</version> </dependency> 测试类&#xff1a; import org.apache.poi.openxml4j.exceptions.InvalidFormatExcep…

探索应用程序的指路明灯:Route 和 Router 入门指南(上)

&#x1f90d; 前端开发工程师&#xff08;主业&#xff09;、技术博主&#xff08;副业&#xff09;、已过CET6 &#x1f368; 阿珊和她的猫_CSDN个人主页 &#x1f560; 牛客高级专题作者、在牛客打造高质量专栏《前端面试必备》 &#x1f35a; 蓝桥云课签约作者、已在蓝桥云…

一站式指南:第 377 场力扣周赛的终极题解

比赛详情 比赛地址 题目一很简单题目二主要是题目长了点&#xff0c;其实解法很常规(比赛后才意识到)题目三套用Dijkstra算法题目四没时间解答水平还有待提升(其实就是需要灵活组合运用已知的算法&#xff0c;有点类似大模型的Agent) 题解和思路 第一题&#xff1a;最小数字…