BigDecimal使用注意的地方

news/2024/9/20 7:27:07/文章来源:https://www.cnblogs.com/fengdongd/p/18396730

BigDecimal 是 Java 中的一个类,这个相信大家都是知道的。它的作用就是可以表示任意精度的十进制数,BigDecimal 提供了精确的数字运算,适用于需要高精度计算的场景。

一、浮点精度

我们先来看一个例子:

compareTo 方法比较中,a.compareTo(b)

返回:

  • -1: a小于b

  • 0: a等于b

  • 1: a大于b。

在上方的代码中,我们使用 new BigDecimal 的形式 new 了两个 BigDecimal 对象,分别是 0.1 和0.10

我们分别使用了 equals 与 compareTo 进行比较,当使用 equals 进行比较时,返回了 false,这是因为 equals 不仅比较了值是否相等,还比较了精度是否相等。

 

简单概括一下,如果比较两个 BigDecimal 对象的大小,那就使用 compareTo 方法;如果严格比较精度的大小,那就使用 equals 方法进行比较。

 

二、设置精度

在做 BigDecimal 对象计算的时候,一定要设置精度。

 

在做 divide 运算时,如果商是一个无限小数,而操作的结果是一个精确的数字,那么就会抛出该异常。

 

 

三、初始化

先来看代码:

 

在使用 new BigDecimal 构造器进行初始化的时候,如果有初始值,最好使用字符串的构造方法进行初始化。

在使用 double 的构造器进行新建时,本身传入的 0.1 就是浮点类型了,为了不丢失精度,在使用 new BigDecimal 新建时就把这个近似值完整的保留下来了。

或者就是 另外一种初始化方式 BigDecimal.valueOf(0.1);,通过看源码可以发现,在 valueOf 的内部,将 Double 类型直接转为了字符串了,因此也就不会存在精度丢失的问题了。

 

四、转字符串

还是先看一段代码:

 

上面代码中是一个非常大的数,我想把他转为字符串,可是在使用 toString() 方法时,打印出来的却是科学计数法。

所以如果想使用 toString() 方法进行转字符串时,可以使用设置精度的方法,但是结果还是与我们的预期有所差别,我们想要的是一模一样的打印出来呢?

那么 toPlainString 就上场了,这个方法返回一个字符串的表示形式,包含所有的有效数字。

代码修改如下: 

 

所以总结就是
  • toString:返回有效数字,必要的时候使用科学计数法。
  • toPlainString: 不实用任何科学计数法。
  • toEngineeringString:必要的时候使用工程计数法。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.hqwc.cn/news/792165.html

如若内容造成侵权/违法违规/事实不符,请联系编程知识网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

2024-09-04:用go语言,给定一个长度为n的数组 happiness,表示每个孩子的幸福值,以及一个正整数k,我们需要从这n个孩子中选出k个孩子。 在筛选过程中,每轮选择一个孩子时,所有尚未选

2024-09-04:用go语言,给定一个长度为n的数组 happiness,表示每个孩子的幸福值,以及一个正整数k,我们需要从这n个孩子中选出k个孩子。 在筛选过程中,每轮选择一个孩子时,所有尚未选中的孩子的幸福值都会减少 1。需要注意的是,幸福值不能降低到负数,只有在其为正数时才能…

初探编译链接原理

这篇博文由一个 bug 引出了编译链接的整个过程。我们可以看到一个源代码文件最终变成一个可执行文件中间经历了编译和链接两个过程,编译过程又分为预编译,编译,和汇编;预编译阶段主要处理#开头的代码,编译则是进行一些语法分析和优化,最终生成汇编代码,而汇编则是生成机…

canvas版本的五子棋

代码:<!Doctype html> <html lang="zh_cn"><head><meta http-equiv="Content-Type" content="text/html; charset=utf-8" /><title>五子棋</title><meta name="Keywords" content="&quo…

vue router路径重复时报错

参考——  https://blog.csdn.net/zz00008888/article/details/119566375 报错: Avoided redundant navigation to current location: "/Eee". NavigationDuplicated: Avoided redundant navigation to current location: "/Eee".在router的index下添加…

CUDA Toolkit常见安装问题一览

CUDA Toolkit常见安装问题一览关注TechLead,复旦博士,分享云服务领域全维度开发技术。拥有10+年互联网服务架构、AI产品研发经验、团队管理经验,复旦机器人智能实验室成员,国家级大学生赛事评审专家,发表多篇SCI核心期刊学术论文,阿里云认证的资深架构师,上亿营收AI产品…

如何从Docker镜像中提取恶意文件

原创 Bypass当发生容器安全事件时,需要从容器或镜像中提取恶意文件进行分析和处理。 本文主要介绍3种常见的方法: (1) 从运行的容器中复制文件 首先,需要从镜像运行启动一个容器,然后,使用docker cp命令从容器中提取文件到宿主机。 docker run -d --name test test:v1.0 …

网站内容页无法访问!内页无法正常访问

内页无法正常访问原因:通常是因为伪静态设置不正确。 解决方法:检查伪静态规则是否正确配置。 确认服务器是否开启了rewrite模块。 生成正确的.htaccess文件,并放置在根目录下。扫码添加技术【解决问题】专注中小企业网站建设、网站安全12年。熟悉各种CMS,精通PHP+MYSQL、H…

PHP配置文件(php.ini)中上传文件大小限制怎么调整

上传文件大小限制原因:PHP配置文件(php.ini)中上传文件大小限制过小。 解决方法:修改php.ini文件中的upload_max_filesize和post_max_size。iniupload_max_filesize = 20M post_max_size = 20M扫码添加技术【解决问题】专注中小企业网站建设、网站安全12年。熟悉各种CMS,精…

pbootcms用户账号或密码错误,数据库中用户信息缺失怎么办?网站常见报错解决方案

用户登录问题原因:用户账号或密码错误,数据库中用户信息缺失。 解决方法:检查用户账号和密码是否正确。 确认数据库中用户信息完整。扫码添加技术【解决问题】专注中小企业网站建设、网站安全12年。熟悉各种CMS,精通PHP+MYSQL、HTML5、CSS3、Javascript等。承接:企业仿站、…

pbootcms上传文件大小限制怎么办?网站常见报错解决方案

原因:PHP配置文件(php.ini)中上传文件大小限制过小。 解决方法:修改php.ini文件中的upload_max_filesize和post_max_size。upload_max_filesize = 20M post_max_size = 20M扫码添加技术【解决问题】专注中小企业网站建设、网站安全12年。熟悉各种CMS,精通PHP+MYSQL、HTML5…

pbootcms空白页面或500错误怎么办?网站常见报错解决方案

空白页面或500错误原因:可能是PHP错误被隐藏了,或者是某些脚本导致的错误。 解决方法:开启PHP错误报告,查看具体的错误信息。error_reporting(E_ALL); ini_set(display_errors, On);检查最近修改过的文件或上传的新文件。扫码添加技术【解决问题】专注中小企业网站建设、网…