百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 编程网 > 正文

BigDecimal不可触碰的6个坑

yuyutoo 2024-12-13 17:00 5 浏览 0 评论

BigDecimal是Java中的一个类,用于处理任意精度的十进制数字。与基本数据类型double和float不同,BigDecimal类可以保留任意位数的小数,并支持高精度的数学运算。但是,由于BigDecimal处理的数字非常大,因此在使用时需要注意一些事项,否则可能会引发一些问题。本文将介绍使用BigDecimal时需要注意的点,并提供一些示例代码来说明问题。

1避免使用BigDecimal(double val)构造方法

BigDecimal(double val)构造方法接受一个double类型的参数,并返回一个BigDecimal对象。这个构造方法看起来很方便,但是实际上会导致精度问题。这是因为double类型只能保留有限的有效数字,当这个数字被转换为BigDecimal对象时,精度可能会丢失。例如:

BigDecimal bd = new BigDecimal(0.1);
System.out.println(bd);
复制代码

这段代码输出的结果将是0.1000000000000000055511151231257827021181583404541015625,而不是预期的0.1。这是因为0.1这个数字在double类型中无法精确表示。

为了避免这种精度问题,应该使用BigDecimal(String val)构造方法来创建BigDecimal对象。这个构造方法接受一个字符串类型的参数,并返回一个BigDecimal对象。例如:

BigDecimal bd = new BigDecimal("0.1");
System.out.println(bd);
复制代码

这段代码输出的结果将是0.1,符合预期。

2使用setScale方法设置精度

默认情况下,BigDecimal对象的精度是无限的。但是,在某些情况下,我们可能需要将精度限制在一定范围内。例如,我们可能需要将一个小数精确到两位小数点。这时,可以使用setScale方法来设置精度。例如:

BigDecimal bd = new BigDecimal("1.23456789");
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println(bd);
复制代码

这段代码将输出1.23,将小数点后面的数字保留两位,并且使用四舍五入的方式进行舍入。

需要注意的是,setScale方法返回的是一个新的BigDecimal对象,原对象并没有被修改。因此,在使用setScale方法时,需要将返回值重新赋值给原对象。例如:

BigDecimal bd = new BigDecimal("1.23456789");
bd = bd.setScale(2, RoundingMode.HALF_UP);
System.out.println(bd);
复制代码

3使用compareTo方法比较大小

由于BigDecimal对象的精度非常高,因此不能使用==或!=来比较两个BigDecimal对象的大小。这是因为两个BigDecimal对象可能只是在小数点后几位不同,但是使用==或!=却会将它们视为不同的对象。

为了比较两个BigDecimal对象的大小,应该使用compareTo方法。这个方法返回一个int类型的值,表示两个对象的大小关系。如果第一个对象小于第第二个对象,返回一个负数;如果两个对象相等,返回0;如果第一个对象大于第二个对象,返回一个正数。例如:

BigDecimal bd1 = new BigDecimal("1.23");
BigDecimal bd2 = new BigDecimal("1.24");
System.out.println(bd1.compareTo(bd2));
复制代码

这段代码将输出-1,表示bd1小于bd2。

需要注意的是,compareTo方法比较的是两个对象的大小关系,而不是它们的数值大小。例如:

BigDecimal bd1 = new BigDecimal("1.0");
BigDecimal bd2 = new BigDecimal("1.00");
System.out.println(bd1.compareTo(bd2));
复制代码

这段代码将输出0,表示bd1和bd2相等。尽管它们的字符串表示形式不同,但它们的数值相等。

4使用stripTrailingZeros方法去掉末尾的0

当BigDecimal对象的精度超过需要的精度时,它可能会包含一些末尾的0。例如:

BigDecimal bd = new BigDecimal("1.2300");
System.out.println(bd);
复制代码

这段代码将输出1.2300,尽管末尾的两个0是没有意义的。为了去掉这些末尾的0,可以使用stripTrailingZeros方法。例如:

BigDecimal bd = new BigDecimal("1.2300");
bd = bd.stripTrailingZeros();
System.out.println(bd);
复制代码

这段代码将输出1.23,去掉了末尾的两个0。

需要注意的是,stripTrailingZeros方法返回的是一个新的BigDecimal对象,原对象并没有被修改。因此,在使用stripTrailingZeros方法时,需要将返回值重新赋值给原对象。

5避免使用BigDecimal的doubleValue方法

在使用BigDecimal时,有时候需要将其转换为double类型。BigDecimal提供了doubleValue方法来进行转换,例如:

BigDecimal bd = new BigDecimal("1.23");
double d = bd.doubleValue();
复制代码

然而,doubleValue方法存在精度损失的风险。因为double类型只能表示有限的小数,而BigDecimal可以表示任意精度的小数,当一个BigDecimal对象的小数部分超过了double类型的精度范围时,使用doubleValue方法将会丢失精度。

例如:

BigDecimal bd = new BigDecimal("0.1");
System.out.println(bd.doubleValue());
复制代码

这段代码将输出0.1,但实际上它应该输出一个接近0.1但不完全等于0.1的值,因为0.1无法精确表示为一个double类型的数值。

如果需要将BigDecimal转换为double类型,应该使用BigDecimal的toBigInteger方法来获取一个BigInteger类型的值,再使用doubleValue方法进行转换。例如:

BigDecimal bd = new BigDecimal("1.23");
double d = bd.toBigInteger().doubleValue();
复制代码

这段代码将得到一个正确的结果,因为BigInteger可以表示任意精度的整数,没有精度损失的风险。

6避免使用BigDecimal的equals方法

BigDecimal提供了equals方法来比较两个对象是否相等。然而,由于BigDecimal可以表示任意精度的小数,因此equals方法的实现非常复杂。实际上,equals方法在比较两个BigDecimal对象时,会考虑它们的精度、舍入模式等因素,因此equals方法的行为可能与预期不一致。

BigDecimal bd1 = new BigDecimal("1.00");
BigDecimal bd2 = new BigDecimal("1.0");
System.out.println(bd1.equals(bd2));
复制代码

这段代码将输出false,尽管bd1和bd2的数值相等。

如果需要比较两个BigDecimal对象是否相等,应该使用compareTo方法进行比较,而不是使用equals方法。例如:

BigDecimal bd1 = new BigDecimal("1.00");
BigDecimal bd2 = new BigDecimal("1.0");
System.out.println(bd1.compareTo(bd2) == 0);
复制代码

这段代码将输出true,表示bd1和bd2相等。

综上所述,使用BigDecimal时需要注意以下几点:

  1. 避免使用BigDecimal(double val)构造方法,应该使用BigDecimal(String val)构造方法。
  2. 使用setScale方法设置精度,并将返回值重新赋值给原对象。
  3. 使用compareTo方法比较大小,而不是使用==或!=。
  4. 使用stripTrailingZeros方法去掉末尾的0,并将返回值重新赋值给原对象。
  5. 避免使用BigDecimal的doubleValue方法,使用toBigInteger方法获取一个BigInteger类型的值,再使用doubleValue方法进行转换。
  6. 避免使用BigDecimal的equals方法,使用compareTo方法进行比较。

下面是一个示例程序,演示了如何使用BigDecimal来进行数学运算:

import java.math.BigDecimal;
import java.math.RoundingMode;

public class BigDecimalExample {
    public static void main(String[] args) {
        BigDecimal bd1 = new BigDecimal("1.23");
        BigDecimal bd2 = new BigDecimal("2.34");

        // 加法
        BigDecimal sum = bd1.add(bd2);
        System.out.println(sum);

        // 减法
        BigDecimal difference = bd1.subtract(bd2);
        System.out.println(difference);

        // 乘法
        BigDecimal product = bd1.multiply(bd2);
        System.out.println(product);

        // 除法
        BigDecimal quotient = bd1.divide(bd2, 2, RoundingMode.HALF_UP);
        System.out.println(quotient);
    }
}


原文链接:https://juejin.cn/post/7207617774633320504

相关推荐

.NET 奇葩问题调试经历之3——使用了grpc通讯类库后,内存一直增长......

...

全局和隐式 using 指令详解(全局命令)

1.什么是全局和隐式using?在.NET6及更高版本中,Microsoft引入了...

请停止微服务,做好单体的模块化才是王道:Spring Modulith介绍

1、介绍模块化单体是一种架构风格,代码是根据模块的概念构成的。对于许多组织而言,模块化单体可能是一个很好的选择。它有助于保持一定程度的独立性,这有助于我们在需要的时候轻松过渡到微服务架构。Spri...

ASP.NET程序集引用之痛:版本冲突、依赖地狱等解析与实战

我是一位多年后端经验的工程师,其中前几年用ASP.NET...

.NET AOT 详解(.net 6 aot)

简介AOT(Ahead-Of-TimeCompilation)是一种将代码直接编译为机器码的技术,与传统的...

一款基于Yii2开发的免费商城系统(一款基于yii2开发的免费商城系统是什么)

哈喽,我是老鱼,一名致力于在技术道路上的终身学习者、实践者、分享者!...

asar归档解包(游戏arc文件解包)

要学习Electron逆向,首先要有一个Electron开发的程序的发布的包,这里就以其官方的electron-quick-start作为例子来进行一下逆向的过程。...

在PyCharm 中免费集成Amazon CodeWhisperer

CodeWhisperer是Amazon发布的一款免费的AI编程辅助小工具,可在你的集成开发环境(IDE)中生成实时单行或全函数代码建议,帮助你快速构建软件。简单来说,AmazonCodeWhi...

2014年最优秀JavaScript编辑器大盘点

1.WebstormWebStorm是一种轻量级的、功能强大的IDE,为Node.js复杂的客户端开发和服务器端开发提供完美的解决方案。WebStorm的智能代码编辑器支持JavaScript,...

基于springboot、tio、oauth2.0前端vuede 超轻量级聊天软件分享

项目简介:基于JS的超轻量级聊天软件。前端:vue、iview、electron实现的PC桌面版聊天程序,主要适用于私有云项目内部聊天,企业内部管理通讯等功能,主要通讯协议websocket。支持...

JetBrains Toolbox推出全新产品订阅授权模式

捷克知名软件开发公司JetBrains最为人所熟知的产品是Java编程语言开发撰写时所用的集成开发环境IntelliJIDEA,相信很多开发者都有所了解。而近期自2015年11月2日起,JetBr...

idea最新激活jetbrains-agent.jar包,亲测有效

这里分享一个2019.3.3版本的jetbrains-agent.jar,亲测有效,在网上找了很多都不能使用,终于找到一个可以使用的了,这里分享一下具体激活步骤,此方法适用于Jebrains家所有产品...

CountDownTimer的理解(countdowntomars)

CountDownTimer是android开发常用的计时类,按照注释中的说明使用方法如下:kotlin:object:CountDownTimer(30000,1000){...

反射为什么性能会很慢?(反射时为什么会越来越长)

1.背景前段时间维护一个5、6年前的项目,项目总是在某些功能使用上不尽人意,性能上总是差一些,仔细过了一下代码发现使用了不少封装好的工具类,工具类里面用了好多的反射,反射会影响到执行效率吗?盲猜了一...

btrace 开源!基于 Systrace 高性能 Trace 工具

介绍btrace(又名RheaTrace)是抖音基础技术团队自研的一款高性能AndroidTrace工具,它基于Systrace实现,并针对Systrace不足之处加以改进,核心改进...

取消回复欢迎 发表评论: