BigDecimal可能遇到的坑

  • 时间:
  • 浏览:
  • 来源:互联网

BigDecimal可能遇到的坑

  • 前言
    • 浮点数运算
    • 浮点数比较
    • 最后

前言

在计算机中数值的计算无法避免,由于日常的算术运算和计算机的计算并不等同,计算机是以二进制的形式存储数值,且计算机中二进制的位数有限,对于二进制中的“无限小数”便存在精度损失。如十进制的0.1转换为二进制为0.0 0011 0011 0011...(无数个0011),如果使用double储存再转换十进制就是0.1000000000000000055511151231

简而言之,计算机无法准确表达所有的浮点数,在重要的业务场景中需要考虑精度损失问题,常见得解决方法是使用BigDecimal类型。

开发环境:jdk-15.0.2

浮点数运算

 System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
 System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8)));
 System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100)));
 System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));
0.3000000000000000166533453693773481063544750213623046875
0.1999999999999999555910790149937383830547332763671875
401.49999999999996802557689079549163579940795898437500
1.232999999999999971578290569595992565155029296875

Process finished with exit code 0

查看其构造函数源码,不难发现:BigDecimal的初始化要使用String入参或者BigDecimal.valueOf()BigDecimal构造函数

浮点数比较

System.out.println(new BigDecimal("1").equals(new BigDecimal("1.0")));
System.out.println(new BigDecimal("1").compareTo(new BigDecimal("1.0")) == 0);
false
true

Process finished with exit code 0

Bigdecimal的equals在比较中不只是比较了value,还比较了scale:
在这里插入图片描述

最后

  1. BigDecimal的初始化要使用String入参或者BigDecimal.valueOf()
  2. 比较两个BigDecimal的value要使用compareTo

本文链接http://www.dzjqx.cn/news/show-617420.html