欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页  >  IT编程

【Java基础】16、小数的浮点型和定点型

程序员文章站 2022-12-25 17:51:02
一、简介 1、对于不需要任何准确计算精度的数字可以直接使用浮点型,但是如果需要精确计算的结果,则必须使用定点型(BigDecimal类) 浮点型:float,double 定点型:BigDecimal 2、BigDecimal是Java中用来表示任意精确浮点数运算的类,在BigDecimal中,使用 ......

一、简介

1、对于不需要任何准确计算精度的数字可以直接使用浮点型,但是如果需要精确计算的结果,则必须使用定点型(bigdecimal类)

浮点型:float,double

定点型:bigdecimal

2、bigdecimal是java中用来表示任意精确浮点数运算的类,在bigdecimal中,使用unscaledvalue × 10-scale来表示一个浮点数。其中,unscaledvalue是一个biginteger,scale是一个int。

二、常见问题

1、bigdecimal的精度问题

system.out.println(new bigdecimal(0.1).tostring()); // 0.1000000000000000055511151231257827021181583404541015625
system.out.println(new bigdecimal("0.1").tostring()); // 0.1
system.out.println(new bigdecimal(
double.tostring(0.1000000000000000055511151231257827021181583404541015625)).tostring());// 0.1
system.out.println(new bigdecimal(double.tostring(0.1)).tostring()); // 0.1

 

分析一下上面代码的问题(注释的内容表示此语句的输出)

第一行:事实上,由于二进制无法精确地表示十进制小数0.1,但是编译器读到字符串"0.1"之后,必须把它转成8个字节的double值,因此,编译器只能用一个最接近的值来代替0.1了,即0.1000000000000000055511151231257827021181583404541015625。因此,在运行时,传给bigdecimal构造函数的真正的数值是0.1000000000000000055511151231257827021181583404541015625。
第二行:bigdecimal能够正确地把字符串转化成真正精确的浮点数。
第三行:问题在于double.tostring会使用一定的精度来四舍五入double,然后再输出。会。double.tostring(0.1000000000000000055511151231257827021181583404541015625)输出的事实上是"0.1",因此生成的bigdecimal表示的数也是0.1。
第四行:基于前面的分析,事实上这一行代码等价于第三行
 
结论:
1.如果你希望bigdecimal能够精确地表示你希望的数值,那么一定要使用字符串来表示小数,并传递给bigdecimal的构造函数。
2.如果你使用double.tostring来把double转化字符串,然后调用bigdecimal(string),这个也是不靠谱的,它不一定按你的想法工作。
3.如果你不是很在乎是否完全精确地表示,并且使用了bigdecimal(double),那么要注意double本身的特例,double的规范本身定义了几个特殊的double值(infinite,-infinite,nan),不要把这些值传给bigdecimal,否则会抛出异常。
 

2、把double强制转化成int,难道不是扔掉小数部分吗?

int x=(int)1023.99999999999999; // x=1024为什么?

原因还是在于二进制无法精确地表示某些十进制小数,因此1023.99999999999999在编译之后的double值变成了1024。

所以,把double强制转化成int确实是扔掉小数部分,但是你写在代码中的值,并不一定是编译器生成的真正的double值。
验证代码:
double d = 1023.99999999999999;
int x = (int) d;
system.out.println(new bigdecimal(d).tostring()); // 1024
system.out.println(long.tohexstring(double.doubletorawlongbits(d))); // 4090000000000000
system.out.println(x); // 1024

前面提过bigdecimal可以精确地把double表示出来还记得吧。

我们也可以直接打印出d的二进制形式,根据ieee 754的规定,我们可以算出0x4090000000000000=(1024)。