欢迎您访问程序员文章站本站旨在为大家提供分享程序员计算机编程知识!
您现在的位置是: 首页

double精度丢失问题

程序员文章站 2022-07-15 13:18:56
...

1,调试计算器app时出现0.1+0.2=0.30000000000004
2,在网上找了一些解决方法,原来是精度丢失问题
3,可以引入import java.math.BigDecimal;
使用BigDecimal来解决

if(!s1.equals("") && !s3.equals(""))
		{  //包含小数点的运算

			if(s2.equals("+")){
				r = BigDecimal.valueOf(d1).add(BigDecimal.valueOf(d2)).doubleValue();
			}
			editText2.setText(r +"");

double精度丢失问题
double精度丢失问题
4,关于BigDecimal的四个计算:
add() // 加法
subtract() // 减法
multiply // 乘法
divide() // 除法
abs() / /绝对值
5,其中除法,需要设置舍入的样式,不然遇到无限循环小数程序会崩溃。舍入格式有八种,其主要的形式为:

r = BigDecimal.valueOf(d1).divide(BigDecimal.valueOf(d2),3   精确小数位,BigDecimal.ROUND_UP 舍入模式).doubleValue();

ROUND_UP         舍入远离零的舍入模式。
ROUND_DOWN       接近零的舍入模式。
ROUND_CEILING    接近正无穷大的舍入模式。
ROUND_FLOOR      接近负无穷大的舍入模式。
ROUND_HALF_UP    向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则为向上舍入的舍入模式。
ROUND_HALF_DOWN  向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则为上舍入的舍入模式。
ROUND_HALF_EVEN  向“最接近的”数字舍入,如果与两个相邻数字的距离相等,则向相邻的偶数舍入。
ROUND_UNNECESSARY 断言请求的操作具有精确的结果,因此不需要舍入。