PPT:浮点数为什么运算不精确?

思考 🤔

以下两端代码的输出结果分别是什么?

1
2
3
float a = 0.125f; 
double b = 0.125d;
System.out.println((a - b) == 0.0);
1
2
3
4
double c = 0.8;
double d = 0.7;
double e = 0.6;
System.out.println((c - d) == (d-e));

带着问题一起来看看浮点数的底层原理吧。

目录:


PPT:浮点数为什么运算不精确?
https://www.haoyizebo.com/posts/cdc98968/
作者
一博
发布于
2020年12月8日
许可协议