计算机中浮点数运算的问题
首先我们来看一下下面一段代码:
为越城等地区用户提供了全套网页设计制作服务,及越城网站建设行业解决方案。主营业务为成都网站制作、成都网站设计、越城网站设计,以传统方式定制建设网站,并提供域名空间备案等一条龙服务,秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求,就会得到认可,从而选择与我们长期合作。这样,我们也可以走得更远!
#includeint main(int argc, char *argv[]) { int i; float sum = 0; for (i = 0; i < 100; i++){ sum += 0.1; } printf("sum = %f \n", sum); return 0; }
在32位ubuntu16.10上的执行结果为:
sum = 10.000002
0.1累加100次,结果应该是10.这里却多出了0.000002,为什么呢??这主要是与计算机中浮点数计算方式有关。
大家知道计算机是只认识0和1的,也就是所有的运算数值要转化位二进制后进行运算的,而浮点数转换成二进制的小数上就会出现问题。首先介绍下十进制小数转化成二进制小数的方法:
将十进制的整数转化为二进制时,使用的方法是连续除2,将余数从下向上读,就可以得到二进制数;相反将十进制的小数转化为二进制小数时,将小数部分乘2,直到小数部分全为0,如将十进制0.125转化为二进制为0.001:
0 0.125 * 2 = 0.25 (取0.25的整数部分)
0 0.25 *2 = 0.5 (取0.5的整数部分)
1 0.5 *2 = 1.0 (取1.0的整数部分)
然而并不是所有的十进制小数都能转化为二进制小数,如十进制的0.1:
0 0.1 * 2 = 0.2
0 0.2 * 2 = 0.4
0 0.4 * 2 = 0.8
1 0.8 * 2 = 1.6
1 0.6 * 2 = 1.2
0 0.2 * 2 = 0.4
.
.
.
可以看出将十进制的0.1转化为二进制是0.0001100011...是个无限循环的小数,所以当我们进行浮点数进行计算机运算的时候可能出现错误。
常见的解决办法是:
1)对于一些精度要求不高的运算可以选择忽略
2)对于一些要求较高的科学运算,可以先将十进制的小数转化为整数再进行运算,因为计算机对整数的运算的是准确的。
分享文章:计算机中浮点数运算的问题
本文路径:http://scyanting.com/article/jephcc.html