-
java中float/double浮点数的计算失去精度问题(即小数位数增加的问题)
文章浏览阅读2.5k次。今天在数值计算时碰到一个问题.程序如下:doublea=(3.3-2.4)/0.1;System.out.println(a);你可能认为结果很简单
1
共1页
文章浏览阅读2.5k次。今天在数值计算时碰到一个问题.程序如下:doublea=(3.3-2.4)/0.1;System.out.println(a);你可能认为结果很简单