标题：这样的值比较也会出错，天理何在？

1楼

lcgs005 发表于：2016/6/2 0:51:26

如下图：

v1的值为-0.03;v2的值也为-0.03；

判断v1>=v2的结果却返回为0;

这么简单的数学问题都能出错？是何原因，如何处理？

此主题相关图片如下：qq图片20160602004914.png

2楼

yukizzc 发表于：2016/6/2 8:47:20

计算机的浮点数是有误差的，如果你要精确比较用rounds做下小数位整理

共2 条记录, 每页显示 10 条, 页签: [1]