- 金字塔客服中心 - 专业程序化交易软件提供商 (http://222.73.7.161/bbs/index.asp)
-- 金字塔软件问题提交 (http://222.73.7.161/bbs/list.asp?boardid=2)
---- 这样的值比较也会出错，天理何在？ (http://222.73.7.161/bbs/dispbbs.asp?boardid=2&id=98119)
-- 发布时间：2016/6/2 0:51:26
-- 这样的值比较也会出错，天理何在？
如下图：
v1的值为-0.03;v2的值也为-0.03；
判断v1>=v2的结果却返回为0;
这么简单的数学问题都能出错？是何原因，如何处理？
此主题相关图片如下：qq图片20160602004914.png
-- 发布时间：2016/6/2 8:47:20
--
计算机的浮点数是有误差的，如果你要精确比较用rounds做下小数位整理