欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件金字塔软件问题提交 → 这样的值比较也会出错,天理何在?

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2214人关注过本帖树形打印复制链接

主题:这样的值比较也会出错,天理何在?

帅哥哟,离线,有人找我吗?
lcgs005
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:黑侠 帖子:649 积分:1359 威望:0 精华:0 注册:2009/10/24 1:57:01
这样的值比较也会出错,天理何在?  发帖心情 Post By:2016/6/2 0:51:26 [只看该作者]

如下图:
v1的值为-0.03;v2的值也为-0.03;
判断v1>=v2的结果却返回为0;
这么简单的数学问题都能出错?是何原因,如何处理?

图片点击可在新窗口打开查看此主题相关图片如下:qq图片20160602004914.png
图片点击可在新窗口打开查看


 回到顶部
帅哥哟,离线,有人找我吗?
yukizzc
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:超级版主 帖子:21598 积分:0 威望:0 精华:1 注册:2010/7/31 16:35:30
  发帖心情 Post By:2016/6/2 8:47:20 [只看该作者]

计算机的浮点数是有误差的,如果你要精确比较用rounds做下小数位整理

 回到顶部