欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → [求助]请教数值比较精度问题

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有2337人关注过本帖树形打印复制链接

主题:[求助]请教数值比较精度问题

帅哥哟,离线,有人找我吗?
grayelf
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:48 积分:0 威望:0 精华:0 注册:2016/7/30 12:34:35
[求助]请教数值比较精度问题  发帖心情 Post By:2017/10/30 20:23:39    Post IP:116.237.27.204[只看该作者]

今天股指收盘价为3981.6,程序如下,用“=”,程序就无显示。。。
DRAWTEXT(close=3981.6,low,'1111');
MSGOUT(close=3981.6,‘2222’);

但是改成一个区间后,就可以显示了。说明股指的价格不是3981.6,可能是3981.59999?
DRAWTEXT(close>3981.5 and close<3981.7,low,'1111');
MSGOUT(close>3981.5 and close<3981.7,'2222');

 回到顶部
帅哥哟,离线,有人找我吗?
wenarm
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:26632 积分:0 威望:0 精华:7 注册:2015/4/9 14:59:07
  发帖心情 Post By:2017/10/30 21:23:44    Post IP:114.84.171.152[只看该作者]

是的,交易所过来的数据,其数据使浮点类型,可能存在很多个小数位。


编程无捷径,技巧靠积累。
 回到顶部
帅哥哟,离线,有人找我吗?
grayelf
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:48 积分:0 威望:0 精华:0 注册:2016/7/30 12:34:35
  发帖心情 Post By:2017/11/3 21:02:14    Post IP:116.237.27.204[只看该作者]

 哦哦,谢谢。

 回到顶部