[求助] ReportData.NewPrice 的数据数型问题 - 高级功能研发区 - 金字塔客服中心 - 专业程序化交易软件提供商

金字塔客服中心 - 专业程序化交易软件提供商 → 金字塔软件 → 高级功能研发区 → [求助] ReportData.NewPrice 的数据数型问题

欢迎使用金字塔普通技术服务论坛，您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴，普通区问题处理速度慢，请耐心等待。谢谢您对我们的支持与理解。

共有3380人关注过本帖树形打印复制链接主题：[求助] ReportData.NewPrice 的数据数型问题

internethhhh

小大 1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：新手上路帖子：30 积分：190 威望：0 精华：0 注册：2012/11/14 12:45:01

[求助] ReportData.NewPrice 的数据数型问题 发帖心情

Post By：2012/12/12 17:29:22 [只看该作者]

请问老师：

NewPrice1 = ReportData.NewPrice'显示NewPrice1为：2653.60

Price2 = NewPrice1-0.2'结果Price2显示为：2653.39873432443

当最新价为2653.40时，如何写才能让 if NewPrice1=Price2 then中的条件为True?

admin

小大 2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：管理员帖子：7302 积分：32559 威望：1000 精华：45 注册：2003/12/30 16:34:32

Post By：2012/12/12 17:49:35 [只看该作者]

这是浮点计算导致，这是任何CPU都存在的问题，对浮点数的等于判断不要直接用＝这样来做，而是应该这样

if abs(NewPrice1-Price2) < 0.01 then

这样就没问题了

internethhhh

小大 3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC

等级：新手上路帖子：30 积分：190 威望：0 精华：0 注册：2012/11/14 12:45:01

Post By：2012/12/12 17:59:36 [只看该作者]

谢谢！

RSS2.0 | Xhtml无图版 | Xslt无图版 Powered By weistock 2012
页面执行时间 03.00781 秒, 5 次数据查询

主题：[求助] ReportData.NewPrice 的数据数型问题