以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://222.73.7.161/bbs/index.asp)
--  高级功能研发区  (http://222.73.7.161/bbs/list.asp?boardid=5)
----  [求助] ReportData.NewPrice 的数据数型问题  (http://222.73.7.161/bbs/dispbbs.asp?boardid=5&id=31450)
--  作者：internethhhh
--  发布时间：2012/12/12 17:29:22
--  [求助] ReportData.NewPrice 的数据数型问题

请问老师：

.

.

NewPrice1 = ReportData.NewPrice\'显示NewPrice1为：2653.60

.

.

Price2 = NewPrice1-0.2\'结果Price2显示为：2653.39873432443

 

当最新价为2653.40时，如何写才能让 if NewPrice1=Price2 then中的条件为True?
--  作者：admin
--  发布时间：2012/12/12 17:49:35
--  

这是浮点计算导致，这是任何CPU都存在的问题，对浮点数的等于判断不要直接用＝这样来做，而是应该这样

if abs(NewPrice1-Price2) < 0.01 then

 

这样就没问题了
--  作者：internethhhh
--  发布时间：2012/12/12 17:59:36
--  
谢谢！