以文本方式查看主题 - 金字塔客服中心 - 专业程序化交易软件提供商 (http://222.73.7.161/bbs/index.asp) -- 金字塔软件问题提交 (http://222.73.7.161/bbs/list.asp?boardid=2) ---- 金字塔在有小数的计算方面有问题 (http://222.73.7.161/bbs/dispbbs.asp?boardid=2&id=13558) |
-- 作者:瓢把子 -- 发布时间:2012/8/9 11:56:41 -- 金字塔在有小数的计算方面有问题 金字塔在有小数的计算方面有问题: 比如,在股指,有小数。 a1:=high-close; 没问题,但是: a1:=high-close; 就有问题了,换一种方式 a1:=high-close; 这个显示的结果应该一样,可实际上显示的是 a1:=high-close; |
-- 作者:董小球 -- 发布时间:2012/8/9 13:08:37 -- 楼主能说说是什么问题么? 你光说有问题,我们不知道你遇到了什么问题啊
|
-- 作者:王锋 -- 发布时间:2012/8/9 13:29:12 -- 这不是金字塔的问题,你说的问题是目前计算机普遍存在的浮点计算误差,如果你需要一个精确的数字,应该使用金字塔提供的小数点整理函数,计算完毕后使用该函数进行整理 参考 四舍五入整理小数到指定位数 |
-- 作者:yanxc -- 发布时间:2012/11/13 12:58:43 -- close难道本身还能是2300.23吗?不太明白 |
-- 作者:王锋 -- 发布时间:2012/11/13 13:33:31 -- 交易所过来的数据,经过多次浮点转换,会导致出现2300.200000001等这样的情况,这就是我们指的浮点误差,对于浮点数的等于判断,哪怕是0.00000001也是不等于的 |
-- 作者:jinzhe -- 发布时间:2012/11/13 13:33:47 -- 看王峰所说,有可能就是计算机的浮点误差导致把收盘价计算错了, |
-- 作者:wd369 -- 发布时间:2012/11/14 10:59:25 -- 使用自定义函数出错 原始数据的浮点误差造成的, 我在以前提到过的,像大智慧在数据结构中就有一项是精确度,在行情中显示的数据已经经过精确度再处理,就不会出现这样情况. 金字塔可以借鉴这样做法.由每个用户在公式里面自己处理,由此出现的问题就太多了.
|