以文本方式查看主题

-  金字塔客服中心 - 专业程序化交易软件提供商  (http://222.73.7.161/bbs/index.asp)
--  公式模型编写问题提交  (http://222.73.7.161/bbs/list.asp?boardid=4)
----  关于EXTGBDATASET 小数点问题  (http://222.73.7.161/bbs/dispbbs.asp?boardid=4&id=181329)
--  作者：LGP-AT
--  发布时间：2020/7/22 13:33:35
--  关于EXTGBDATASET 小数点问题
EXTGBDATASET(STKLABEL+\'_\'+\'T_PRICE\',EXITPRICE);

上面这条语句，我把下单价格写入全局变量。但问题来了：但3289.2 被写成3289.199951，这是为什么？怎么控制小数点位数？
--  作者：FireScript
--  发布时间：2020/7/22 13:43:30
--  
 3289.199951  这个才是原始的值。计算机内部处理数据都会存在一定浮点数的问题。你在软件系统界面看到的，都是有过合理范围内的四舍五入之后来显示的。


你可以自行用ROUNDS( , )整理下数值的小数位。
--  作者：LGP-AT
--  发布时间：2020/7/22 14:29:04
--  
那么是不是不处理也没关系？？？不处理还能节约计算机资源？？
--  作者：FireScript
--  发布时间：2020/7/22 14:31:57
--  
 没事的，这么点处理几乎没有任何影响。