标题：关于EXTGBDATASET 小数点问题

1楼

LGP-AT 发表于：2020/7/22 13:33:35

EXTGBDATASET(STKLABEL+'_'+'T_PRICE',EXITPRICE);

上面这条语句，我把下单价格写入全局变量。但问题来了：但3289.2 被写成3289.199951，这是为什么？怎么控制小数点位数？

2楼

FireScript 发表于：2020/7/22 13:43:30

3289.199951 这个才是原始的值。计算机内部处理数据都会存在一定浮点数的问题。你在软件系统界面看到的，都是有过合理范围内的四舍五入之后来显示的。

你可以自行用ROUNDS( , )整理下数值的小数位。

3楼

LGP-AT 发表于：2020/7/22 14:29:04

那么是不是不处理也没关系？？？不处理还能节约计算机资源？？

4楼

FireScript 发表于：2020/7/22 14:31:57

没事的，这么点处理几乎没有任何影响。

共4 条记录, 每页显示 10 条, 页签: [1]