欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。


金字塔客服中心 - 专业程序化交易软件提供商金字塔软件公式模型编写问题提交 → 关于金字塔软件的数据计算精度调整

   

欢迎使用金字塔普通技术服务论坛,您可以在相关区域发表技术支持贴。
我司技术服务人员将优先处理 VIP客服论坛 服务贴,普通区问题处理速度慢,请耐心等待。谢谢您对我们的支持与理解。    


  共有6327人关注过本帖树形打印复制链接

主题:关于金字塔软件的数据计算精度调整

帅哥哟,离线,有人找我吗?
mathxg2010
  1楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
关于金字塔软件的数据计算精度调整  发帖心情 Post By:2011/8/15 15:51:11    Post IP:222.66.0.154[只看该作者]

编程中,会发现:

金字塔的数据计算精度很差,最为关键的就是:在计算一个量纲为10的-6甚至-8的数据时,它直接报0,那么应该如何实现其精度的调整,从而使得计算能够继续下去?


 回到顶部
帅哥哟,离线,有人找我吗?
fly
  2楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:5082 积分:17642 威望:0 精华:6 注册:2010/7/15 9:05:58
  发帖心情 Post By:2011/8/15 16:05:51    Post IP:58.246.57.26[只看该作者]

不明白意思,可否再具体些


金字塔—专业程序化交易量化投资平台

客户服务部

-----------------------------------------------------------

欢迎您参加我公司的技术培训,具体培训需求请发邮件到

service@weistock.com

您的宝贵建议或者投诉,请发往邮箱:weiwei@weistock.com

 回到顶部
帅哥哟,离线,有人找我吗?
mathxg2010
  3楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
  发帖心情 Post By:2011/8/15 16:15:34    Post IP:222.66.0.154[只看该作者]

例如:

 

x:=y/z;

 

这里,y差不多只在1左右,但是z却可以在100000,那么算下来,正确的x应该是10e-5左右,但是金字塔软件直接是:x=0。那么接下来的程序就无法继续计算下去了。因此是否有什么方法可以提高x的计算精度,譬如可以计算到10e-10左右的数据?


 回到顶部
帅哥哟,离线,有人找我吗?
mathxg2010
  4楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:新手上路 帖子:10 积分:70 威望:0 精华:0 注册:2011/7/27 15:40:51
  发帖心情 Post By:2011/8/15 16:18:12    Post IP:222.66.0.154[只看该作者]

这就类似于:

c语言里面的float 和double的区别,double的计算精度比float要高出许多,因此在计算较小的数据时,double比float要稳定。


 回到顶部
帅哥哟,离线,有人找我吗?
admin
  5楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:管理员 帖子:7302 积分:32559 威望:1000 精华:45 注册:2003/12/30 16:34:32
  发帖心情 Post By:2011/8/15 17:05:16    Post IP:58.246.57.26[只看该作者]

楼主的表达能力有待提高

 回到顶部
帅哥哟,离线,有人找我吗?
王锋
  6楼 | 信息 | 搜索 | 邮箱 | 主页 | UC


加好友 发短信
等级:罗宾汉 帖子:11808 积分:20695 威望:0 精华:10 注册:2009/8/18 8:15:13
  发帖心情 Post By:2011/8/15 18:12:30    Post IP:58.246.57.26[只看该作者]

金字塔公式系统浮点数均为double双精度计算,你的问题是出在显示的小数位数上,

 

例如:
MA1: MA(C,10)/200,PRECISION5; //强制小数位保留5位显示

[此贴子已经被作者于2011-8-15 18:14:13编辑过]


金字塔—专业程序化软件提供商

金字塔-技术部

-----------------------------------------------------------------------------------------------------

工作时间:周一至周五 08:30 - 17:30   周末及法定节假日休息

Email:service@weistock.com
 回到顶部