所谓精度控制,特别指浮点数相关,以及其他需要用到高精度如游戏监测的地方时需要注意的事项。
1、Number
Number是一个双精度浮点数,而as中很多属性值是此类型。在实际编程中,如果要精确控制Number,会出现莫名其妙的情况,
情况一、
函数y=f(x)=a*x/k,其中x为自变量,x、k均为整数,由此计算出y,然后立即由k*y/a返求x,这个x算出来不完完整整正好是原来的x!可能算出来是一个与原x有微弱差别的Number小数(譬如多或者少个0.000001等等),这时如果你使用x的下界或者上界,会出现错误!
情况二、
判断两个Number是否相等,我们经常算出一个...
共1篇日志 第1/1页
分类
琐碎文字 As3&Flex RIA UG English CodingArt C++ PHP Webserver E音乐盒 Unity3d C# JS&Html5 Tools mobile golang 最近发表
- golang学习之函数/方法/接口(2022年1月6日 17:50:24)
- golang学习之零值(2022年1月6日 16:38:10)
- hello, 2018(2018年1月15日 22:47:25)
- 字体类型名词解释(2015年1月18日 11:29:14)
- 获取mysql表注释以及列注释(2014年11月13日 15:56:32)
- php连接ms sql数据库的一些问题(2014年9月15日 20:32:14)
- virtualbox虚拟网络:NAT&bridge桥接网络(2014年8月25日 22:51:35)
- php图片加水印(2014年8月15日 22:50:42)
- windows查看端口占用情况(2014年7月31日 21:19:30)
- android安卓activity生命周期(2014年7月12日 10:31:47)
最近回复