百度首页 | 百度空间
 
查看文章
 
浮点是否精确?
2007年10月17日 星期三 下午 04:23
浮点到底多精确,曾经以前听人讲座,说java内部数字未必那么精确,我还一直认为js就一定非常精确,今天看来未必
(100.55).toFixed(20)
ie下面确实是100.55000000000000000000
但是ff下面可就有意思了
是"100.54999999999999715783"
又拿出来rhino一看结果也是"100.54999999999999715783",看来就是传说中的不精确,其他呢ff3.0也是一样,opera9.23也是"100.54999999999999715783"这个结果,只有safari3.03和ie是一样的,就是100.5500000000000000还有更决的
(100.55).toFixed(1)猜猜是什么结果
ie 100.6 opera 100.5 ff 100.5 safari 100.6
继续测试(100.56).toFixed(1)
ie 100.6 opera 100.6 ff 100.6 safari 100.6
看来不仅精确不一样ie safari是5就入,而opera ff比较固执6才入,到底是不四舍五入呀,难道小学老师教错了

类别:javascript&web2.0 | 添加到搜藏 | 浏览() | 评论 (0)
 
最近读者:
 
网友评论:
发表评论:
姓 名:
网址或邮箱: (选填)
内 容:
验证码:
 

     

©2008 Baidu