查看文章 |
浮点是否精确?
2007年10月17日 星期三 下午 04:23
浮点到底多精确,曾经以前听人讲座,说java内部数字未必那么精确,我还一直认为js就一定非常精确,今天看来未必 (100.55).toFixed(20) ie下面确实是100.55000000000000000000 但是ff下面可就有意思了 是"100.54999999999999715783" 又拿出来rhino一看结果也是"100.54999999999999715783",看来就是传说中的不精确,其他呢ff3.0也是一样,opera9.23也是"100.54999999999999715783"这个结果,只有safari3.03和ie是一样的,就是100.5500000000000000还有更决的 (100.55).toFixed(1)猜猜是什么结果 ie 100.6 opera 100.5 ff 100.5 safari 100.6 继续测试(100.56).toFixed(1) ie 100.6 opera 100.6 ff 100.6 safari 100.6 看来不仅精确不一样ie safari是5就入,而opera ff比较固执6才入,到底是不四舍五入呀,难道小学老师教错了 |
最近读者: