标签: 精度

1 篇文章

float 浮点数判等问题
之前在 二进制趣事 一文中提到过计算机如何存储浮点数,最近对浮点数判断问题有了些新的理解,抛开细节不谈,其实很容易说清楚浮点数判等出错的原因: 计算机存储总是有限的,所以在表示无限循环小数时候只能取不同程度的近似值(位数),以及不同的尾数舍弃标准(ceil, floor, round),从而导致运算上出现不同的结果。 具体实现上,可以总结为两个原因…