您好, 欢迎来到 !    登录 | 注册 | | 设为首页 | 收藏本站

Python工具:保留小数的指定有效位数

5b51 2022/1/14 8:25:23 python 字数 1865 阅读 801 来源 www.jb51.cc/python

处理一个数据文件,发现数据不一致,小数点后有三位、四位、六位、更多位。部分还进行四舍五入。

概述

处理一个数据文件,发现数据不一致,小数点后有三位、四位、六位、更多位。部分还进行四舍五入。

需要对数据文件进行处理。如果有效位超过6位,则四舍五入。如果小于6位,则保持原来的数字不变。

考虑两种情况:

小数点后无数字:判断数字有效位(len(str(num))-1)是否超过6,超过则通过整除去尾,没有则返回

小数点后有数字:判断数字有效位(len(str(num))-1)是否超过6,超过则四舍五入round(f,n - len(str(int(f)))),没有则返回

代码

n+1 else f

注意:

round不是简单的四舍五入

round()如果只有一个数作为参数,不指定位数的时候,返回的是一个整数,而且是最靠近的整数(这点上类似四舍五入)。但是当出现.5的时候,两边的距离都一样,round()取靠近的偶数,这就是为什么round(2.5) = 2。当指定取舍的小数点位数的时候,一般情况也是使用四舍五入的规则,但是碰到.5的这样情况,如果要取舍的位数前的小树是奇数,则直接舍弃,如果偶数这向上取舍。看下面的示例:

>> round(2.635,2)
2.63
>>> round(2.645,2)
2.65
>>> round(2.655,2)
2.65
>>> round(2.665,2)
2.67
>>> round(2.675,2)
2.67

总结

以上是编程之家为你收集整理的Python工具:保留小数的指定有效位数全部内容,希望文章能够帮你解决Python工具:保留小数的指定有效位数所遇到的程序开发问题。


如果您也喜欢它,动动您的小指点个赞吧

除非注明,文章均由 laddyq.com 整理发布,欢迎转载。

转载请注明:
链接:http://laddyq.com
来源:laddyq.com
著作权归作者所有。商业转载请联系作者获得授权,非商业转载请注明出处。


联系我
置顶