| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> Python知识库 -> 如何理解 0.1 + 0.2 不等于 0.3 -> 正文阅读 |
|
[Python知识库]如何理解 0.1 + 0.2 不等于 0.3 |
首先明确一点,Python的浮点数存在着精度误差,因此浮点数不能也不应该进行等于的判断。 首先看下代码:
运行结果为: 为什么会输出 False 呢? 我们可以使用精度更高的 Decimal 类型来看下这些数据实际存储的状态:
输出为: 可以发现,由于存储位数有限导致了存在很小位数的精度不一致,事实上,在这种情况下,0.1+0.2 是大于 0.3。 具体存储位数如何导致精度问题,大家可以参阅: 这种问题同样也出现在很多与浮点数计算有关的函数使用中,比如四舍五入 round 函数。
输出为: 按照 Python 中“四舍六入五成双”的规则,此时两个数中,小数点后两位 5 的高位为双数 6,应该不需要进位。但是第一个明显却进位了!如果使用更高精度查看,就明白了:
输出为: 显然,0.65 实际存储的数大于 0.65,当然产生了进位。 因此,这些现象的产生,大家并不用觉得觉得奇怪即可。同时,还是要避免浮点数进行点值的相等比较。正确比较浮点数是否一样的方法应该是:
输出为:OK,实际应用中可以通过控制那个差值的小数位来控制比较误差的可接受范围。 |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年12日历 | -2024/12/31 3:29:55- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |