| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> Java知识库 -> Double计算精度丢失(金融入门知识点) -> 正文阅读 |
|
[Java知识库]Double计算精度丢失(金融入门知识点) |
Double计算精度丢失(金融入门知识点)最近工作发现不少同事对于double精度丢失还不了解,对于一些新手java程序员,这倒是还可以理解,但是如果是已经工作了几年的老鸟,还不清楚,那就要抓紧补课了。废话不多说,进入今天的正题。 一.double精度丢失
执行以上java代码,期望打印9.9,但是实际返回的是:9.899999999999999 二.为什么double会精度丢失这是由于double不是精确计算,存在精度丢失。至于为什么会精度丢失,是由于计算机在进行计算的时候是采用二进制,需要将10进制转换成二进制,但是很多10进制数无法使用二进制来精确表示。 例如:0.1,它对应的二进制0.0001100110011…无限循环,只能无限逼近0.1,这就导致了精度丢失的问题。 想深入了解可以看 这篇文章,讲的不错。 三.BigDecimal错误的用法可以使用 BigDecimal 类来进行精确计算,可以避免精度丢失的问题。 但是在使用 BigDecimal 也存在很多坑。
例如:
会打印出:0.1000000000000000055511151231257827021181583404541015625 官方给出的注释如下:
这是由于0.1无法精确的表示为一个二进制数导致的。
打印的结果为:0.5555555555555556,这是由于double存在一定的精度,会进行四舍五入,因此在转换为BigDecimal的时候就会我们预想的不一致。 四.BigDecimal正确的用法注意:通过阅读注释,以下用法也是官方推荐的用法。
打印结果为:
官方注释如下:
引用: |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年11日历 | -2024/11/24 1:06:41- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |