| |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
-> 区块链 -> VB/VBA的浮点数结构 -> 正文阅读 |
|
[区块链]VB/VBA的浮点数结构 |
?前言在前篇《VB的整数,你真的了解?》中,向读者介绍整数时提到,计算机里实际上只有整数一种类型。那浮点数是如何表示的呢?浮点数的使用性能是不是比真正的整数要差呢?VB在应用过程中要注意哪些事项呢?本篇将详细分析,来看看吧。 一、浅谈浮点数人类在进化过程中,发明了很多种度量单位,来量化我们所处的世界。但在客观世界里,没有那么多刚刚好的事。比如银行存款余额,时间,导弹射程,战舰位置等,人类也不可能无限细分度量单位。好比在计算机世界里,我们不能给每个内存单元(字节)都取一个名字,只能给有意义的内存冠名(变量)。 这时浮点数就显得异常重要了,代表着人类对客观世界的把控程度。这种把控充满了主观色彩,可以用”在乎”一词来形容浮点数对人的意义。首先,在不同背景下,需要不同的精度。比如我们很少在意金钱数据角分之后的数据,但是在高能物理界可能需要小数点后N个数位,否则差之毫厘失之千里。其次,精度的转换又常常在不经意间发生。比如朋友来了有好酒,我们出手阔绰,毫不计较。但敌人来了有猎枪,一个子儿也不会多给。 虽然,计算机只认整数,但是我们人更多地是认小数(也即浮点数或实数)的,因为小数才有现实意义。超算和比特币矿机,想必大家有所耳闻,他们都偏重计算,讲究的是算力。如果说比特币矿机有点不务正业,那超算是正儿八经的为科学研究服务吧。很多高精尖领域的研究,都离不开超算。但是衡量超算能力最核心的指标之一,就是浮点运算能力。 最近币市火爆,笔者也有谈到比特币,有朋友问矿机为何要装显卡?其实,就跟浮点数运算有关啦。我们知道显卡专注于提升图像图形的处理能力,而图形的处理就涉及到精度的问题,也就是浮点数的处理喽。而比特币挖矿在非对称加解密、哈希等计算中要涉及浮点数的,所以给矿机加显卡,是可以提高算力的。 二、VB的浮点数结构1、Single类型占4字节,6位有效小数。由1Bit符号位、8Bits指数位和23Bits有效数位三部分组成。其结构如下: 那Single又是如何转换为整数的呢?按照IEEE(美国电气和电子工程师学会)的标准,按照以下公式进行转换: l= (-1)^s * (1 + f) * 2^(e - 127) 其中:l为十进制整数,s为第32bit位的符号(0为正数,1为负数),f为有效小数,e为幂指数。 看上去很复杂,其实在VB里非常简单,将Single变量的内存数据,直接拷贝到Long类型变量的内存里,就完成了转换。 2、Double类型占8字节,15位有效小数。由1Bit符号位、11Bits指数位和52Bits有效数位三部分组成,结构与Single类似。与十进制转换公式为:l= (-1)^s * (1 + f) * 2^(e - 1023)。 在VB中,需要借助Currency类型,来实现转换。 3、Date类型占8字节,是VB的日期格式。DATE在WTYPES.H中定义为"typedef double DATE;",所以Date就是Double类型。值得一提的是,其整数部分为年月日,小数部分为时分秒,可以手工实现高精度时间哦。 三、VB浮点数使用过程中要注意哪些?按浮点数的结构,我们可知浮点数在计算机中,并不等于数学意义上的实数,而是存在人为舍位的近似值。因此时时刻刻牢记精度问题,是正确使用浮点数的前提。 1、浮点数与10进制整数相互转换时,存在精度问题。 2、浮点数谨慎用于相等判断。 3、VB对小数常数、除法结果等默认为Double类型,在计算中只要有小数,都会做Double类型转换,会降低代码性能。在X86的32位机器下,CPU处理Single的速度更快,若精度允许,应尽量使用该类型,否则应统一使用Double类型。 4、VB中若需要更高精度的浮点数,则需借助Decimal类型,该类型支持28位有效小数位,但性能也更低。 欢迎关注BtOfficer及各大自媒体平台同名账号,笔者研发的安全生产框架,专为非IT人士服务,集成海量实用工具,更提供功能齐全的编程接口,重要的是可完美兼容VB家族语言,是非IT潜心于业务生产的利器。关注“BtOfficer”公众号,即可获取深入浅出的开发帮助,系统的底层知识,答疑等福利,还有行业情报,产品经销资格等您来拿哦。 ? |
|
|
上一篇文章 下一篇文章 查看所有文章 |
|
开发:
C++知识库
Java知识库
JavaScript
Python
PHP知识库
人工智能
区块链
大数据
移动开发
嵌入式
开发工具
数据结构与算法
开发测试
游戏开发
网络协议
系统运维
教程: HTML教程 CSS教程 JavaScript教程 Go语言教程 JQuery教程 VUE教程 VUE3教程 Bootstrap教程 SQL数据库教程 C语言教程 C++教程 Java教程 Python教程 Python3教程 C#教程 数码: 电脑 笔记本 显卡 显示器 固态硬盘 硬盘 耳机 手机 iphone vivo oppo 小米 华为 单反 装机 图拉丁 |
360图书馆 购物 三丰科技 阅读网 日历 万年历 2024年12日历 | -2024/12/27 10:05:29- |
|
网站联系: qq:121756557 email:121756557@qq.com IT数码 |
数据统计 |