博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
关于float的低精度问题
阅读量:4927 次
发布时间:2019-06-11

本文共 333 字,大约阅读时间需要 1 分钟。

float作为单精度浮点,是存在较大精度损失的。这里的精度损失大小和阶数有关系,当阶数很大时,精度损失也很大。

double也有精度损失,但由于位数多,所以精度更高。

在处理有精度损失的数据时,要关注精度损失对计算结果的影响。

常见情况为 大数吞小数 的情况

即 大数 + 小数 时,小数的值 < 大数的精度, 导致加上过后,在计算机里表示时恰好把小数这部分的值精度损失掉了。

(如float 作累加++,加到6w多就加不上去了)

对于这种问题的解决方案:

1)高精度加法-------kahn求和

2)避免出现大数 + 小数情况,尽量使各个数的范围是差不多量级

转载于:https://www.cnblogs.com/bitghost/p/7324738.html

你可能感兴趣的文章
phpcms 大杂烩
查看>>
Matlab 函数ndims简介,flipdim简介
查看>>
关于MAVEN找不到JDK的那点事
查看>>
Eclipse 各种小图标的含义
查看>>
Set和Map数据结构
查看>>
内置对象Cookie和Session有何不同【常见面试题】
查看>>
【转载】Sqlserver数据库备份的几种方式
查看>>
静态链表的创建
查看>>
poll?transport=longpoll&connection...连接的作用
查看>>
fontconfig
查看>>
Toda 2
查看>>
Symfony 1.4 send mail embed image
查看>>
I/O类型
查看>>
PHP程序缓存之文件缓存处理方式
查看>>
PAT 1011-1020 题解
查看>>
201621123034 《Java程序设计》第4周学习总结
查看>>
vue-13-插件
查看>>
vs2015 报的字符串超长错误
查看>>
Flex的学习资源
查看>>
千万别信“创业要胆大”这种鬼话!有些人只是后盾够强
查看>>