首页 置换 选车 估价 问答 生活 经销商 车管所 汽车资讯 汽车销量 车牌查询 今日油价 天气预报
您的位置: 首页 > 生活 > 生活 > Excel中的浮点运算误差以及规避的办法(Excel中的浮点运算误差以及规避的办法)
Excel中的浮点运算误差以及规避的办法(Excel中的浮点运算误差以及规避的办法)
更新时间:2024-08-09 05:36:06

Excel浮点计算误差,对计算结果会有一定的影响,这个在日常的计算中一定要注意,如果是正常的数值运算,基本上不会出现错误了:

例如:

0.82-0.8=0.02

但是如果在外面套上函数就会出现问题:

Excel中的浮点运算误差以及规避的办法(Excel中的浮点运算误差以及规避的办法)1

=INT((B2-A2)*100)

应该得到的结果是2,但是Excel给出的结果却是1,我们通过查看函数计算过程发现,两个小数相减,得到的结果不是0.02,而是0.0199999999999999这样一个值,这就是Excel浮点计算的误差,我们做了一个简单的测试,发现绝大多数的数值运算函数,都会受这个误差的影响,导致计算结果出现错误。

有趣的是这个影响的数值范围:

Excel中的浮点运算误差以及规避的办法(Excel中的浮点运算误差以及规避的办法)2

各种带8的或者1.2-1.1,又不是所有的差值在0.1的都会显示0.999999999999999,规律很难找出来。

我试了几个这种

1.882-1.8

2.8882-2.88

这样的都会出现浮点误差。

出现误差怎么办?

微软提示两个办法:

  • ROUND函数来确定精度:

为了防止这个误差,嵌套一个ROUND函数来截断数据

Excel中的浮点运算误差以及规避的办法(Excel中的浮点运算误差以及规避的办法)3

  • Excel选项中规定计算精度:

高级选项卡下面的计算工作簿,勾选计算精度为显示精度。

Excel中的浮点运算误差以及规避的办法(Excel中的浮点运算误差以及规避的办法)4

在保存工作簿时,除两个小数位数之外的所有精度都将丢失。 此选项影响活动工作簿,包括所有工作表。 您无法撤消此选项并恢复丢失的数据。 建议您在启用此选项之前保存工作簿。

这是微软的原话,我觉得这个误差多是出现在绝对值小于0的小数运算,那么很多时候是在计算各种百分比时会出现误差,尤其是在绩效核算时的打分计算中,多扣分了同事不高兴,少扣钱了老板不满意。一定要多加小心,认真验算。

,
相关推荐RECOMMEND
痛风自然离你越来越远(痛风离年轻人并不远)
痛风自然离你越来越远?提醒:此病不能拖,一旦发现症状及时就医,我来为大家科普一下关于痛风自然离你越来越远?下面希望有你要的答案,我们一起来看看吧!痛风自然离你越来越远提醒:此病不能拖,一旦发现症状及时...
杨幂私下穿搭造型指南(杨幂淡妆出镜拍写真)
,
无锡公交有几条线路(无锡新辟一条公交支线)
一、为方便市民出行,自2022年8月30日起,新辟公交712路支线,具体如下:公交712路支线:由甘露停车场始发,行驶甘西路、锡甘路、月溪路、甘吴路至松芝村委后调头返回行驶。停靠站点:甘露停车场、甘露...
竞价开户怎么推广的(非企竞价返点开户的一些小秘密)
有朋友应该还没听过非企竞价开户,我先简单举例解释下,比如你是一个卖茶叶的老板,你想在百度卖你的茶叶,但是直接找代理开户要花一万多,如果嫌贵,你就可以找个非企开户的,只需要2000多,没有服务费,就可以...
千兆网络无线覆盖(最快Wi-Fi6智能运维)
文|柳华芳我们身处一个万物互联的时代,拥有越来越多的智能设备,走进智能家居、智能工厂、智能教室……等新场景之中,进行了智能社会的初体验。当个体畅享智能之时,企业、大学、政府、医院等组织也在加速智能互联...
迎来了第一场雪的说说(形容第一场雪的心情说说)
迎来了第一场雪的说说?今天下了今年的第一场雪,突然有些过年的气氛,我忽然想起了你,前一秒钟,我还在感叹时间是个好东西,让我忘记了你,忽然没那么熟悉,后一秒,电视里的声音提醒我,你在哪里,我来为大家科普...