欢迎来到代码驿站!

.NET代码

当前位置:首页 > 软件编程 > .NET代码

C# double类型变量比较分析

时间:2021-04-15 11:16:19|栏目:.NET代码|点击:

double类型变量

怎么比较大小

通过使用double.equals(doubale a,double b)进行比较时,发现两个数值不是相等。

图中sum为从0加0.1累计到1,按数学计算应该为1.0,但是在计算机中计算为0.9999999999,通过double.equals或者直接用==进行等量判断时,发现不相同。

这说明double类型不能直接进行等量判断,那么怎么进行比较呢?

类型转换为decimal

将float模型转换成decimal可以直接进行判断了.

可以看出两个值都是1,这样就可以直接进行比较了。

综上所述,在进行数值比较时,如果使用double类型时,不能直接进行等量判断,需要通过两值相减小于某个定义的值如0.0000001来判断两值相等或者转换为其他类型进行判断。

补充知识:c#中Double类型的使用场景

【Double】

double类型在程序中定义变量会经常使用,如果使用不当,会导致实际值精度问题出现,例子如下:

 Double d1 = 66.09;
 Double d2 = 89.943;
 Double d3 = 156.033;
 d2 = d1 + d2; //两个double 类型相加的结果是:156.03300000000002
 Console.WriteLine(d2.CompareTo(d3)); //导致最终的结果是d2的值大于d3的值,但是实际看到的值是相等的
 Console.ReadLine();

【解决方案】

使用Decimal类型定义后保证小数的精确度,两个相同类型的decimal相加后可以确保程序不会自动添加进度到结果值中,这样就能够避免出现以上情况发生

 Decimal d1 = 66.09M;
 Decimal d2 = 89.943M;
 Decimal d3 = 156.033M;
 d2 = d1 + d2;
 Console.WriteLine(d2.CompareTo(d3));
 Console.ReadLine();

上一篇:C#实现随机洗牌的方法

栏    目:.NET代码

下一篇:asp.net(C#)实现功能强大的时间日期处理类完整实例

本文标题:C# double类型变量比较分析

本文地址:http://www.codeinn.net/misctech/101501.html

推荐教程

广告投放 | 联系我们 | 版权申明

重要申明:本站所有的文章、图片、评论等,均由网友发表或上传并维护或收集自网络,属个人行为,与本站立场无关。

如果侵犯了您的权利,请与我们联系,我们将在24小时内进行处理、任何非本站因素导致的法律后果,本站均不负任何责任。

联系QQ:914707363 | 邮箱:codeinn#126.com(#换成@)

Copyright © 2020 代码驿站 版权所有