The right way to compare a System.Double to #39;0#39; (a number, int?)(将 System.Double 与“0(数字,整数?)进行比较的正确方法)
问题描述
抱歉,这可能是一个简单的愚蠢问题,但我需要知道才能确定.
Sorry, this might be a easy stupid question, but I need to know to be sure.
我有这个 if
表达式,
void Foo()
{
System.Double something = GetSomething();
if (something == 0) //Comparison of floating point numbers with equality
// operator. Possible loss of precision while rounding value
{}
}
这个表达式是否等于
void Foo()
{
System.Double something = GetSomething();
if (something < 1)
{}
}
?因为那时我可能会遇到问题,例如输入 if
值为 0.9.
? Because then I might have a problem, entering the if
with e.g. a value of 0.9.
推荐答案
那么,你需要将值接近 0 吗?如果您执行大量无限精度"的浮点运算可能会导致 0,您最终可能会得到非常接近"0 的结果.
Well, how close do you need the value to be to 0? If you go through a lot of floating point operations which in "infinite precision" might result in 0, you could end up with a result "very close" to 0.
通常在这种情况下,您希望提供某种 epsilon,并检查结果是否在该 epsilon 内:
Typically in this situation you want to provide some sort of epsilon, and check that the result is just within that epsilon:
if (Math.Abs(something) < 0.001)
您应该使用的 epsilon 是特定于应用程序的 - 这取决于您在做什么.
The epsilon you should use is application-specific - it depends on what you're doing.
当然,如果结果应该完全为零,那么简单的相等检查就可以了.
Of course, if the result should be exactly zero, then a simple equality check is fine.
这篇关于将 System.Double 与“0"(数字,整数?)进行比较的正确方法的文章就介绍到这了,希望我们推荐的答案对大家有所帮助,也希望大家多多支持编程学习网!
本文标题为:将 System.Double 与“0"(数字,整数?)进行比较的正确方法
基础教程推荐
- 将 Office 安装到 Windows 容器 (servercore:ltsc2019) 失败,错误代码为 17002 2022-01-01
- 有没有办法忽略 2GB 文件上传的 maxRequestLength 限制? 2022-01-01
- MS Visual Studio .NET 的替代品 2022-01-01
- 如何激活MC67中的红灯 2022-01-01
- SSE 浮点算术是否可重现? 2022-01-01
- 将 XML 转换为通用列表 2022-01-01
- c# Math.Sqrt 实现 2022-01-01
- 如何在 IDE 中获取 Xamarin Studio C# 输出? 2022-01-01
- rabbitmq 的 REST API 2022-01-01
- 为什么Flurl.Http DownloadFileAsync/Http客户端GetAsync需要 2022-09-30