热门标签 | HotTags
当前位置:  开发笔记 > 编程语言 > 正文

奇怪的1。在VB.NET#印第安纳错误-Strange-1.#INDerrorinVB.NET

HeresaweirdcalculationerrorinVB.NET.Ivesimplifiedmyproblemtothefollowing.Icanwrite

Here's a weird calculation error in VB.NET. I've simplified my problem to the following. I can write:

在VB.NET中有一个奇怪的计算错误。我将我的问题简化为以下内容。我可以写:

Console.WriteLine(-0.78125 ^ 2.5)

and get -0.53947966093944366.

-0.53947966093944366。

But if I change it to Console.WriteLine((-0.78125 + 0) ^ 2.5), I get -1.#IND.

但是如果我改变Console.WriteLine(-0.78125(-0.78125 + 0)^),我得到1。#印第安纳州。

Or, if it try:

或者,如果它试一试:

Dim D as Double = -0.78125
Console.WriteLine(D ^ 2.5)

I also get -1.#IND.

我也得到1。#印第安纳州。

I can only get the calculation to return a result if I use a single literal number in the expression, but when I use a variable of any data type I get -1.#IND.

只有在表达式中使用单个文字数时,我才能让计算返回结果,但是当我使用任何数据类型的变量时,我会得到-1.#IND。

I've read the other posts that explaining "-1.#IND", but they indicate that one of the numbers in the expression is NaN, which is not the case here. Why is this happening?

我读过其他解释“-1”的文章。但是它们表明表达式中的一个数字是NaN,这里不是这样的。为什么会这样?

1 个解决方案

#1


7  

You can figure out what's going on by trying following:

你可以通过以下步骤来弄清楚发生了什么:

Console.WriteLine(-1 ^ 0.5)

It prints -1, but in fact it is the same as sqrt(-1) which does not have a result in Real numbers. That's weird, isn't it? So what's going on here?

它输出-1,但实际上它和sqrt(-1)是一样的,它不会产生实数。这是奇怪的,不是吗?这是怎么回事?

^ has higher precedence than -, so -1 ^ 0.5 is actually -(1 ^ 0.5). That's why it prints -1.

比- - - - - - ^具有更高的优先级,所以1 ^ 0.5实际上是-(1 ^ 0.5)。这就是它打印-1的原因。

You can check the precedence list here: Operator Precedence in Visual Basic

您可以在这里检查优先列表:Visual Basic中的操作符优先级

The same happens with your code. -0.78125 ^ 2.5 is actually interpreted as -(0.78125 ^ 2.5) which is valid, but if you do (-0.78125 + 0) ^ 2.5 (or even (-0.78125) ^ 2.5) it's not valid anymore, because it would require calculating square root from negative value. That's why you're getting NaN (or -1#IND).

代码也是如此。-0.78125 ^ 2.5实际上是解释为——(0.78125 ^ 2.5)是有效的,但是如果你2.5(-0.78125 + 0)^(甚至(-0.78125)^ 2.5)不再有效,因为这需要计算平方根的负面价值。这就是为什么你会得到NaN(或-1#IND)。


推荐阅读
  • Python正则表达式学习记录及常用方法
    本文记录了学习Python正则表达式的过程,介绍了re模块的常用方法re.search,并解释了rawstring的作用。正则表达式是一种方便检查字符串匹配模式的工具,通过本文的学习可以掌握Python中使用正则表达式的基本方法。 ... [详细]
  • Iamtryingtomakeaclassthatwillreadatextfileofnamesintoanarray,thenreturnthatarra ... [详细]
  • 本文介绍了设计师伊振华受邀参与沈阳市智慧城市运行管理中心项目的整体设计,并以数字赋能和创新驱动高质量发展的理念,建设了集成、智慧、高效的一体化城市综合管理平台,促进了城市的数字化转型。该中心被称为当代城市的智能心脏,为沈阳市的智慧城市建设做出了重要贡献。 ... [详细]
  • Linux重启网络命令实例及关机和重启示例教程
    本文介绍了Linux系统中重启网络命令的实例,以及使用不同方式关机和重启系统的示例教程。包括使用图形界面和控制台访问系统的方法,以及使用shutdown命令进行系统关机和重启的句法和用法。 ... [详细]
  • CSS3选择器的使用方法详解,提高Web开发效率和精准度
    本文详细介绍了CSS3新增的选择器方法,包括属性选择器的使用。通过CSS3选择器,可以提高Web开发的效率和精准度,使得查找元素更加方便和快捷。同时,本文还对属性选择器的各种用法进行了详细解释,并给出了相应的代码示例。通过学习本文,读者可以更好地掌握CSS3选择器的使用方法,提升自己的Web开发能力。 ... [详细]
  • 本文主要解析了Open judge C16H问题中涉及到的Magical Balls的快速幂和逆元算法,并给出了问题的解析和解决方法。详细介绍了问题的背景和规则,并给出了相应的算法解析和实现步骤。通过本文的解析,读者可以更好地理解和解决Open judge C16H问题中的Magical Balls部分。 ... [详细]
  • ZSI.generate.Wsdl2PythonError: unsupported local simpleType restriction ... [详细]
  • switch语句的一些用法及注意事项
    本文介绍了使用switch语句时的一些用法和注意事项,包括如何实现"fall through"、default语句的作用、在case语句中定义变量时可能出现的问题以及解决方法。同时也提到了C#严格控制switch分支不允许贯穿的规定。通过本文的介绍,读者可以更好地理解和使用switch语句。 ... [详细]
  • 个人学习使用:谨慎参考1Client类importcom.thoughtworks.gauge.Step;importcom.thoughtworks.gauge.T ... [详细]
  • 开发笔记:实验7的文件读写操作
    本文介绍了使用C++的ofstream和ifstream类进行文件读写操作的方法,包括创建文件、写入文件和读取文件的过程。同时还介绍了如何判断文件是否成功打开和关闭文件的方法。通过本文的学习,读者可以了解如何在C++中进行文件读写操作。 ... [详细]
  • 本文讨论了如何使用IF函数从基于有限输入列表的有限输出列表中获取输出,并提出了是否有更快/更有效的执行代码的方法。作者希望了解是否有办法缩短代码,并从自我开发的角度来看是否有更好的方法。提供的代码可以按原样工作,但作者想知道是否有更好的方法来执行这样的任务。 ... [详细]
  • 模板引擎StringTemplate的使用方法和特点
    本文介绍了模板引擎StringTemplate的使用方法和特点,包括强制Model和View的分离、Lazy-Evaluation、Recursive enable等。同时,还介绍了StringTemplate语法中的属性和普通字符的使用方法,并提供了向模板填充属性的示例代码。 ... [详细]
  • 如何自行分析定位SAP BSP错误
    The“BSPtag”Imentionedintheblogtitlemeansforexamplethetagchtmlb:configCelleratorbelowwhichi ... [详细]
  • Go Cobra命令行工具入门教程
    本文介绍了Go语言实现的命令行工具Cobra的基本概念、安装方法和入门实践。Cobra被广泛应用于各种项目中,如Kubernetes、Hugo和Github CLI等。通过使用Cobra,我们可以快速创建命令行工具,适用于写测试脚本和各种服务的Admin CLI。文章还通过一个简单的demo演示了Cobra的使用方法。 ... [详细]
  • 本文介绍了如何使用Express App提供静态文件,同时提到了一些不需要使用的文件,如package.json和/.ssh/known_hosts,并解释了为什么app.get('*')无法捕获所有请求以及为什么app.use(express.static(__dirname))可能会提供不需要的文件。 ... [详细]
author-avatar
ccmmm
这个家伙很懒,什么也没留下!
PHP1.CN | 中国最专业的PHP中文社区 | DevBox开发工具箱 | json解析格式化 |PHP资讯 | PHP教程 | 数据库技术 | 服务器技术 | 前端开发技术 | PHP框架 | 开发工具 | 在线工具
Copyright © 1998 - 2020 PHP1.CN. All Rights Reserved | 京公网安备 11010802041100号 | 京ICP备19059560号-4 | PHP1.CN 第一PHP社区 版权所有