nan,数值数据类型的一类值

更新时间:2022-10-19 10:01:46 阅读: 评论:0

浮点数运算

在浮点数运算中,NaN与无穷大的概念不同,尽管两者均是以浮点数表示实数时的特殊值。无效操作(InvalidOperation)同样也不同于算术溢出(可能返回无穷大)和算术下溢出(可能返回最小的一般数值、特殊数值、零等)。

IEEE754-1985中,用指数部分全为1、小数部分非零表示NaN。以32位IEEE单精度浮点数的NaN为例,按位表示即:S11111111AXXXXXXXXXXXXXXXXXXXXXX,S为符号位,符号位S的取值无关紧要;A是小数部分的最高位(themostsignificantbitofthesignificand),其取值表示了NaN的类型:X不能全为0,并被称为NaN的payload;

返回NaN的运算

返回NaN的运算有如下三种:

整数NaN

大多数定长的整数格式无法显式表示无效数据。

Perl的BigInt包用“NaN”来表示不含有效整数数据字符串的处理结果。

本文发布于:2022-10-19 10:01:46,感谢您对本站的认可!

本文链接:http://www.wtabcd.cn/fanwen/fan/83/321358.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:nan
相关文章
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2022 Comsenz Inc.Powered by © 专利检索| 网站地图