在浮点数运算中,NaN与无穷大的概念不同,尽管两者均是以浮点数表示实数时的特殊值。无效操作(InvalidOperation)同样也不同于算术溢出(可能返回无穷大)和算术下溢出(可能返回最小的一般数值、特殊数值、零等)。
IEEE754-1985中,用指数部分全为1、小数部分非零表示NaN。以32位IEEE单精度浮点数的NaN为例,按位表示即:S11111111AXXXXXXXXXXXXXXXXXXXXXX,S为符号位,符号位S的取值无关紧要;A是小数部分的最高位(themostsignificantbitofthesignificand),其取值表示了NaN的类型:X不能全为0,并被称为NaN的payload;
返回NaN的运算有如下三种:
大多数定长的整数格式无法显式表示无效数据。
Perl的BigInt包用“NaN”来表示不含有效整数数据字符串的处理结果。
本文发布于:2022-10-19 10:01:46,感谢您对本站的认可!
本文链接:http://www.wtabcd.cn/fanwen/fan/83/321358.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |