decimal数据类型最多可存储38个数字,所有数字都能够放到小数点的右边。decimal数
据类型存储了一个准确(精确)的数字表达法;不存储值的近似值。
定义decimal的列、变量和参数的两种特性如下:
·p小数点左边和右边数字之和,不包括小数点。如123.45,则p=5,s=2。
指定精度或对象能够控制的数字个数。
·s
指定可放到小数点右边的小数位数或数字个数。
p和s必须遵守以下规则:0<=s<=p<=38。
numeric和decimal数据类型的默认最大精度值是38。在Transact-SQL中,numeric与
decimal数据类型在功能上等效。
当数据值一定要按照指定精确存储时,可以用带有小数的decimal数据类型来存储数字。
float和real数据
float和real数据类型被称为近似的数据类型。在近似数字数据类型方面,float和real数
据的使用遵循IEEE754标准。
近似数字数据类型并不存储为多数数字指定的精确值,它们只储存这些值的最近似值。在很
多应用程序中,指定值与存储值之间的微小差异并不明显。但有时这些差异也值得引起注意。
由于float和real数据类型的这种近似性,当要求精确的数字状态时,比如在财务应用程
序中,在那些需要舍入的操作中,或在等值核对的操作中,就不使用这些数据类型。这时就
要用integer、decimal、money或smallmone数据类型。
在WHERE子句搜索条件中(特别是=和<>运算符),应避免使用float或real列。
最好限制使用float和real列做>或<的比较。
IEEE754规格提供了四种舍入模式:舍入到最接近的值、上舍入、下舍入和舍入到零。
Microsoft®SQLServer™使用上舍入。所有的数值必须精确到确定的精度,但会产生细小
的浮点值变化。因为浮点数字的二进制表示法可以采用很多合法舍入规则中的任意一条,因
此我们不可能可靠地量化一个浮点值。
转换decimal和numeric数据
对于decimal和numeric数据类型,Microsoft®SQLServer™将精度和小数位数的每个特
定组合看作是不同的数据类型。例如,decimal(5,5)和decimal(5,0)被当作不同的数据类型。
(因此在编存储过程当中使用的变量采用Real或Float,而不采用decimal类型)
在Transact-SQL语句中,带有小数点的常量自动转换为numeric数据值,且必然使用最小
的精度和小数位数。例如,常量12.345被转换为numeric值,其精度为5,小数位为3。
从decimal或numeric向float或real转换会导致精度损失。从int、smallint、tinyint、float、
real、money或smallmoney向decimal或numeric转换会导致溢出。
默认情况下,在将数字转换为较低精度和小数位数的decimal或numeric值时,SQLServer
使用舍入法。然而,如果SETARITHABORT选项为ON,当发生溢出时,SQLServer会
出现错误。若仅损失精度和小数位数,则不会产生错误。
Float的科学计数法与值的问题,问题的根源在于float类型本身是一种不精确的数据表示
方法,也就是说,你放一个数据进去,拿出来的时候可能会存在一点点点误差,而这点点点
误差在做数据比较的时候就会导致数据不一致.
本文来自CSDN博客,转载请标明出处:
/zwxrain/archive/2009/03/20/
本文发布于:2022-11-23 19:42:43,感谢您对本站的认可!
本文链接:http://www.wtabcd.cn/fanwen/fan/90/7721.html
版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。
留言与评论(共有 0 条评论) |