首页 > 试题

有效数字的定义

更新时间:2022-12-02 16:40:48 阅读: 评论:0

高中数学大招手卡-小明看看网址


2022年12月2日发(作者:菜心炒牛肉)

.

.

有效数字及其运算规则

一、测量结果的有效数字

1.有效数字的定义及其基本性质

测量结果中所有可靠数字加上末位的可疑数字统称为测量结果的有效数字。

有效数字具有以下基本特性:

(1)有效数字的位数与仪器精度(最小分度值)有关,也与被测量的大小有关。

对于同一被测量量,如果使用不同精度的仪器进行测量,则测得的有效数字的位数是不

同的。例如用千分尺(最小分度值0.01mm,

0.004mm

)测量某物体的长度读数为

4.834mm。其中前三位数字“483”是最小分度值的整数部分,是可靠数字;末位“4”是在

最小分度值内估读的数字,为可疑数字;它与千分尺的

在同一数位上,所以该测量值有

四位数字。如果改用最小分度值(游标精度)为0.02mm的游标卡尺来测量,其读数为

4.84mm,测量值就只有三位有效数字。游标卡尺没有估读数字,其末位数字“4”为可疑数

字,它与游标卡尺的

0.02mm

也是在同一数位上。

(2)有效数字的位数与小数点的位置无关,单位换算时有效数字的位数不应发生改变。

2.有效数字与不确定度的关系

在我们规定不确定度的有效数字只取一位时,任何测量结果,其数值的最后一位应与不

确定度所在的那一位对齐。如3(8.9270.005)/gcm,测量值的末位“7”刚好与不

确定度0.005的“5”对齐。

由于有效数字的最后一位是不确定度所在位,因此有效数字或有效位数在一定程度上反

映了测量值的不确定度(或误差限值)。测量值的有效数字位数越多,测量的相对不确定度

越小;有效位数越少,相对不确定度就越大。

3.数值的科学表示法

二、有效数字的运算规则

1.数值的舍入修约原则

测量值的数字的舍入,首先要确定需要保留的有效数字和位数,保留数字的位数确定以

.

.

后,后面多余的数字就应予以舍入修约,其规则如下:

(1)拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。

(2)拟舍弃数字的最左一位数字大于5,或者是5而其后跟有并非0的数字时,则进1,

即保留的末位数字加1。

(3)拟舍弃数字的最左一位数字为5,而5的右边无数字或皆为0时,若所保留的末

位数字为奇数则进1,为偶数或0则舍去,即“单进双不进”。

上述规则也称数字修约的偶数规则,即“四舍六入五凑偶”规则。

根据上述规则,要将下列各数据保留四位有效数字,舍入后的数据为:

3.141593.142;2.717292.717;

4.510504.510;3.215503.216;

6.3785016.379;7.6914997.691

对于测量结果的不确定度的有效数字,本课程规定采取只进不舍的规则。

2.有效数字运算规则

有效数字的运算总的原则是,除遵守数学运算法则外,还规定,准确数字与准确数字的

运算结果仍为准确数字;存疑数字与任何数字的运算结果均为存疑数字。

(1)加减法

设Fxyz,运算过程为:

1)先计算绝对不确定度,不确定度在运算过程中取两位,最后取一位。

2)计算F,各分量位数取到和不确定度所在位相同或比不确定度所在位低一位。

3)用绝对不确定度决定最后结果的有效数字。

例1求FABC。其中98.70.3Amm,6.2380.006Bmm,

14.360.08Cmm。

解:①222()()()()FABC,由于()()BA和()C,故在方和根

合成时,()B可忽略。所以

2222()()()0.30.080.310.4()FACmm

98.76.23814.3690.58()FABCmm

.

.

在计算过程中,因为不确定度在小数点后第一位上,故运算时各分量保留到小数点后第

一位或第二位,F也暂多保留一位。

③90.60.4Fmm

如果各分量没有标明不确定度,则加减法的运算以各分量中可疑数字位最高的,即不确

定度最大的分量为准,其他各分量在运算过程中保留到它下面一位,最后再与它对齐。

上例中,A分量的可疑数字位最高,以它为准,其它各分量保留到它下面一位,最后

对齐。98.76.2414.3690.58()Fmm,最后与A分量的位数对齐,所以结果为

90.6Fmm。

(2)乘除法

设Fxyz,运算过程为:

1)以有效位数最少的分量为准,将各分量(包括常数)的有效数字取到比它多一位,

计算F,结果也暂多保留一位。

2)计算不确定度。

3)由绝对不确定度决定结果的有效数字位数。

例2求2

24

g

DRT

,其中:383.750.0410Rm,1.240.01Ts,

29.794/gms。

解:①各分量中,T的有效数字位数最少(3位),以它为准,R,g,

都取四位,

结果先保留四位。





2

232

2

2

9.79483.751.24

31.9410()

4

43.142

g

DRTm





②计算不确定度,应用不确定度传递公式:

2222

2

()()()0.040.01

240.017

83.751.24

DRT

DRT











3332

()

()31.94100.0170.54100.610()

D

DDm

D





③结果为:3231.90.610Dm

当测量数据没有给出不确定度时,计算同①。结果的有效数字位数一般取与各分量中有

.

.

效数字位数最少者相同。

在运算中,遇到一些物理常数和纯数学数字(如2,

等),它们不影响运算结果的

有效数字位数。

综上例题运算得知,有效数字的运算规则:(1)当几个有效数字相加或相减时,其结

果的有效数字末位的量级与参加运算的有效数字中可疑数字量级最大者相同。(2)当几个

有效数字相乘或相除时,其结果的有效数字位数一般与参加运算的各数中有效数字位数最

少者相同。

3.函数运算的有效数字取值

必须注意,测量结果的有效数字位数多少取决于测量,而不取决于运算过程。因此在运

算时,尤其是使用计算器时,不要随意扩大或减少有效数字位数,更不要认为算出结果的位

数越多越好。

本文发布于:2022-12-02 16:40:48,感谢您对本站的认可!

本文链接:http://www.wtabcd.cn/fanwen/fan/88/38983.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

上一篇:平坦的反义词
下一篇:究竟的近义词
相关文章
留言与评论(共有 0 条评论)
   
验证码:
推荐文章
排行榜
Copyright ©2019-2022 Comsenz Inc.Powered by © 专利检索| 网站地图