食品伙伴網(wǎng)服務(wù)號

數(shù)據(jù)處理 | 有效數(shù)字&數(shù)值修約

放大字體  縮小字體 發(fā)布日期:2024-01-23
核心提示:有效數(shù)字及其運(yùn)算一有效數(shù)字及其有效數(shù)字的保留1 有效數(shù)字的定義有效數(shù)字指,保留末一位不準(zhǔn)確數(shù)字,其余數(shù)字均為準(zhǔn)確數(shù)字。有效
有效數(shù)字及其運(yùn)算

一有效數(shù)字及其有效數(shù)字的保留



1 有效數(shù)字的定義

有效數(shù)字指,保留末一位不準(zhǔn)確數(shù)字,其余數(shù)字均為準(zhǔn)確數(shù)字。有效數(shù)字的最后一位數(shù)值是可疑值。



如:0.2014為四位有效數(shù)字,最末一位數(shù)值4是可疑值,而不是有效數(shù)值。

再如:1g、1.000g其所表明的量值雖然都是1,但其準(zhǔn)確度是不同的,其分別表示為準(zhǔn)確到整數(shù)位、準(zhǔn)確到小數(shù)點(diǎn)后第三位數(shù)值。因此有效數(shù)值不但表明了數(shù)值的大小,同時反映了測量結(jié)果的準(zhǔn)確度。



2 有效數(shù)字的保留

由于有效數(shù)字最末一位是可疑值,而不是準(zhǔn)確值。因此,計算過程中,計算的結(jié)果應(yīng)比標(biāo)準(zhǔn)極限或技術(shù)指標(biāo)規(guī)定的位數(shù)要求多保留一位,最后的報出值應(yīng)與標(biāo)準(zhǔn)對定的位數(shù)相一致。


如:在標(biāo)準(zhǔn)的極限數(shù)值(或技術(shù)指標(biāo))的表示中,××≧95 表明結(jié)果要求保留到整數(shù)位。因此,計算結(jié)果一定要保留到小數(shù)點(diǎn)后一位,最后再修約到整數(shù)位,如計算結(jié)果為94.6報出結(jié)果為95(-);因為94.6結(jié)果的0.6為可疑值,要想保留到整數(shù)位結(jié)果為準(zhǔn)確值,計算結(jié)果必須要多保留一位。

如,分析天平的分辨率為0.1mg(即我們常說的萬分之一天平),如果我們稱取的量是10.4320g.,則實(shí)際的稱取結(jié)果結(jié)果為10.4320±0.0002g(萬分之一的天平誤差)。因為再精確的儀器設(shè)備都有誤差,因此,在重量法中,如果檢驗方法中要求:直至恒重,即前后兩次差不大于0.0002g即為恒重了。(講電子天平的準(zhǔn)確度)



如GB/T 601《化學(xué)試劑標(biāo)準(zhǔn)滴定溶液的制備》,要求保留4為有效數(shù)字,因此在標(biāo)定計算結(jié)果中,應(yīng)保留5位有效數(shù)字,最后再修約到4為有效數(shù)字(如果直接保留到4為有效數(shù)字,實(shí)際上是保留了三位有效數(shù)字,因最后一位是可疑值,則由標(biāo)準(zhǔn)溶液的濃度的不準(zhǔn)確,會引進(jìn)系統(tǒng)誤差。

二“0” 在數(shù)字中的作用


“0”作為一個特殊的數(shù)字,在數(shù)值的不同的位置,有著不同的作用,只有明確了“0”在數(shù)字中的作用,才能更好的掌握有效數(shù)字及其加減乘除的運(yùn)算規(guī)則。“0”在數(shù)字中不同的位置,有不用的作用,根據(jù)“0”在數(shù)字的位置,起三種作用。即定位(無效)、定值(有效)及不確定作用。



2.1 定位(無效)

當(dāng)“0”在小數(shù)點(diǎn)后,又在數(shù)字之前(前提:小數(shù)點(diǎn)前為“0”)時,為定位。如:0.0001(數(shù)字前4個零)0.02040(數(shù)字前2個零)均為定位作用;


2.2 定值(有效)

當(dāng)“0”在小數(shù)點(diǎn)后的數(shù)值中間或數(shù)尾(前提:小數(shù)點(diǎn)前必為“0”)時。如:0.002040.300020

當(dāng)“0”在小數(shù)點(diǎn)后,而小數(shù)點(diǎn)前為非“0”時。如1.000 1.0204

均為有效作用



2.3 不確定作用:當(dāng)“0”在整數(shù)后

如:4500有效數(shù)值是幾位?回答是:不確定

將4500用三為有效數(shù)字表示:0.450×104 4.50×103

將4500用四為有效數(shù)字表示:0.4500×104 45.00×102


三數(shù)字修約規(guī)則(GB8170)

3.1 數(shù)字修約規(guī)則 例題:將下列各數(shù)修約到小數(shù)點(diǎn)后一位數(shù)。

修約前 修約后

四舍六入五考慮, 12.44 12.4

12.46 12.5

五的情況有三種:12.35 12.4

五后為零看前位,12.45 12.4

五前為奇要進(jìn)一 12.451 12.5

五前為偶要舍去,

五后非零則進(jìn)一。


3.2 檢驗結(jié)果的修約

根據(jù)技術(shù)標(biāo)準(zhǔn)的指標(biāo)要求,在原始記錄中,通常檢驗計算的結(jié)果應(yīng)比標(biāo)準(zhǔn)規(guī)定的位數(shù)要多保留一位,但被多保留的一位數(shù)值,應(yīng)該體現(xiàn)出修約的情況,或一步修約到位,但不能存在連續(xù)修約的現(xiàn)象



a)檢驗結(jié)果修約后,應(yīng)體現(xiàn)出修約的情況

如 標(biāo)準(zhǔn)值 ××<0.5

檢測結(jié)果為:0.456 第1步修約:0.46(-)(四舍六入)

報出值:0.5(-) 判定:合格

如:標(biāo)準(zhǔn)值 ×× ≥15

檢測結(jié)果為:14.55 第1步修約:14.6(-) 報出值:15(-)

按全數(shù)值比較法(15(-))判定不合格、按修約值比較法(15)判定合格

14.55(5后非零要進(jìn)一。講評:在擬舍棄的數(shù)字中即14.55的第一個“5”,雖然“5”前為偶數(shù),但“5”后非“0”,所以要進(jìn)一。)

如,若檢驗結(jié)果為:14.35

第1步修約:14.4(+) (修約原則,四舍六入) 報出結(jié)果:14

最終的報出結(jié)果只有修約到標(biāo)準(zhǔn)值上時,才用+、-表示。

例題:將檢驗結(jié)果保留到整數(shù)位

檢測值 修約值 報出值

15.4546 15.5(-) 15

16.5203 16.5(+) 17

17.5000 17.5 18

10.5020 10.5(+) 11

由以上例題可見,被多保留的數(shù)字 的修約原則仍是是四舍六五單雙


b)一步修約到位 (這種修約更直接和更直觀)

例題:將下列結(jié)果修約到整數(shù)位

檢測結(jié)果 報出值

15.4546 15

16.5203 17

17.5000 18

14.5500 15

10.5020 11



c)不準(zhǔn)連續(xù)修約

擬修約數(shù)字應(yīng)在確定修約位數(shù)后,應(yīng)一次修約獲得結(jié)果,而不準(zhǔn)多次修約即連續(xù)修約。

如15.4546一次修約結(jié)果為:15

※ 連續(xù)修約:15.455 — 15.46-15.5-16

※ 按多保留一位的修約法:15.5(-)

因為.5(-)

即修約后到5(-) ,但不足5(<5),所以不進(jìn),最終結(jié)果為15。

四數(shù)值的修約方法





4.1 數(shù)值的修約方法有兩種,即修約值比較法和全數(shù)值比較法

a)修約值比較法:數(shù)值修約后,體現(xiàn)不出數(shù)值的修約情況;

b)全數(shù)值比較法:數(shù)值修約后,能夠體現(xiàn)出數(shù)值的修約情況。



4.2 如何選擇修約值的方法

a)當(dāng)檢測項目牽涉到衛(wèi)生指標(biāo)、安全指標(biāo)等,應(yīng)首選用全數(shù)值比較法;

b)只有當(dāng)檢測結(jié)果修約到標(biāo)準(zhǔn)值上時,方采用全數(shù)值比較法。





五加減乘除運(yùn)算規(guī)則





5.1加減法運(yùn)算規(guī)則

在參與運(yùn)算的各數(shù)中,以小數(shù)點(diǎn)后位數(shù)最少的的為準(zhǔn),其余各數(shù)均修約成比位數(shù)最少的要多一位,最終結(jié)果與位數(shù)最少的相一致。(與小數(shù)點(diǎn)位數(shù)有關(guān))

例題1:

12.455 + 23.1 +14.345

= 12.46 + 23.1 +14.34

= 49.90

≈49.9



例題2:

2.155 + 0.0012 +10.445 + 25.1

= 2.16 + 0.00 +10.44 + 25.1

= 37.70

≈37.7



例題3:

1.000 + 0.125 +9.555 + 0.1

= 1.00 + 0.12 +9.56 + 0.1

= 10.78

≈10.8



例題4:

0.999 + 1.0 +14.999 + 24.450

= 1.00+ 1.0 + 15.00+ 24.45

= 41.45

≈41.4



例題5:

0.1 + 10.515 +0.001 + 10.000

= 0.1 + 10.52 +0.00 + 10.00

= 26.62

≈26.6



5.2 乘除(乘方、開方)法

在參與運(yùn)算的各數(shù)中,以有效位數(shù)最少的為準(zhǔn),其余各數(shù)均修約成比有效位數(shù)最少的要多一位,最終結(jié)果與有效位數(shù)最少的相一致。(與有效位數(shù)有關(guān))

例題1:

10.54 × 1.001 ×0.10

= 10.5 × 1.00 ×0.10

= 1.05

≈1.0



例題2:

0.1 × 1.00 × 0.101× 10.145

= 0.1 × 1.0 × 0.10× 10

= 0.10

≈0.1



例題3:

0.999 × 1.00 ×10.04 × 0.0010

= 1.00 ×1.00 × 10.0× 0.0010

= 0.0100

= 0.010



例題4:

2.24 × 0.5 × 0.554× 0.5451

= 2.2 × 0.5 × 0.55×0.55

= 0.33

≈0.3


例題5:

2.5 × 2.451 × 2.255

= 2.5 × 2.45 × 2.26

= 13.8

≈14



文章來源:網(wǎng)絡(luò) 
編輯:songjiajie2010

 
分享:
[ 網(wǎng)刊訂閱 ]  [ 檢驗技術(shù)搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關(guān)閉窗口 ] [ 返回頂部 ]
 

 
 
推薦圖文
推薦檢驗技術(shù)
點(diǎn)擊排行
檢驗技術(shù)
 
 
Processed in 0.197 second(s), 17 queries, Memory 0.92 M