食品伙伴網(wǎng)服務(wù)號

實驗結(jié)果應(yīng)該保留幾位有效數(shù)字?

放大字體  縮小字體 發(fā)布日期:2020-10-09
核心提示:有效數(shù)字及其有效數(shù)字的保留1 .有效數(shù)字的定義我們把通過直讀獲得的準確數(shù)字叫做可靠數(shù)字;把通過估讀得到的那部分數(shù)字叫做存疑數(shù)
 有效數(shù)字及其有效數(shù)字的保留

1 .有效數(shù)字的定義

我們把通過直讀獲得的準確數(shù)字叫做可靠數(shù)字;把通過估讀得到的那部分數(shù)字叫做存疑數(shù)字。把測量結(jié)果中能夠反映被測量大小的帶有一位存疑數(shù)字的全部數(shù)字叫有效數(shù)字。有效數(shù)字指,保留末一位不準確數(shù)字,其余數(shù)字均為準確數(shù)字。有效數(shù)字的最后一位數(shù)值是可疑值。

如:0.2014為四位有效數(shù)字,最末一位數(shù)值4是可疑值,而不是有效數(shù)值。 

再如:1g、1.000g其所表明的量值雖然都是1,但其準確度是不同的,其分別表示為準確到整數(shù)位、準確到小數(shù)點后第三位數(shù)值。因此有效數(shù)值不但表明了數(shù)值的大小,同時反映了測量結(jié)果的準確度。

 

2 .有效數(shù)字的保留

由于有效數(shù)字最末一位是可疑值,而不是準確值。因此,計算過程中,計算的結(jié)果應(yīng)比標準極限或技術(shù)指標規(guī)定的位數(shù)要求多保留一位,最后的報出值應(yīng)與標準對定的位數(shù)相一致。

如:在標準的極限數(shù)值(或技術(shù)指標)的表示中,××≧95表明結(jié)果要求保留到整數(shù)位。因此,計算結(jié)果一定要保留到小數(shù)點后一位,最后再修約到整數(shù)位,如計算結(jié)果為94.6報出結(jié)果為95(-);因為94.6結(jié)果的0.6為可疑值,要想保留到整數(shù)位結(jié)果為準確值,計算結(jié)果必須要多保留一位。

 

如:分析天平的分辨率為0.1mg(即我們常說的萬分之一天平),如果我們稱取的量是10.4320g,則實際的稱取結(jié)果結(jié)果為10.4320±0.0002g(萬分之一的天平誤差)。

 

如:GB/T 601-2016《化學試劑  標準滴定溶液的制備》,要求報出結(jié)果取4位有效數(shù)字,因此在標定計算結(jié)果中,應(yīng)保留5位有效數(shù)字,最后再修約到4位有效數(shù)字(如果直接保留到4位有效數(shù)字,實際上是保留了三位有效數(shù)字,因最后一位是可疑值,則由標準溶液的濃度的不準確,會引進系統(tǒng)誤差。

 

“0” 在數(shù)字中的作用 

“0”作為一個特殊的數(shù)字,在數(shù)值的不同的位置,有著不同的作用,只有明確了“0”在數(shù)字中的作用,才能更好的掌握有效數(shù)字及其加減乘除的運算規(guī)則。“0”在數(shù)字中不同的位置,有不用的作用,根據(jù)“0”在數(shù)字的位置,起三種作用。即定位(無效)、定值(有效)及不確定作用。

 

1 .定位(無效) 

“0”在小數(shù)點后,又在數(shù)字之前(前提:小數(shù)點前為“0”)時,為定位。如:0.0001(數(shù)字前4個零)  0.02040(數(shù)字前2個零)均為定位作用。

 

2. 定值(有效)

“0”在小數(shù)點后的數(shù)值中間或數(shù)尾(前提:小數(shù)點前必為“0”)時。如:0.00204 0.300020;當“0”在小數(shù)點后,而小數(shù)點前為非“0”時。如1.000 1.0204,均為有效作用。

 

3 不確定作用:當“0”在整數(shù)后

如:4500 有效數(shù)值是幾位?回答是:不確定。將4500用三位有效數(shù)字表示:0.450×104.50×103。將4500用四位有效數(shù)字表示:0.4500×104 、45.00×102。

 

數(shù)字修約規(guī)則(GB/T 8170)

 

1.數(shù)字修約規(guī)則

“四舍五入法”是我們所熟悉的求近似數(shù)的方法。它深深地印在我們的腦海里,只要一遇到求近似數(shù)的問題,馬上就會想到“四舍五入法”?墒,在實驗中,經(jīng)常要對大量的數(shù)據(jù)進行統(tǒng)計分析。如果仍用“四舍五入法”取近似值,就不夠精確。

 

世界上的許多國家已廣泛采用“四舍六入法”。我國國家科委于1955年就作了推薦。“四舍六入法”可以概括為:“四舍六入五考慮,五后非零就進一,五后皆零看奇偶,五前為偶應(yīng)舍去,五前為奇要進一。”就是說,如果省略的尾數(shù)最高位是4或小于4,就將尾數(shù)都舍去;如果省略的尾數(shù)最高位是6或大于6,去掉尾數(shù)后,要向它的前一位進1;如果省略的尾數(shù)最高位是5,那就要根據(jù)具體情況而定。如果5后不都是0,將尾數(shù)略去后要向它的前一位進1;如果5后面都是0,就看它的前一位是單數(shù)還是雙數(shù),5的前一位是雙數(shù),就將尾數(shù)舍去;5的前一位是單數(shù),舍去尾數(shù)后要向它的前一位進1。

 

2 .檢驗結(jié)果的修約 

根據(jù)技術(shù)標準的指標要求,在原始記錄中,通常檢驗計算的結(jié)果應(yīng)比標準規(guī)定的位數(shù)要多保留一位,但被多保留的一位數(shù)值,應(yīng)該體現(xiàn)出修約的情況,或一步修約到位,但不能存在連續(xù)修約的現(xiàn)象。

 

a)檢驗結(jié)果修約后,應(yīng)體現(xiàn)出修約的情況。

如:標準值 ××<0.5 

檢測結(jié)果為:0.456, 第1步修約:0.46(-) (四舍六入),報出值:0.5(-) 判定:合格。

 

如:標準值 ××≥15 

檢測結(jié)果為:14.55,第1步修約:14.6(-), 報出值:15(-),按全數(shù)值比較法(15(-))判定不合格、按修約值比較法(15)判定合格。 

14.55(5后非零要進一。講評:在擬舍棄的數(shù)字中即14.55的第一個“5”,雖然“5”前為偶數(shù),但“5”后非“0”,所以要進一。)

如,若檢驗結(jié)果為:14.35,第1步修約:14.4(+) (修約原則,四舍六入) 報出結(jié)果:14。

最終的報出結(jié)果只有修約到標準值上時,才用+、-表示。

 

b)一步修約到位 (這種修約更直接和更直觀)。

例題:將下列結(jié)果修約到整數(shù)位

檢測結(jié)果    報出值

15.4546       15 

16.5203       17 

17.5000       18 

14.5500       15

10.5020       11 


c)不準連續(xù)修約。

擬修約數(shù)字應(yīng)在確定修約位數(shù)后,應(yīng)一次修約獲得結(jié)果,而不準多次修約即連續(xù)修約。 

15.4546 一次修約結(jié)果為:15。 

※ 連續(xù)修約:15.455 — 15.46-15.5-16 

※ 按多保留一位的修約法:15.5(-)

因為.5(-),即修約后到5(-) ,但不足5(<5),所以不進,最終結(jié)果為15。

 

數(shù)值的修約方法

1. 數(shù)值的修約方法有兩種,即修約值比較法和全數(shù)值比較法 

a)修約值比較法:數(shù)值修約后,體現(xiàn)不出數(shù)值的修約情況; 

b)全數(shù)值比較法:數(shù)值修約后,能夠體現(xiàn)出數(shù)值的修約情況。

 

2 .如何選擇修約值的方法  

a)當檢測項目牽涉到衛(wèi)生指標、安全指標等,應(yīng)首選用全數(shù)值比較法;

b)只有當檢測結(jié)果修約到標準值上時,方采用全數(shù)值比較法。

編輯:songjiajie2010

 
分享:
[ 網(wǎng)刊訂閱 ]  [ 檢驗技術(shù)搜索 ]  [ ]  [ 告訴好友 ]  [ 打印本文 ]  [ 關(guān)閉窗口 ] [ 返回頂部 ]
 

 
 
推薦圖文
推薦檢驗技術(shù)
點擊排行
檢驗技術(shù)
 
 
Processed in 0.021 second(s), 14 queries, Memory 1.02 M