食品伙伴網(wǎng)服務(wù)號(hào)

化驗(yàn)員、質(zhì)監(jiān)員培訓(xùn)講義基本常識(shí)之有效數(shù)字的處理

放大字體  縮小字體 發(fā)布日期:2021-07-27  來(lái)源:食品微生物檢測(cè)公眾號(hào)
核心提示:一、有效數(shù)字。1.在分析工作中實(shí)際能測(cè)量到的數(shù)字就稱(chēng)為有效數(shù)字。2.在記錄有效數(shù)字時(shí),規(guī)定只允許數(shù)的末位欠準(zhǔn),而且只能上下差
 一、有效數(shù)字。

1.在分析工作中實(shí)際能測(cè)量到的數(shù)字就稱(chēng)為有效數(shù)字。

2.在記錄有效數(shù)字時(shí),規(guī)定只允許數(shù)的末位欠準(zhǔn),而且只能上下差1


二、有效數(shù)字修約規(guī)則

用“四舍六入五成雙”規(guī)則舍去過(guò)多的數(shù)字。

即當(dāng)尾數(shù)≤時(shí),則舍;尾數(shù)≥時(shí),則入;尾數(shù)等于時(shí),若前面為偶數(shù)則舍,為奇數(shù)時(shí)則入。當(dāng)后面還有不是零的任何數(shù)時(shí),無(wú)論前面是偶或奇皆入。

例如:將下面左邊的數(shù)字修約為三位有效數(shù)字

2.324→2.32 2.3252.32 2.3262.33 2.3352.34 2.325012.33


三、有效數(shù)字運(yùn)算法則。

1.在加減法運(yùn)算中,每數(shù)及它們的和或差的有效數(shù)字的保留,以小數(shù)點(diǎn)后面有效數(shù)字位數(shù)最少的為標(biāo)準(zhǔn)。在加減法中,因是各數(shù)值絕對(duì)誤差的傳遞,所以結(jié)果的絕對(duì)誤差必須與各數(shù)中絕對(duì)誤差最大的那個(gè)相當(dāng)。

例如:2.0375+0.074539.54=?

39.54 是小數(shù)點(diǎn)后位數(shù)最少的,在這三個(gè)數(shù)據(jù)中,它的絕對(duì)誤差最大,為±0.01,所以應(yīng)以39.54 為準(zhǔn),其它兩個(gè)數(shù)字亦要保留小數(shù)點(diǎn)后第二位,因此三數(shù)計(jì)算應(yīng)為:2.040.0739.54=41.65


2.在乘除法運(yùn)算中,每數(shù)及它們的積或商的有效數(shù)字的保留,以每數(shù)中有效數(shù)字位數(shù)最少的為標(biāo)準(zhǔn)。在乘除法中,因是各數(shù)值相對(duì)誤差的傳遞,所以結(jié)果的相對(duì)誤差必須與各數(shù)中相對(duì)誤差最大的那個(gè)相當(dāng)。

例如:13.92×0.0112×1.9723=?

0.0112 是三位有效數(shù)字,位數(shù)最少,它的相對(duì)誤差最大,

所以應(yīng)以0.0112 的位數(shù)為準(zhǔn),

即:13.9×0.0112×1.97=0.307


3.分析結(jié)果小數(shù)點(diǎn)后的位數(shù),應(yīng)與分析方法精密度小數(shù)點(diǎn)后的位數(shù)一致。


4.檢驗(yàn)結(jié)果的寫(xiě)法應(yīng)與藥典規(guī)定相一致。

編輯:songjiajie2010

 
分享:
 

 
 
推薦圖文
推薦檢驗(yàn)技術(shù)
點(diǎn)擊排行
檢驗(yàn)技術(shù)
 
 
Processed in 0.022 second(s), 14 queries, Memory 0.94 M