數(shù)值分析在化工中有限量測(cè)量數(shù)據(jù)處理方面應(yīng)用

《數(shù)值分析在化工中有限量測(cè)量數(shù)據(jù)處理方面應(yīng)用》由會(huì)員上傳分享，免費(fèi)在線(xiàn)閱讀，更多相關(guān)內(nèi)容在學(xué)術(shù)論文-天天文庫(kù)。

1、數(shù)值分析在化工中有限量測(cè)量數(shù)據(jù)處理方面的應(yīng)用李剛輝（(陜西科技大學(xué)化學(xué)與化工學(xué)院，陜西咸陽(yáng)，712081)摘要：介紹了插值法和最小二乘法兩種數(shù)值分析方法在實(shí)驗(yàn)數(shù)據(jù)處理方面的具體應(yīng)用；分析了數(shù)值分析方法在建立曲線(xiàn)擬合模型方面的應(yīng)用。關(guān)鍵詞：有限量測(cè)量數(shù)據(jù)；插值法；最小二乘法；曲線(xiàn)擬合定量分析的目的是通過(guò)實(shí)驗(yàn)測(cè)定試樣中被測(cè)組分的準(zhǔn)確含量。但由于受分析方法、測(cè)量?jī)x器、試劑和分析人員主客觀(guān)因素等方面的限制，使測(cè)量結(jié)果不可能與真實(shí)結(jié)果完全一致；同時(shí)，一個(gè)定量分析往往要經(jīng)過(guò)一系列步驟，并不是一次簡(jiǎn)單的測(cè)量，每步測(cè)量的誤差都會(huì)

2、影響分析結(jié)果的準(zhǔn)確性。因此，即使是技術(shù)嫻熟的技術(shù)人員，用各項(xiàng)技術(shù)指標(biāo)均符合要求的測(cè)量?jī)x器，用同一種可靠方法對(duì)同一試樣進(jìn)行多次測(cè)量，也不能得到完全一致的結(jié)果。這說(shuō)明客觀(guān)上存在著難以避免的誤差，任何測(cè)量結(jié)果都不可能絕對(duì)準(zhǔn)確。為了提高分析的準(zhǔn)確性，有必要探討產(chǎn)生誤差的原因和減免誤差的方法。由于誤差的客觀(guān)存在，人們?cè)趯?shí)際分析中不可能得到確切無(wú)誤的真實(shí)值，而需對(duì)測(cè)量結(jié)果作出相對(duì)準(zhǔn)確的估計(jì)。如何得到最佳的估計(jì)值并判斷其可靠性，這是對(duì)測(cè)量數(shù)據(jù)進(jìn)行數(shù)值分析的目的。另外，在分析測(cè)量中，由于各種誤差的存在，兩個(gè)變量間一般不存在確切的

3、函數(shù)關(guān)系，而僅是相關(guān)關(guān)系。在進(jìn)行兩變量間的相關(guān)分析時(shí)，最直觀(guān)的方法是建立直角坐標(biāo)系，兩個(gè)變量各占一坐標(biāo)軸，每個(gè)數(shù)據(jù)在坐標(biāo)系中為一個(gè)點(diǎn)，并將數(shù)據(jù)連接成一條直線(xiàn)或曲線(xiàn)以顯示變量間的相互關(guān)系。如各點(diǎn)的連接排列接近一條直線(xiàn)，則表明兩變量的線(xiàn)性相關(guān)性較好；如各點(diǎn)排列雜亂無(wú)章，則表明兩變量的線(xiàn)性相關(guān)性較差。但僅憑目測(cè)配線(xiàn)是不夠準(zhǔn)確的，不同的人對(duì)同一數(shù)據(jù)會(huì)給出不同的配線(xiàn)。較好的方法是對(duì)數(shù)據(jù)進(jìn)行模擬，求出曲線(xiàn)模擬方程。本文介紹了插值法和最小二乘法兩種數(shù)值分析方法在實(shí)驗(yàn)數(shù)據(jù)處理方面的具體應(yīng)用，并分析了數(shù)值分析方法在建立曲線(xiàn)擬合模型

4、方面的應(yīng)用。1數(shù)值分析法在實(shí)驗(yàn)數(shù)據(jù)處理方面的具體應(yīng)用1.1作圖法和最小二乘法在實(shí)驗(yàn)數(shù)據(jù)處理方面的具體應(yīng)用以一化學(xué)實(shí)驗(yàn)為例子，其公式為Y=KX。測(cè)量數(shù)據(jù)見(jiàn)表1，其中“.”表示估讀數(shù)字。下面分析其兩種方法處理數(shù)據(jù)之后的有效數(shù)字情況。表1數(shù)據(jù)列表物理量12345678910XY1.1.1作圖法用表1中數(shù)據(jù)組進(jìn)行畫(huà)圖，結(jié)果如圖1所示。在直線(xiàn)上取兩點(diǎn)Ａ(,),Ｂ(,),用作圖法進(jìn)行數(shù)據(jù)處理,求得斜率對(duì)作圖法所求得的Ｋ圖值,應(yīng)考慮兩種誤差,一種是由于任意性引起的誤差,另一種是讀數(shù)時(shí)產(chǎn)生的誤差傳遞到Ｋ圖值的誤差.圖1Y-X曲線(xiàn)

5、圖先求任意性引起的標(biāo)準(zhǔn)偏差.由于Ｋ圖=,所以作圖法擬合直線(xiàn)為Y=0.371X.把測(cè)量值X代入(1)式,數(shù)據(jù)見(jiàn)表2.表2數(shù)據(jù)列表12345678910X（測(cè)量值）0.6220.7180.8230.9221.0211.1341.2351.3231.4121.526Y’=0.371X0.2300.2660.3050.3420.3790.4210.4580.4910.5240.566Y（測(cè)量值）0.2340.2640.3050.3310.3690.4210.4610.4790.5210.565△Y=Y-Y0.004–0.

6、0020.000-0.011–0.0100.0000.003-0.012–0.003–0.001Y的偏差Ｋ圖的偏差由于誤差估算考慮最壞的情況,因此結(jié)果取為0.116.下面再估算讀取數(shù)據(jù)時(shí)產(chǎn)生的誤差.由于坐標(biāo)紙最小分格之間人眼無(wú)法辨別具體數(shù)據(jù),因此存在視覺(jué)誤差ΔY、ΔX.由推出=假設(shè)每次讀取的讀數(shù)誤差相同，且為坐標(biāo)紙最小分格的一半，則ΔX=0.005,ΔY=0.0025,那么，代入數(shù)據(jù)得可見(jiàn)作圖法在圖上讀取數(shù)據(jù)時(shí)的誤差是較大的。若坐標(biāo)分度值取得不當(dāng)，求斜率Ｋ圖時(shí)，從直線(xiàn)上取的兩點(diǎn)距離較近的話(huà)，產(chǎn)生的誤差就更大。1.

7、1.2用最小二乘法求斜率Ｋ乘的標(biāo)準(zhǔn)偏差用最小二乘法進(jìn)行數(shù)據(jù)處理,求斜率Ｋ乘值。由，，，，，，得由Ｋ乘=0.37,得到最小二乘法擬合直線(xiàn)為　　Y=0.37X.（2）把測(cè)量值X代入(2)式,數(shù)據(jù)見(jiàn)表3.表3數(shù)據(jù)列表12345678910X(測(cè)量值)0.6220.7180.8230.9221.0211.1341.2351.3231.4121.526Y′=0.37X0.2300.2660.3050.3410.3780.4200.4570.4890.5220.565Y(測(cè)量值)0.2340.2640.3050.3310.3

8、690.4210.4610.4790.5210.565ΔY=Y-Y′0.004-0.0020.000-0.010-0.0090.0010.004-0.0100.0010.000Y的偏差Ｋ乘的偏差由于誤差估算考慮最壞的情況,因此結(jié)果取為0.007.綜上所述，利用作圖法和最小二乘法進(jìn)行實(shí)驗(yàn)數(shù)據(jù)處理時(shí)，作圖法的特點(diǎn)是直觀(guān)、簡(jiǎn)便，在圖上可直接發(fā)現(xiàn)測(cè)量錯(cuò)誤，且可以把某些比較復(fù)雜的函