熵 信息熵 與 熵定律

《熵 信息熵 與 熵定律》由會員上傳分享，免費(fèi)在線閱讀，更多相關(guān)內(nèi)容在行業(yè)資料-天天文庫。

1、熵信息熵與熵定律熵??shāng??◎物理學(xué)上指熱能除以溫度所得的商，標(biāo)志熱量轉(zhuǎn)化為功的程度。◎科學(xué)技術(shù)上泛指某些物質(zhì)系統(tǒng)狀態(tài)的一種量（liàng）度，某些物質(zhì)系統(tǒng)狀態(tài)可能出現(xiàn)的程度。亦被社會科學(xué)用以借喻人類社會某些狀態(tài)的程度。◎在信息論中，熵表示的是不確定性的量度。1.只有當(dāng)你所使用的那個特定系統(tǒng)中的能量密度參差不齊的時候，能量才能夠轉(zhuǎn)化為功，這時，能量傾向于從密度較高的地方流向密度較低的地方，直到一切都達(dá)到均勻?yàn)橹?。正是依靠能量的這種流動，你才能從能量得到功。??江河發(fā)源地的水位比較高，那里的水的勢能也比河口的水的勢能來得大。由于這

2、個原因，水就沿著江河向下流入海洋。要不是下雨的話，大陸上所有的水就會全部流入海洋，而海平面將稍稍升高?？倓菽苓@時保持不變。但分布得比較均勻。??正是在水往下流的時候，可以使水輪轉(zhuǎn)動起來，因而水就能夠做功。處在同一個水平面上的水是無法做功的，即使這些水是處在很高的高原上，因而具有異常高的勢能，同樣做不了功。在這里起決定性作用的是能量密度的差異和朝著均勻化方向的流動。??熵是混亂和無序的度量.熵值越大,混亂無序的程度越大.我們這個宇宙是熵增的宇宙.熱力學(xué)第二定律,體現(xiàn)的就是這個特征.生命是高度的有序,智慧是高度的有序.在一個熵增的宇宙為什么

3、會出現(xiàn)生命?會進(jìn)化出智慧?(負(fù)熵)熱力學(xué)第二定律還揭示了,局部的有序是可能的,但必須以其他地方更大無序?yàn)榇鷥r.人生存,就要能量,要食物,要以動植物的死亡(熵增)為代價.萬物生長靠太陽.動植物的有序,又是以太陽核反應(yīng)的衰竭(熵增),或其他的熵增形勢為代價的.人關(guān)在完全封閉的鉛盒子里,無法以其他地方的熵增維持自己的負(fù)熵.在這個相對封閉的系統(tǒng)中,熵增的法則破壞了生命的有序.熵是時間的箭頭,在這個宇宙中是不可逆的.熵與時間密切相關(guān),如果時間停止"流動",熵增也就無從談起."任何我們已知的物質(zhì)能關(guān)住"的東西,不是別的,就是"時間".低溫關(guān)住的也是

4、"時間".生命是物質(zhì)的有序"結(jié)構(gòu)"."結(jié)構(gòu)"與具體的物質(zhì)不是同一個層次的概念.就象大廈的建筑材料,和大廈的式樣不是同一個層次的概念一樣.生物學(xué)已經(jīng)證明,凡是到了能上網(wǎng)歲數(shù)的人,身體中的原子,已經(jīng)沒有一個是剛出生時候的了.但是,你還是你,我還是我,生命還在延續(xù).倒是死了的人,沒有了新陳代謝,身體中的分子可以保留很長時間.意識是比生命更高層次的有序.可以在生命之間傳遞.說到這里,我想物質(zhì)與意識的層次關(guān)系應(yīng)該比較清楚了.這里之所以將"唯物"二字加上引號.是因?yàn)椴⒉粡氐?為什么熵減是這個宇宙的本質(zhì),還沒法回答.（摘自人民網(wǎng)BBS論壇）??不管對

5、哪一種能量來說，情況都是如此。在蒸汽機(jī)中，有一個熱庫把水變成蒸汽，還有一個冷庫把蒸汽冷凝成水。起決定性作用的正是這個溫度差。在任何單一的、毫無差別的溫度下——不管這個溫度有多高——是不可能得到任何功的。??“熵”(entropy)是德國物理學(xué)家克勞修斯(RudolfClausius,1822–1888)在1850年創(chuàng)造的一個術(shù)語，他用它來表示任何一種能量在空間中分布的均勻程度。能量分布得越均勻，熵就越大。如果對于我們所考慮的那個系統(tǒng)來說，能量完全均勻地分布，那么，這個系統(tǒng)的熵就達(dá)到最大值。??在克勞修斯看來，在一個系統(tǒng)中，如果聽任它自然

6、發(fā)展，那么，能量差總是傾向于消除的。讓一個熱物體同一個冷物體相接觸，熱就會以下面所說的方式流動：熱物體將冷卻，冷物體將變熱，直到兩個物體達(dá)到相同的溫度為止。如果把兩個水庫連接起來，并且其中一個水庫的水平面高于另一個水庫，那么，萬有引力就會使一個水庫的水面降低，而使另一個水面升高，直到兩個水庫的水面均等，而勢能也取平為止。??因此，克勞修斯說，自然界中的一個普遍規(guī)律是：能量密度的差異傾向于變成均等。換句話說，“熵將隨著時間而增大”。??對于能量從密度較高的地方向密度較低的地方流動的研究，過去主要是對于熱這種能量形態(tài)進(jìn)行的。因此，關(guān)于能量流

7、動和功－能轉(zhuǎn)換的科學(xué)就被稱為“熱力學(xué)”，這是從希臘文“熱運(yùn)動”一詞變來的。??人們早已斷定，能量既不能創(chuàng)造，也不能消滅。這是一條最基本的定律；所以人們把它稱為“熱力學(xué)第一定律”。??克勞修斯所提出的熵隨時間而增大的說法，看來差不多也是非常基本的一條普遍規(guī)律，所以它被稱為“熱力學(xué)第二定律”。2.信息論中的熵：信息的度量單位：由信息論的創(chuàng)始人Shannon在著作《通信的數(shù)學(xué)理論》中提出、建立在概率統(tǒng)計模型上的信息度量。他把信息定義為“用來消除不確定性的東西”。Shannon公式：I(A)=-logP(A)I(A)度量事件A發(fā)生所提供的信息量

8、，稱之為事件A的自信息，P(A)為事件A發(fā)生的概率。如果一個隨機(jī)試驗(yàn)有N個可能的結(jié)果或一個隨機(jī)消息有N個可能值，若它們出現(xiàn)的概率分別為p1,p2,…，pN,則這些事件的自信息的平均值：H=-SUM(pi*l