luqi111/
共166个网摘 [
1 2 3 4 5 6 ]
下一页 |
访问luqi111的个人空间
luqi111收录,时间:2008-6-12 17:13:16 | 相关网摘,我也收藏
按最大信息熵原理,我们从全部相容的分布中挑选这样的分布,它是在某些约束条件下(通常是给定的某些随机变量的平均值)使信息熵达到极大值的分布。这一原理是由杨乃斯提出的。这是因为信息熵取得极大值时对应的一组概率分布出现的概率占绝对优势。从理论上可以证明这一点。
在我们把熵看作是计量不确定程度的最合适的标尺时,我们就基本已经认可在给定约束下选择不确定程度最大的那种分布作为随机变量的分布。因为这种随机分布是最为随机的,是主观成分最少,把不确定的东西作最大估计的分布。
任何物质系统除了都受到或多或少的外部约束外,其内部总是具有一定的自由度,这种自由度导致系统内的各元素处于不同的状态。而状态的多样性,状态的丰富程度(混乱程度、复杂程度)的定量计量标尺就是熵,熵最大就是事物状态的丰富程度自动达到最大值。换句话说,事物总是在约束下争取(或呈现)最大的自由权,我们把这看作是自然界的根本原则。
在给定的约束条件下,由最大信息熵原理求“最佳”概率分布,就是求解条件极值问题。在某些场合,常用拉格朗日乘子法来确定此分布。
一般地,拉格朗日乘子法的法则可叙述如下:欲求n元函数f(x1,x2,…,xn)在m个约束条件
(6)
下的条件极值,可用常数1,依次乘f,把结果加起来,得函数
然后列出 无约束条件时具有极值的必要条件
(7)
这n个方程(7)与m个方程(6)联立解出n m个未知数x1,x2,…,xn , 。而其中x1,x2,…,xn就是可能为极值点的坐标,称为驻点。
从信息论中发展起来的最大信息熵原理,使人们开始把统计物理看成是信息论的特例。这使我们看到熵概念的强大生命力,也看到了熵概念和熵原理的重大意义。
http://www.wljx.sdu.edu.cn/wlwz/reading/r_infor/shang7.htm
共166个网摘 [
1 2 3 4 5 6 ]
下一页