一设随机变量X所有可能的取值为x1，x2，⋯，xn，P（X=xi）=pi＞0（i=1，2，⋯，n），且p1+p2⋯+pn=1．定义事件X=xi的信息量为Hi=-lnpi，称X的平均信息量H（X）=-（p1lnp1+p2lnp2+⋯+pnlnpn）为信息熵．（1）若n=3，pk+1=2pk（k=1，2），求此时的信息熵；（2）最大熵原理：对一个随机事件的概率分布进行预测时，要使得信息熵最大．信息熵最大就是事物可能的状态数最多，复杂程度最大，概率分布最均匀，这才是风险最小（最合理）的决定．证明：H（X）≤lnn，并解释等号成立时的实际意义．（参考不等式：若f（x）=lnx，则sum_(i=1)^n(p)_(i)f（(x)_(i)）≤f（sum_(i=1)^n(p)_(i)(x)_(i)））

一设随机变量X所有可能的取值为x1，x2，⋯，xn，P（X=xi）=pi＞0（i=1，2，⋯，n），且p1+p2⋯+pn=1．定义事件X=xi的信息量为Hi=-lnpi，称X的平均信息量H（X）=-（p1lnp1+p2lnp2+⋯+pnlnpn）为信息熵．
（1）若n=3，pk+1=2pk（k=1，2），求此时的信息熵；
（2）最大熵原理：对一个随机事件的概率分布进行预测时，要使得信息熵最大．信息熵最大就是事物可能的状态数最多，复杂程度最大，概率分布最均匀，这才是风险最小（最合理）的决定．证明：H（X）≤lnn，并解释等号成立时的实际意义．
（参考不等式：若f（x）=lnx，则$\sum_{i=1}^{n}{p}_{i}f（{x}_{i}）≤f（\sum_{i=1}^{n}{p}_{i}{x}_{i}）$）

参考答案与解析：

相关试题

设随机变量是Xi服从于参数λi（i=1，2）的泊松分布，且X1、X2相互独立，则P{X1=i|X1+X2=k}=---------.

[问答题]设随机变量是Xi服从于参数λi（i=1，2）的泊松分布，且X1、X2相互独立，则P{X1=i|X1+X2=k}=---------.

  • 查看答案

    • 设随机变量是Xi服从于参数λi（i=1，2）的泊松分布，且X1、X2相互独立，则P{X1=i|X1+X2=k}=-------------.

    [问答题]设随机变量是Xi服从于参数λi（i=1，2）的泊松分布，且X1、X2相互独立，则P{X1=i|X1+X2=k}=-------------.

  • 查看答案

    • 设随机变量X1,X2,...,Xn,...相互独立,且x2。(n=1,2,...)服从参数为λ的泊松分布,X2n-1(n=1,2,...)服从期望值为λ的指数分布,则随机变量序列X1,X2,...,X

    设随机变量X1,X2,...,Xn,...相互独立,且x2。(n=1,2,...)服从参数为λ的泊松分布,X2n-1(n=1,2,...)服从期望值为λ的指数分

  • 查看答案

    • 设X1,X2是相互独立的随机变量,则 (2(X)_(1)+(X)_(2))=( )设X1,X2是相互独立的随机变量,则 (2(X)_(1)+(X)_(2))=( )设X1,X2是相互独立的随机变量

    设X1,X2是相互独立的随机变量,则 (2(X)_(1)+(X)_(2))=( )设X1,X2是相互独立的随机变量,则 (2(X)_(1)+(X)_(2))=

  • 查看答案

    • 7.设随机变量X1,X2,···,Xn,···独立同分布,且 [ (X)_(i) =1,2, ...ϕ(x)为标准正态分布函数,则 lim _(narrow infty )P dfrac {{Y)_(

    7.设随机变量X1,X2,···,Xn,···独立同分布,且 [ (X)_(i) =1,2, ...ϕ(x)为标准正态分布函数,则 lim _(narrow i

  • 查看答案

    • 若随机变量X1,X2,···,,xn,···相互独立，并服从正态分布，且X1,X2,···,,xn,···，则X1,X2,···,,xn,···近似服从X1,X2,···,,xn,···.（）对错

    若随机变量X1,X2,···,,xn,···相互独立，并服从正态分布，且X1,X2,···,,xn,···，则X1,X2,···,,xn,···近似服从X1,X

  • 查看答案

    • ⑤设随机变量 _(i)(i=1,2) 的分布律为-|||-X。 -1 0 1-|||-P 1/4 1/2 1/4-|||-且满足 ((X)_(1)(X)_(2)=0)=1, 试求X1和X2的联合分布律

    ⑤设随机变量 _(i)(i=1,2) 的分布律为-|||-X。 -1 0 1-|||-P 1/4 1/2 1/4-|||-且满足 ((X)_(1)(X)_(2)

  • 查看答案

    • 已知离散型随机变量X的可能值为x1= -1,x2= 0,x3=1,且E(X)=0.1,D(X)=0.89,则对应于x1,x2,x3的概率p1,p2,p3为( )

    已知离散型随机变量X的可能值为x1= -1,x2= 0,x3=1,且E(X)=0.1,D(X)=0.89,则对应于x1,x2,x3的概率p1,p2,p3为( )

  • 查看答案

    • 设X是随机变量，已知P（X≤1）=p，P（X≤2）=q，则P（X≤1，X≤2）等

    [单选题]设X是随机变量，已知P（X≤1）=p，P（X≤2）=q，则P（X≤1，X≤2）等于（）．A . p+qB . p-qC . q-pD . p

  • 查看答案

    • 已知随机变量X～N（1，σ2），P（X≥0）=0.8，则P（X＞2）=（ ）

    已知随机变量X～N（1，σ2），P（X≥0）=0.8，则P（X＞2）=（ ）A. 0.2B. 0.4C. 0.6D. 0.8

  • 查看答案