偏差信息量准则

✍ dations ◷ 2025-11-28 13:35:55 #贝叶斯统计,回归分析

偏差信息量准则(英语:deviance information criterion,DIC)是等级模型化的赤池信息量准则(AIC),被广泛应用于由马尔可夫链蒙特卡洛(MCMC)模拟出的后验分布的贝叶斯模型选择问题。和赤池信息量准则一样,偏差信息量准则是随样本容量增加的渐近近似,只应用于后验分布呈多元正态分布的情况。


定义偏差(deviance)为 D ( θ ) = 2 log ( p ( y | θ ) ) + C {\displaystyle D(\theta )=-2\log(p(y|\theta ))+C} ,其中 y {\displaystyle y} 为数据, θ {\displaystyle \theta } 是模型中的未知参量, p ( y | θ ) {\displaystyle p(y|\theta )} 是似然函数, C {\displaystyle C} 是常量。

有两种计算模型参数的有效数量 p D {\displaystyle p_{D}} 的方法。一种是 p D = D ¯ D ( θ ¯ ) {\displaystyle p_{D}={\bar {D}}-D({\bar {\theta }})} ,其中 θ ¯ {\displaystyle {\bar {\theta }}} θ {\displaystyle \theta } 的期望(Spiegelhalter 等人 2002,p.587)。第二种是 p D = p V = 1 2 var ^ ( D ( θ ) ) {\displaystyle p_{D}=p_{V}={\frac {1}{2}}{\widehat {\operatorname {var} }}\left(D(\theta )\right)} (Gelman 等人 2004,p.182)。有效数量 p D {\displaystyle p_{D}} 越大,模型的参数就越多,模型就越容易拟合数据,但也需要更小的偏差。

偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 被定义为

或等效于

从第二种定义更能看出它和赤池信息量准则的联系。

一般而言,偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 的值越小,模型越好。这一准则的优点是它很容易从马尔可夫链蒙特卡洛(MCMC)模拟产生的样本中计算出来。


相关

  • 会阴会阴(英文:perineum,拉丁文:perineum,huìyīn,又称CV1或RN1)是人体泌尿生殖系统中从生殖器到肛门的部位,主要是软组织构成,在针灸学是一个任脉穴。会阴的具体范围有不同的定义,有一种
  • 罗德侯鲸罗德侯鲸(学名Rodhocetus)是一属已灭绝的鲸鱼,有着陆上哺乳动物的特征,显示了鲸鱼从陆地进入海洋的过渡性。第一个发现的物种是R. kasrani,它的盆骨已与脊骨及后肢融合,并有分化的
  • 美国哲学会美国哲学会(American Philosophical Society)是美国现存最古老的学术团体。于1743年在美国著名发明家富兰克林的推动下成立。美国哲学会的总部设在宾夕法尼亚州的费城。要成为
  • 田纳西州橡树岭橡树岭(Oak Ridge)是美国田纳西州安德森县和罗恩县的一座城市,人口约2.7万(2000年)。能源部的橡树岭国家实验室位于此市。
  • 劳动人口劳动人口是经济学上对能够被雇佣(劳动)潜力的社会人群(人口)指称。在法制健全的国家,能够合法被雇佣的年龄有严格的法律规定,一般规定允许工作的年龄下限,以及退休年龄;对所有能够被
  • 槟城福建话槟城福建话是闽南语的一个域外变体。他的音调有别于闽南本土的若干次方言,也不同于东南亚其他地区的闽南语。槟城福建话也就是人们所谓的北马福建话,使用范围在槟城、吉打、玻
  • 槽齿类槽齿目(Thecodontia)是个原始主龙类的并系群集合。在较早期的分类法中,是双孔亚纲的一个目,包含首次出现在晚二叠纪,且繁盛到三叠纪的多样性早期主龙类。外形类似现代鳄鱼,而头颅
  • 搜狗输入法搜狗输入法泛指搜狗公司推出的输入法工具。
  • 沟壑沟壑(英语:ravine)是一种比峡谷窄的地形,一般是溪流在侵蚀作用下形成的。沟壑的规模一般介乎于冲沟和谷地之间。沟壑横截面一般较宽,坡度一般在20%至70%之间。沟壑中可能会有流动
  • SourceForgeSourceForge是一套合作式软件开发管理系统。SourceForge本身是VA Software出售的专有软件。它集成了很多开源应用程序(例如PostgreSQL和SVN、CVS),为软件开发提供了整套生命周