偏差信息量准则

✍ dations ◷ 2025-10-09 14:39:49 #贝叶斯统计,回归分析

偏差信息量准则(英语:deviance information criterion,DIC)是等级模型化的赤池信息量准则(AIC),被广泛应用于由马尔可夫链蒙特卡洛(MCMC)模拟出的后验分布的贝叶斯模型选择问题。和赤池信息量准则一样,偏差信息量准则是随样本容量增加的渐近近似,只应用于后验分布呈多元正态分布的情况。


定义偏差(deviance)为 D ( θ ) = 2 log ( p ( y | θ ) ) + C {\displaystyle D(\theta )=-2\log(p(y|\theta ))+C} ,其中 y {\displaystyle y} 为数据, θ {\displaystyle \theta } 是模型中的未知参量, p ( y | θ ) {\displaystyle p(y|\theta )} 是似然函数, C {\displaystyle C} 是常量。

有两种计算模型参数的有效数量 p D {\displaystyle p_{D}} 的方法。一种是 p D = D ¯ D ( θ ¯ ) {\displaystyle p_{D}={\bar {D}}-D({\bar {\theta }})} ,其中 θ ¯ {\displaystyle {\bar {\theta }}} θ {\displaystyle \theta } 的期望(Spiegelhalter 等人 2002,p.587)。第二种是 p D = p V = 1 2 var ^ ( D ( θ ) ) {\displaystyle p_{D}=p_{V}={\frac {1}{2}}{\widehat {\operatorname {var} }}\left(D(\theta )\right)} (Gelman 等人 2004,p.182)。有效数量 p D {\displaystyle p_{D}} 越大,模型的参数就越多,模型就越容易拟合数据,但也需要更小的偏差。

偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 被定义为

或等效于

从第二种定义更能看出它和赤池信息量准则的联系。

一般而言,偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 的值越小,模型越好。这一准则的优点是它很容易从马尔可夫链蒙特卡洛(MCMC)模拟产生的样本中计算出来。


相关

  • 热量热量是指由于温度差而转移的能量,公制为焦耳。 在温度不用来之间,热量总是由高温物体向低温物体传递; 二在等温过程中,物体之间的温度也不断出现微小差别,通过热量传递不断达到新
  • 吕梁构造期吕梁构造期,简称吕梁期,是古元古代(25-18亿年前)期间的构造期,在此期间,在今中国及周边地区发生了吕梁运动或称吕梁事件。因为吕梁运动在山西吕梁山的表现最典型,故而得名。与此
  • 阿德里安埃德加·阿德里安,第一代阿德里安男爵,OM,PRS(英语:Edgar Adrian, 1st Baron Adrian,1889年11月30日-1977年8月4日),英国电生理学家,曾任剑桥大学教授、英国皇家学会会长。他和查尔斯
  • 煤炭生产国煤炭是中国最重要的能源来源。中国的煤炭产量、消费量均为世界第一,并且遥遥领先于其它国家的总和。2009年,煤炭占中国一次性能源生产总量的74%,一次性能源消费总量的67%。中国
  • 马来亚战役日本决定性胜利英联邦军队撤往新加坡大英帝国大日本帝国马来亚战役是于1941年12月8日至1942年1月31日期间,同盟国与轴心国成员大日本帝国及泰国在英属马来亚上的战事。以日本
  • 海棠区海棠区,是中华人民共和国海南省三亚市的一个市辖区,辖原三亚市海棠湾镇的行政区域,共计3个社区和19个行政村。总面积255平方千米,总人口约9万人。
  • 聚合草聚合草(学名:)为紫草科聚合草属的植物。分布在俄罗斯以及中国大陆的 福建省、 四川省、 中国、 湖北省、江苏省等地,目前已由人工引种栽培。花语为“寂静”。为多年生草本,高60~9
  • 关于汞的水俣公约《关于汞的水俣公约》(简称:《汞公约》英语:)是一部全面对汞进行规制的国际公约。公约要求缔约国自2020年起,禁止生产及进出口含汞产品。2013年10月9日,在曾发生水俣病的日本熊本
  • 物理评论物理评论(英语:,简称),为美国的一个学术性期刊,创办于1893年。该杂志刊登物理学各方面的最新研究成果以及科学评论等文章。该杂志由美国物理学会出版发行。物理评论分为ABCDE等分
  • 水口浦站水口浦站(韩语:수구포역)是朝鲜民主主义人民共和国咸镜北道稳城郡的一个铁路车站,属于咸北线。咸北线