偏差信息量准则

✍ dations ◷ 2025-10-21 14:58:59 #贝叶斯统计,回归分析

偏差信息量准则(英语:deviance information criterion,DIC)是等级模型化的赤池信息量准则(AIC),被广泛应用于由马尔可夫链蒙特卡洛(MCMC)模拟出的后验分布的贝叶斯模型选择问题。和赤池信息量准则一样,偏差信息量准则是随样本容量增加的渐近近似,只应用于后验分布呈多元正态分布的情况。


定义偏差(deviance)为 D ( θ ) = 2 log ( p ( y | θ ) ) + C {\displaystyle D(\theta )=-2\log(p(y|\theta ))+C} ,其中 y {\displaystyle y} 为数据, θ {\displaystyle \theta } 是模型中的未知参量, p ( y | θ ) {\displaystyle p(y|\theta )} 是似然函数, C {\displaystyle C} 是常量。

有两种计算模型参数的有效数量 p D {\displaystyle p_{D}} 的方法。一种是 p D = D ¯ D ( θ ¯ ) {\displaystyle p_{D}={\bar {D}}-D({\bar {\theta }})} ,其中 θ ¯ {\displaystyle {\bar {\theta }}} θ {\displaystyle \theta } 的期望(Spiegelhalter 等人 2002,p.587)。第二种是 p D = p V = 1 2 var ^ ( D ( θ ) ) {\displaystyle p_{D}=p_{V}={\frac {1}{2}}{\widehat {\operatorname {var} }}\left(D(\theta )\right)} (Gelman 等人 2004,p.182)。有效数量 p D {\displaystyle p_{D}} 越大,模型的参数就越多,模型就越容易拟合数据,但也需要更小的偏差。

偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 被定义为

或等效于

从第二种定义更能看出它和赤池信息量准则的联系。

一般而言,偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 的值越小,模型越好。这一准则的优点是它很容易从马尔可夫链蒙特卡洛(MCMC)模拟产生的样本中计算出来。


相关

  • 恐慌发作恐慌发作(Panic attack)的意义为患者在强烈恐惧下,表现出一系列的身心症状。(常见换气过度或气喘)当恐慌发作,患者会感受到强烈不适,因此常求助于急诊室。一个人在一生中可能出现极
  • 恒星核合成恒星核合成 是解释重元素是由恒星内部的原子经由核聚变创造出来的化学元素理论。自从大爆炸期间产生氢、氦、锂之后,恒星核合成就一直持续地创造重元素。这原本是一个高度预
  • 亚轨道亚轨道太空飞行是进入了太空,但因其飞行轨迹与大气层或地球表面相交而无法完成一周轨道飞行的太空飞行。通常亚轨道飞行是以火箭达成,但Space Gun也曾在实验中达成过。一个常
  • 米歇尔·欧仁·谢弗勒尔米歇尔·欧仁·谢弗勒尔(法语:Michel Eugène Chevreul,1786年8月31日-1889年4月9日),法国化学家,对动物脂肪的组成和皂化反应的本质进行了深入研究,从多种脂肪里提纯了硬脂酸、油酸
  • allergen过敏原(英语:allergen,又称为变应原、过敏物、致敏原、致敏物)是指能引起过敏的物质。严格地说,过敏原是一种能促进在特应性个体发生I型超敏反应的非寄生抗原。尘螨的排泄物、花
  • 礁,也称岩礁、礁岩或礁石,指很小的岩石岛屿,通常小到无法居住。它可以是一个简单的岩石暗礁。礁也可以用来指矮的海蚀柱。礁上可能会有植物生长,比如苔藓和小而耐寒的草。在世界
  • 陈信宏陈信宏(1975年12月6日-),绰号阿信(英文:Ashin),出生于台湾台北市北投区。台湾乐团五月天的主唱、词曲创作者,亦是相信音乐创始人之一、潮流服饰品牌“StayReal”的创始人及设计者之一
  • 崔福生崔福生(1931年7月8日-2013年12月26日),台湾电影演员,北京人。1949年,崔福生任职中华民国空军大鹏话剧队演员。1958年,崔福生就读政治作战学校影剧系,1962年毕业。1967年,崔福生以《贞
  • 维基文库维基文库(英语:Wikisource)是维基媒体基金会旗下维基百科的姊妹计划,目的是创建一个自由的、基于Wiki的文献仓库,包括每一个语言版本的完整原始文献,并且把这些文献翻译成多种语言
  • 利奥波多二世 (托斯卡纳)利奥波多二世(Leopoldo Giovanni Giuseppe Francesco Ferdinando Carlo,1797年10月3日-1870年1月29日),托斯卡纳大公,1824年—1859年在位。利奥波多是斐迪南三世的次子(哥哥弗朗西