偏差信息量准则

✍ dations ◷ 2024-09-20 15:19:49 #贝叶斯统计,回归分析

偏差信息量准则(英语:deviance information criterion,DIC)是等级模型化的赤池信息量准则(AIC),被广泛应用于由马尔可夫链蒙特卡洛(MCMC)模拟出的后验分布的贝叶斯模型选择问题。和赤池信息量准则一样,偏差信息量准则是随样本容量增加的渐近近似,只应用于后验分布呈多元正态分布的情况。


定义偏差(deviance)为 D ( θ ) = 2 log ( p ( y | θ ) ) + C {\displaystyle D(\theta )=-2\log(p(y|\theta ))+C} ,其中 y {\displaystyle y} 为数据, θ {\displaystyle \theta } 是模型中的未知参量, p ( y | θ ) {\displaystyle p(y|\theta )} 是似然函数, C {\displaystyle C} 是常量。

有两种计算模型参数的有效数量 p D {\displaystyle p_{D}} 的方法。一种是 p D = D ¯ D ( θ ¯ ) {\displaystyle p_{D}={\bar {D}}-D({\bar {\theta }})} ,其中 θ ¯ {\displaystyle {\bar {\theta }}} θ {\displaystyle \theta } 的期望(Spiegelhalter 等人 2002,p.587)。第二种是 p D = p V = 1 2 var ^ ( D ( θ ) ) {\displaystyle p_{D}=p_{V}={\frac {1}{2}}{\widehat {\operatorname {var} }}\left(D(\theta )\right)} (Gelman 等人 2004,p.182)。有效数量 p D {\displaystyle p_{D}} 越大,模型的参数就越多,模型就越容易拟合数据,但也需要更小的偏差。

偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 被定义为

或等效于

从第二种定义更能看出它和赤池信息量准则的联系。

一般而言,偏差信息量准则 D I C {\displaystyle {\mathit {DIC}}} 的值越小,模型越好。这一准则的优点是它很容易从马尔可夫链蒙特卡洛(MCMC)模拟产生的样本中计算出来。


相关

  • 中世纪科学史中世纪科学史是指在中世纪,星象、药物、数学等科学在当时都相当的活跃,但是,由于古代的文化(在罗马及伊斯兰的落没之前的时期)已经存在有许多的科学基础,所以研究科学的方法才能
  • 照片相片,亦称照片,是从摄影得出来的影像,始源于1826年。 通常由感光纸张收集光子而产生出来,相片成相的原理是透过光的化学作用在感光的底片、纸张、玻璃或金属等辐射敏感材料上产
  • 贝林县贝林县(Berrien County)是位于美国佐治亚州南部的一个县,面积1,186平方公里,县治纳什维尔。根据2000年美国人口普查,共有人口16,708。贝林县成立于1856年2月25日。历史 | 经济 |
  • 百家争鸣诸子百家是后世对华夏先秦学术思想人物和派别之总称。诸子是指中国先秦时期老子、庄子、孔子、孟子、荀子、墨子、列子、申子、韩非子等学术思想代表人物。春秋后期已出现颇
  • 控制体积控制体积是流体力学及热力学中,为一物理现象建立数学模型时会用到的一个名词。在惯性参考系中,控制体积可能是一固定的区域,或者是随着流体运动。控制体积的表面也称为控制表面
  • 埃曼努埃莱·菲利贝托埃曼努埃莱·菲利贝托·维托里奥·欧亨尼奥·阿尔贝托·热那亚·朱塞佩·玛利亚(Emanuele Filiberto Vittorio Eugenio Alberto Genova Guiseppe Maria,1869年1月13日-1931年7
  • 西北轻工业学院中国陕西省西安市未央大学园区陕西科技大学是中国陕西省西安市的一所公立大学,为中央与地方共建,以地方管理为主的大学,1978年被国务院确定为第一批全国重点大学之一。当前,陕西
  • 牙买加犹太人牙买加犹太人,大部分是在1494年从西班牙和葡萄牙被驱逐犹太人的后代。人口估计由200-424,000人 犹太人最早来到牙买加是1494-1655年属于西班牙帝国的时期,他们是为了逃避宗教
  • 碳酸钴碳酸钴(化学式:CoCO3)是钴(Ⅱ)的碳酸盐。红色单斜晶系结晶或粉末。几乎不溶于水、醇、乙酸甲酯和氨水,可溶于酸,但不与冷的浓盐酸或浓硝酸作用。400°C 以上开始分解,放出二氧化碳
  • 集体发明物集体发明物(英语:Collective Invention)是由比利时超现实主义画家雷内·弗朗索瓦·吉兰马格利特于1935年创作的。此画的尺寸的尺寸是长73公分,宽116公分,现为私人收藏品。1934年,