广义线性模型

✍ dations ◷ 2025-09-15 17:38:23 #统计学,回归分析

在统计学上,广义线性模型 (Generalized linear model、简称GLM) 是一种应用灵活的线性回归模型。该模型允许因变量的偏差分布有除了正态分布之外的其它分布。此模型假设实验者所量测的随机变量的分布函数与实验中系统性效应(即非随机的效应)可经由一链接函数()建立起可资解释其相关性的函数。

John Nelder与Peter McCullagh在1989年出版,被视为广义线性模式的代表性文献中提纲挈领地说明了广义线性模式的原理、计算(如最大概似估计量)及其实务应用。

广义线性模型是简单最小二乘回归(OLS)的扩展,在广义线性模式中,假设每个资料的观测值 Y {\displaystyle \mathbf {Y} } 与的概率密度函数, (在论离散型随机变量时,则为概率质量函数)可表为:

称之为,通常用以解释方差。函数、、、 及为已知。许多(不包含全部)型态的随机变量可归类为指数族

与该随机变量的期望值有关。若为恒等函数,则称该分布属于 正则型式。 另外,若为恒等而已知,则称为,其与期望值的关系可表为:

一般情形下,该分布的方差可表为:

线性预测子是用将独立变量经由线性组合来寻模式所能提供之资讯的计量变量。符号 (希腊字母 "Η")通常用来表示线性预测子。它与资料的期望值的链接函数值有关(故称"预测子")。

表为未知参数的线性组合(故为"线性")。X则为独立变量所组合而成的观测矩阵。如此一来,可表示为

X的元素通常为模式设计时可观测的资料或为实验时所得的数据。

链接函数解释了线性预测子与分布期望值的关系。链接函数的选择可视情形而定。通常只要符合链接函数的值域有包含分布期望值的条件即可。

当使用具正则参数的分布时,链接函数需符合XTY 为的充份统计量此一条件。这在与线性预测子的链接函数值相等时方成立。下面列出若干指数族分布的典则链接函数及其反函数(有时称为均值函数):

在指数分布与Gamma分布中,其典则链接函数的值域并不包含分布均值,另外其线性预测子亦可能出现负值,此两种分布绝无均值为负的可能。当进行极大似然估计进行计算时需避免上述情形出现,这时便需要使用到非典则链接函数。

有些人可能会把一般线性模式和广义线性模式给弄混了。一般线性模式可视为广义线性模式的一个链接函数为恒等的特例。一般线性模式有着悠长的发展历史。广义线性模式具非恒等链接函数者有着渐近一致的结果。

广义线性模式最简单的例子便是线性回归。此例中分布函数为正态分布而链接函数为恒等函数在方差已知的条件下并符合正规式。 这个例子具有广义线性模式罕有的最大概似估计量的解析解

在讨论二元反应结果(如跟)时,通常以二项式分布建模。其期望值'μYp

二项式分布有许多常用的链接函数,最常用的链接函数是logit:

以此建模的广义线性模式通常称为logistic回归模式。

另外,任何连续型概率分配累积函数(CDF)的反函数皆可使用此模式,因为其值域为,包含了二项式分布期望值的可能值域。正态概率分配累积函数 Φ {\displaystyle \Phi } 接近0.5的情形。 此种建模很接近logit及probit的线性转换,有时计量经济学家会称其为Harvard模式。

二元资料的广义线性模式变异函数可写为

其中变异参数 τ {\displaystyle \tau } 通常等于1,若非,则该模式称为溢变异或殆二元。

另一个常用的例子为用于计次的卜瓦松分布。此例的链接函数为自然对数,为正规链接。方差函数与均值成等比

其中变异参数 τ {\displaystyle \tau } 通常为1。 若非,此模式通常称为溢变异或似卜瓦松。

相关

  • 整体词整体关系(英语:Holonymy)是一种语义关联。如果 A 是 B 的一部分,或 A 是 B 集合的成员,则称 B 是 A 的整体词,A 是 B 的分体词。例如,“树”是“树皮”的整体词,也是“树干”、“树
  • 存水弯存水弯,是U型、S型、或J形的管件装置,让废水及污水流进地下室筏基,并且阻止臭气及其他气体逆流或倒灌进室内, Alexander Cummings(英语:Alexander Cummings)在1775年发明S型弯的,但
  • 费城艺术博物馆费城艺术博物馆(英语:Philadelphia Museum of Art)是美国最大的美术馆之一,位于费城本杰明·富兰克林公园大道的西端。该博物馆成立于1876年,以配合同年举行的美国首届世界博览会
  • 大陆漂移学说大陆漂移学说是地球大陆相对于彼此的运动,因此似乎在海床上“漂流”。最初由亚伯拉罕·奥特柳斯在1596年提出,后来德国科学家阿尔弗雷德·魏格纳在1912年加以阐述,中文中“大陆
  • 外肽酶外肽酶,也叫肽链端解酶,或端解酶,是蛋白水解酶一类,可催化多肽链末端肽键水解,游离末端氨基酸。根据其所剪切肽链末端为氨基端或羧基端又可分为氨基肽酶和羧基肽酶。此外,还包括催
  • 海盗湾海盗湾(英语:The Pirate Bay,缩写:TPB)是一个专门存储、分类及搜索Bittorrent种子文件及磁力链接的网站,由瑞典的民间反著作权组织海盗署(英语:Piratbyrån)于2003年成立,支持35种语言
  • 多特蒙德足球俱乐部多特蒙德普鲁士1909球类运动俱乐部注册协会(德语:Ballspiel-Verein Borussia 1909 e.V. Dortmund,BVB)是位于德国鲁尔区多特蒙德的足球俱乐部。在德国国内赛场上,多特蒙德曾五次
  • 淡水福佑宫淡水福佑宫,俗称“淡水妈祖庙”,位于台湾新北市淡水区,主祀天上圣母妈祖。为新北市三级古迹。淡水福佑宫、淡水清水岩、淡水龙山寺与淡水鄞山寺合称为“淡水四大庙”。主祀妈祖
  • Mk 2手榴弹Mk 2手榴弹(或写作Mk II)是一种反人员破片手榴弹,美军于1918年导入,用以取代Mk 1手榴弹,在二战、韩战至越战中所使用。由于外型相似凤梨又名凤梨手榴弹或“菠萝”,因保险片的形状
  • 詹姆斯·卡梅隆詹姆斯·弗朗西斯·卡梅隆(英语:James Francis Cameron, CC,1954年8月16日-)是一位加拿大电影导演,擅长以极高的预算拍摄动作片以及科幻电影,主题往往试图探讨人和科技之间的关系。