首页 >
隐含狄利克雷分布
✍ dations ◷ 2025-06-06 05:49:10 #隐含狄利克雷分布
隐含狄利克雷分布(英语:Latent Dirichlet allocation,简称LDA),是一种主题模型,它可以将文档集中每篇文档的主题按照概率分布的形式给出。同时它是一种无监督学习算法,在训练时不需要手工标注的训练集,需要的仅仅是文档集以及指定主题的数量k即可。此外LDA的另一个优点则是,对于每一个主题均可找出一些词语来描述它。LDA首先由 David M. Blei、吴恩达和迈克尔·I·乔丹于2003年提出,目前在文本挖掘领域包括文本主题识别、文本分类以及文本相似度计算方面都有应用。LDA是一种典型的词袋模型,即它认为一篇文档是由一组词构成的一个集合,词与词之间没有顺序以及先后的关系。一篇文档可以包含多个主题,文档中每一个词都由其中的一个主题生成。另外,正如Beta分布是二项式分布的共轭先验概率分布,狄利克雷分布作为多项式分布的共轭先验概率分布。因此正如LDA贝叶斯网络结构中所描述的,在LDA模型中一篇文档生成的方式如下:因此整个模型中所有可见变量以及隐藏变量的联合分布是最终一篇文档的单词分布的最大似然估计可以通过将上式的
θ
i
{displaystyle theta _{i}}
以及
Φ
{displaystyle Phi }
进行积分和对
z
i
{displaystyle z_{i}}
进行求和得到根据
p
(
w
i
|
α
,
β
)
{displaystyle p(w_{i}|alpha ,beta )}
的最大似然估计,最终可以通过吉布斯采样等方法估计出模型中的参数。在LDA最初提出的时候,人们使用EM算法进行求解,后来人们普遍开始使用较为简单的Gibbs Sampling,具体过程如下:
相关
- 听诊听诊(Auscultation)是一种利用听个体内的声音的诊断技术,通常会使用听诊器配合诊断。听诊最常应用的地方是进行循环系统、呼吸系统,肠胃道系统(英语:gastrointestinal system)以及
- 高级心脏生命支持高级生命支持,亦为高级心肺复苏、ACLS,是指一系列的临床介入(clinical intervention),作为以下情况的应急处置:心跳停止、休克,以及其他医学上危及生命的紧急情况;亦指施行此临床
- 巴鲁赫·斯宾诺莎斯宾诺莎(拉迪诺语:Baruch de Spinoza,拉丁语:Benedictus de Spinoza,1632年11月24日-1677年2月21日),西方近代哲学史重要的理性主义者,与笛卡尔和莱布尼茨齐名。斯宾诺莎的祖先是居
- pernicious anemia维生素 B12 缺乏贫血(英语:Vitamin B12 deficiency anemia),是指因缺乏维生素B12造成红血球不足的疾病,恶性贫血(英语:Pernicious anemia)是造成维生素 B12 缺乏的原因之一。最常见
- 水文学水文学属于地理学,研究的是关于地球表面、土壤中、岩石下和大气中水的各种行为,包含水循环、含量、分布、物理化学特性、对物质影响以及与所有生物之间关系的科学。水分子借由
- bspan style=color:black;⑱/span/b伊斯坦布尔海峡(土耳其语:İstanbul Boğazı),又名博斯普鲁斯海峡(土耳其语:Boğaziçi,希腊语:Βόσπορος Vosporos,保加利亚语:Босфора),是一个介于欧洲与亚洲之间的海
- 电子游戏电子游戏产业(英语:Video game industry),又称互动娱乐产业(Interactive entertainment industry),是涉及电子游戏的开发、市场营销和销售的经济领域。它包含了几十种职业,目前雇用
- 爱德华三世爱德华三世(英语:Edward III,1312年11月13日-1377年6月21日),英格兰国王,1327年到1377年在位。爱德华三世是被谋杀的爱德华二世的儿子,生于伯克郡温莎。其母法兰西的伊莎贝拉与马奇
- 荷兰市镇政治荷兰政府与政治 系列条目荷兰市镇政治是荷兰政治的重要环节之一,市镇(荷兰语:gemeente)是荷兰的基层政权,在荷兰政府架构中是最低的阶层,而他们又与阿姆斯特丹以及鹿特丹的政治运
- PBS公共广播电视公司(英语:Public Broadcasting Service),也译作“美国公共电视网”或“美国公共电视台”,是美国公共电台和电视台节目发行渠道。它是一家非盈利组织,同时也是在美国