[PGM] Section 1. Introduction
Chilly_Rain
posted @ 2013年6月16日 16:41
in Coursera_PGM
, 1054 阅读
注：Coursera的PGM是我在2012后半年跟的网上课程，当时课时很赶，天天在赶作业，没有做太详细的总结，学完之后觉得还是挺有信息量的，所以打算现在再复习一遍，顺便把知识总结一下。
Motivation and Overview
概率图模型英文全称为Probabilistic Graphical Model，先解释一下各自的含义，概念比较虚可以结合后面的具体内容来理解。
- Model: 即Declarative Representation，或者说一个框架结构。这个结构可从给定的训练数据中学习得到或者通过专家设计。框架中一般有若干个参数，使用不同的算法来做训练training（with and without complete data）可以得到模型参数的取值，而在此之后就可以用这个带有参数的模型做对其它样本点来做推演inference（可以是exact，也可以是approximate）。
- Probablistic：用于表示数据中的不确定性，例如不完整的样本，噪声以及无法被Model识别出来的知识等。概率论提供了表达不确定性的工具，例如多元变量的联合概率分布等。
- Graphical: 利用图像的形式表达随机变量之间的依赖关系，例如贝叶斯网络（有向图）或者马尔科夫网络（无向图），temporal，plate models。变量之间的这种依赖关系也可以看作一种约赖，从而可以大大降低Model中独立参数的数量。
Preliminaries: Distributions
一些简单的概念
- 联合概率分布：最简单地可以表示成表格的形式；多个变量之间可能存在的独立性
- 条件概率分布：对联合概率分布表格的reduction and normalization
- 边缘概率分布：通过求和消除掉某些随机变量
Preliminaries: Factors
因子\( \phi(X_1, ..., X_k) \)定义为一个函数 \( Val(X_1, X_k) -> R\)，而这个因子的域scope为\( \{X_1, ..., X_k\} \)。
概率分布都可以看作是特殊的因子，而因子概念本身则更加一般，因为它不需要遵守sum-to-one规则。因子可以看作是构建和操控概率分布的基础。
因子的操作
- Factor Product: \( \phi(A,B,C) = \phi_1(A,B)*\phi_2(B,C) \)
- Factor Marginalization: \( \sum_C \phi(A,B,C) \)
- Factor Reduction: eliminate some table rows, leave the rest (unnormalized)
2022年9月06日 16:20
Interested Students can Download HP Board 10th Model Paper 2023 From This Website for the Better Understanding of Examination Pattern and Guess Important Questions for the Current years. HPBOSE 10th Standard Students HPBOSE Matric Model Question Paper Check Previous Question Papers along with a Guess Papers. You can Download These in Pdf format to Prepare, Matric Public Exam Practice and get good marks.
2023年7月15日 16:17
WB 9th Class Textbook Education is the West Bengal state Government Administered Autonomous Examining Authority are Published by English, Bengali Medium Textbooks from Standard 6th Addition, WBBSE Every Year Publish and Distribution WB 9th Class Textbook 2024 West Bengal Std 9th Class Textbook 2024 for High School Students Study Purpose,The Printed WB 9th Class Textbook 2024 are Distributed Through Cooperative Institutions All over Gujarat. Vendors are Linked to the Distribution of Textbooks with Distributors in each District. West Bengal Board Class Book 2024 are easily Accessible to All Students of This System.
2023年7月25日 23:45
Der Download des WhatsApp-Status ist über die Tools oder Anwendungen auf Ihrem Smartphone möglich. Sie benötigen keine Drittanbieteranwendung, um WhatsApp-Statusvideos oder -bilder auf Ihrem Android oder iPhone zu speichern. whatsapp fotos aus status speichern Aber die Drittanbieter-App wird verwendet, um den WhatsApp-Status einfach herunterzuladen. WhatsApp-Storys Statusinformationen Fotos oder Videos auf dem Telefon. Aber beide werden innerhalb von 24 Stunden gelöscht. Sie können sie also aus einem anderen Ordner kopieren und an einem sicheren Ort speichern.
2023年9月04日 14:40
Bihar Board 4th Question Paper 2024 Available From its our website in Hindi and English Medium Pdf Format. SCERT Bihar Board Upload Examination Department usually Question Bank in Every year Month of October, Bihar Board Important Question Paper 2024 help the Students to get an idea about the Annual Exam 2020. Bihar Model Test Paper 2024 is Provided by the State Council of Educational Research Bihar 4th Class Question Paper 2024 and Training,Bihar Only Bihar Board Model Paper 2024 have been Upload to Reveal the Exam Pattern to be Followed in SCERT Bihar Class Final Exam 2024.