Bayes Belief Networks詳解

第十次寫部落格，本人數學基礎不是太好，如果有幸能得到讀者指正，感激不盡，希望能借此機會向大家學習。這篇文章主要分為一下三部分來介紹貝葉斯信念網（BayesBeliefNetworks）：BNN的簡要介紹、如何構建BNN、如何基於BNN進行估計以及BNN的特點。

貝葉斯信念網

這一部分主要是講貝葉斯網的基本結構、條件獨立性與邊界獨立性以及條件獨立性分析。

基本結構

　　“貝葉斯信念網路”（BayesBeliefNetworks，BBN），簡稱貝葉斯網，用圖形表示一組隨機變數（屬性）之間的依賴關係。有兩個重要的組成部分：
　　（1）一個有向無環圖（DirectedAcyclicGraph，簡稱DAG），來刻畫變數之間的依賴關係。
　　（2）一個概率表（ConditionalProbabilityTable，簡稱CDT），來描述隨機變數之間（子結點與父結點之間）的聯合概率分佈。
　　具體來說，一個貝葉斯網

B$B$由有向無環結構G$G$和概率引數表θ$\theta$組成，即B=<G,θ>$B=<G,\theta >$。有向無環結構G$G$中的每個結點代表了一個隨機變數，如果兩個變數之間有直接的依賴關係，那麼就將他們通過一條有向邊連線起來。概率引數表θ$\theta$則是定量的描述這種依賴關係，例如，假設屬性x$x$在G$G$中只有一個父結點y$y$，那麼θx|y${\theta }_{x|y}$描述了這倆變數所組成的條件概率分佈，即θx|y=PB(x|y)${\theta }_{x|y}=P_B\left(x|y\right)$；假設屬性x$x$在G$G$中有多個父結點yi(i=1,2,...,n)$y_i\left(i=1,2,...,n\right)$，那麼θx|y${\theta }_{x|y}$描述了這n+1$n+1$個變數所組成的條件概率分佈，即θx|y=PB(x|y

1,y2,...,yn)${\theta }_{x|y}=P_B\left(x|y_1,y_2,...,y_n\right)$；假設屬性x$x$沒有父結點，那麼θx|y${\theta }_{x|y}$描描述了這個變數的先驗概率分佈，即θx|y=PB(x)${\theta }_{x|y}=P_B\left(x\right)$。基於上述幾種情況，貝葉斯網中各個屬性的聯合概率分佈可以表示為

　　下面舉一個簡單的例子，下圖給出了西瓜問題的一種貝葉斯網路表示。可以從圖中看出，“敲聲”依賴於“好瓜”，“色澤”依賴於“好瓜”和“甜度”，而“根蒂”依賴於“甜度”，從“甜度->根蒂”的概率引數表中，可以得知這兩個屬性之間的定量的依賴資訊，如P(根蒂=硬挺|甜度=高)=0.1$P\left(根蒂=硬挺\right|甜度=高)=0.1$ 。

條件獨立性與邊際獨立性

　　貝葉斯網路中有如下圖所示的三種典型依賴關係：同父結構、V型結構、順序結構。

　　這三種結構存在以下幾種不同的依賴關係：
　　(1) 在同父結構中，如果給定父結點x1$x_1$的取值，那麼子結點x3$x_3$與x4$x_4$條件獨立。
　　(2) 在順序結構中，如果給定結點x$x$的取值，那麼結點y$y$與z$z$條件獨立。
　　(3) 在V型結構中，如果給定子結點x4$x_4$的取值，那麼父結點x1$x_1$與x2$x_2$必不獨立；反之，子結點x4$x_4$的取值未知，那麼結點x1$x_1$與x2$x_2$滿足邊際獨立性。
　　前兩種結構可以統稱為“滿足條件獨立性”，即貝葉斯網路中的某個結點，如果他的所有父結點已知，那麼它條件獨立於它的所有非後代結點。如下圖中，如果給定結點C$C$的取值，那麼結點A$A$條件獨立於結點B$B$和D$D$。

條件獨立性分析

　　為了分析有向圖G$G$中變數間的條件獨立性，可以使用“有向分離”（DirectedSeparation），將一個有向圖轉換為無向圖。具體步驟如下：
　　(1)找出有向圖中的所有V型結構，在V型結構的兩個父結點之間加上一條無向邊；
　　(2)將所有的有向邊改為無向邊。
由此產生的無向圖稱為“道德圖”（MoralGraph），令父結點相連的過程稱為“道德化”（Moralization）。通過道德圖可以快速、有效的找到變數間的條件獨立性，具體的步驟是，假設道德圖中有變數

相關推薦

Bayes Belief Networks詳解（附帶詳細公式推導）

Bayes Belief Networks詳解 第十次寫部落格，本人數學基礎不是太好，如果有幸能得到讀者指正，感激不盡，希望能借此機會向大家學習。這篇文章主要分為一下三部分來介紹貝葉斯信念網（BayesBeliefNetworks）：BNN的簡要介紹、如

windows系統平臺下的PE檔案格式和資料定義詳解（附帶詳細高清大圖）

PE（Portable Executable）格式，是微軟Win32環境可移植可執行檔案(如exe、dll、vxd、sys和vdm等)的標準檔案格式。 PE格式衍生於早期建立在VAX(R)VMS(R)上的COFF(Common Object File Format)檔案格式

Subspace Clustering詳解（附帶CLIQUE演算法詳解）

Subspace Clustering詳解 第二十四次寫部落格，本人數學基礎不是太好，如果有幸能得到讀者指正，感激不盡，希望能借此機會向大家學習。這一篇作為密度聚類演算法族的第三篇，主要是介紹一種用來發現子空間中的簇的演算法——Subspace Cluster

Tomcat目錄結構詳解（非常詳細）

Tomcat7 的目錄結構如圖： · 1、bin：該目錄下存放的是二進位制可執行檔案，如果是安裝版，那麼這個目錄下會有兩個exe檔案：tomcat6.exe、tomcat6w.exe，前者是在控制檯下啟動Tomcat，後者是彈出UGI視窗啟動Tomcat；如果是解壓版，那

Modernizr詳解（中文詳細版）

                這個月，一直在使用 Modernizr 發現，Modernizr 是個好東西，是一個 JavaScript 庫，用於檢測使用者瀏覽器的 HTML5 與 CSS3 特性。為什麼使用 Modernizr使用炫酷新穎的 web 技術是一件很有趣的事情，但你不得不面對落後的瀏覽器。Mo

Feature Selection詳解（附帶Relief、Relief-F、LVM詳解）（二）

Feature Selection詳解 第二十六次寫部落格，本人數學基礎不是太好，如果有幸能得到讀者指正，感激不盡，希望能借此機會向大家學習。這一篇承接上一篇《Feature Selection詳解（附帶Relief、Relief-F、LVM詳解）（一）》的內容，仍然是針對特

Feature Selection詳解（附帶Relief、Relief-F、LVM詳解）（一）

Feature Selection詳解 第二十五次寫部落格，本人數學基礎不是太好，如果有幸能得到讀者指正，感激不盡，希望能借此機會向大家學習。這一篇主要是針對特徵選擇問題的幾種常見方法進行闡述，並介紹其中幾種比較經典的特徵選擇演算法（Relief、Relief-F、LVM）。

針對初學者的A*演算法入門詳解（附帶Java原始碼）

      英文題目，漢語內容，有點掛羊頭賣狗肉的嫌疑，不過請不要打擊我這顆想學好英語的心。當了班主任我才發現大一18本書，11本是英語的，能多用兩句英語就多用，個人認為這樣也是積累的一種方法。      Thanks open source pioneers dedicated to computer s

最新最詳細最簡潔Eclipse除錯PHP配置詳解（Xdebug，Zend Debugger）

轉自：http://lspvic.tk/2011/05/27/php-debug-config-in-eclipse-zend-xdebug/ 搬家注：該日誌寫於2011 年 04 月 07 日，Eclipse，PHP等版本號很多，更新也比較快，請注意文章中的版本。本文

【 專欄 】- JavaEE-知識點詳解（附帶大量練習題）

JavaEE-知識點詳解（附帶大量練習題） JavaSE、各大框架。其中JavaSE是我們學習Java最基礎，最重要的一部分，在這裡我將給出我的學習經驗，希望可以給大家帶來些許幫助。其中包含了：基礎知識、面向物件、高階特性、列舉&

[轉載]SourceTree安裝教程和GitLab配置詳解（附帶報錯解決辦法）

連結：http://www.cnblogs.com/Lam7/p/6004737.html 補充：1.沒有vpn的支援，atlassian只註冊不了的，就算打得開頁面也沒辦法進行人機驗證。 2.安裝git，直接進行下一步，中間可以不用操作 3.安裝sour

Opencv249和Opencv3.0以上的 SolvePnp函式詳解（附帶程式、算例）

最近要做一個演算法，用到了位姿估計。位姿估計的使用範圍非常廣泛。主要解決的問題為：在給出2D-3D若干點對以及相片的內參資訊，如何求得相機中心在世界座標系下的座標以及相機的方向（旋轉矩陣）。為此筆者做了大量研究，看了許多主流的文章，也是用了許多相關的函式庫。主要有OpenM

Hive最新資料操作詳解（超級詳細）

資料操作能力是大資料分析至關重要的能力。資料操作主要包括：更改(exchange)，移動(moving)，排序(sorting)，轉換(transforming)。Hive提供了諸多查詢語句，關鍵字，操作和方法來進行資料操作。一、 資料更改 資料更改主要包括：LOAD, I

C4.5詳解（附帶資訊理論介紹）

C4.5詳解 第六次寫部落格，本人數學基礎不是太好，如果有幸能得到讀者指正，感激不盡，希望能借此機會向大家學習。這一篇內容來自於各種書籍、網上的資料，以及自己的一些見解。關於決策樹的一些基本概念在這篇部落格《Decision Tree簡介（決策樹演算法族

Quartz中的cronExpression 表示式的格式詳解（超級詳細）

（看完之後就可以直接線上生成表示式了。。。。）cron 表示式的格式Quartz cron 表示式的格式十分類似於 UNIX cron 格式，但還是有少許明顯的區別。區別之一就是 Quartz 的格式向下支援到秒級別的計劃，而UNIX cron 計劃僅支援至分鐘級。許多我們的

【Spring MVC】HandlerMapping初始化詳解（超詳細過程原始碼分析）

Spring MVC的Control主要由HandlerMapping和HandlerAdapter兩個元件提供。HandlerMapping負責對映使用者的URL和對應的處理類，HandlerMapping並沒有規定這個URL與應用的處理類如何對映，在HandlerMapp

c語言連結串列詳解（超詳細）

連結串列是一種常見的基礎資料結構，結構體指標在這裡得到了充分的利用。連結串列可以動態的進行儲存分配，也就是說，連結串列是一個功能極為強大的陣列，他可以在節點中定義多種資料型別，還可以根據需要隨意增添，刪除，插入節點。連結串列都有一個頭指標，一般以head來表示，存放的是一個地

KafkaProducer Sender 執行緒詳解（含詳細的執行流程圖）

目錄 1、Sender 執行緒詳解 2、RecordAccumulator 核心方法詳解 溫馨提示：本文基於 Kafka 2.2.1 版本。 上文 《原始碼分析 Kafka 訊息傳送流程》 已經詳細介紹了

tf.slice()函式詳解（極詳細）

[TOC] tf.slice()是TensorFlow庫中分割張量的一個函式，其定義為def slice(input_, begin, size, name=None):。tf.slice()函式的那些引數設定實在是不好理解，查了好多資料才理解，所以這邊記錄一下。 # 1.官方註釋 官方的註釋如下: ```p

Javascript設計模式與開發實踐詳解（二：策略模式） http://www.jianshu.com/p/ef53781f6ef2

的人 思想 ram gis pan pro msg have 改變 上一章我們介紹了單例模式及JavaScript惰性單例模式應用這一次我主要介紹策略模式策略模式是定義一系列的算法，把它們一個個封裝起來，並且讓他們可以互相替換。比方說在現實中很多時候也有很多途徑到達同一個