1. 程式人生 > >五大常用演算法——分治演算法詳解及經典例題

五大常用演算法——分治演算法詳解及經典例題

一、基本概念

    在電腦科學中,分治法是一種很重要的演算法。字面上的解釋是“分而治之”,就是把一個複雜的問題分成兩個或更多的相同或相似的子問題,再把子問題分成更小的子問題……直到最後子問題可以簡單的直接求解,原問題的解即子問題的解的合併。這個技巧是很多高效演算法的基礎,如排序演算法(快速排序,歸併排序),傅立葉變換(快速傅立葉變換)……

    任何一個可以用計算機求解的問題所需的計算時間都與其規模有關。問題的規模越小,越容易直接求解,解題所需的計算時間也越少。例如,對於n個元素的排序問題,當n=1時,不需任何計算。n=2時,只要作一次比較即可排好序。n=3時只要作3次比較即可,…。而當n較大時,問題就不那麼容易處理了。要想直接解決一個規模較大的問題,有時是相當困難的。

二、基本思想及策略

    分治法的設計思想是:將一個難以直接解決的大問題,分割成一些規模較小的相同問題,以便各個擊破,分而治之。

    分治策略是:對於一個規模為n的問題,若該問題可以容易地解決(比如說規模n較小)則直接解決,否則將其分解為k個規模較小的子問題,這些子問題互相獨立且與原問題形式相同,遞迴地解這些子問題,然後將各子問題的解合併得到原問題的解。這種演算法設計策略叫做分治法。

    如果原問題可分割成k個子問題,1<k≤n,且這些子問題都可解並可利用這些子問題的解求出原問題的解,那麼這種分治法就是可行的。由分治法產生的子問題往往是原問題的較小模式,這就為使用遞迴技術提供了方便。在這種情況下,反覆應用分治手段,可以使子問題與原問題型別一致而其規模卻不斷縮小,最終使子問題縮小到很容易直接求出其解。這自然導致遞迴過程的產生。分治與遞迴像一對孿生兄弟,經常同時應用在演算法設計之中,並由此產生許多高效演算法。

三、分治法適用的情況

分治法所能解決的問題一般具有以下幾個特徵:

1) 該問題的規模縮小到一定的程度就可以容易地解決

2) 該問題可以分解為若干個規模較小的相同問題,即該問題具有最優子結構性質。

3) 利用該問題分解出的子問題的解可以合併為該問題的解;

4) 該問題所分解出的各個子問題是相互獨立的,即子問題之間不包含公共的子子問題。

第一條特徵是絕大多數問題都可以滿足的,因為問題的計算複雜性一般是隨著問題規模的增加而增加;

第二條特徵是應用分治法的前提它也是大多數問題可以滿足的,此特徵反映了遞迴思想的應用;、

第三條特徵是關鍵,能否利用分治法完全取決於問題是否具有第三條特徵,如果具備了第一條和第二條特徵,而不具備第三條特徵,則可以考慮用貪心法或動態規劃法。

第四條特徵涉及到分治法的效率,如果各子問題是不獨立的則分治法要做許多不必要的工作,重複地解公共的子問題,此時雖然可用分治法,但一般用動態規劃法較好

四、可使用分治法求解的一些經典問題(1)二分搜尋(2)大整數乘法(3)Strassen矩陣乘法(4)棋盤覆蓋(5)合併排序(6)快速排序(7)線性時間選擇(8)最接近點對問題(9)迴圈賽日程表(10)漢諾塔
五、分治法的基本步驟

分治法在每一層遞迴上都有三個步驟:

step1 分解:將原問題分解為若干個規模較小,相互獨立,與原問題形式相同的子問題;

step2 解決:若子問題規模較小而容易被解決則直接解,否則遞迴地解各個子問題

step3 合併:將各個子問題的解合併為原問題的解。

它的一般的演算法設計模式如下:

Divide-and-Conquer(P)

1. if |P|≤n0

2. then return(ADHOC(P))

3. 將P分解為較小的子問題 P1 ,P2 ,…,Pk

4. for i←1 to k

5. do yi ← Divide-and-Conquer(Pi) △ 遞迴解決Pi

6. T ← MERGE(y1,y2,…,yk) △ 合併子問題

7. return(T)

    其中|P|表示問題P的規模;n0為一閾值,表示當問題P的規模不超過n0時,問題已容易直接解出,不必再繼續分解。ADHOC(P)是該分治法中的基本子演算法,用於直接解小規模的問題P。因此,當P的規模不超過n0時直接用演算法ADHOC(P)求解。演算法MERGE(y1,y2,…,yk)是該分治法中的合併子演算法,用於將P的子問題P1 ,P2 ,…,Pk的相應的解y1,y2,…,yk合併為P的解。

六、分治法的複雜性分析

   一個分治法將規模為n的問題分成k個規模為n/m的子問題去解。設分解閥值n0=1,且adhoc解規模為1的問題耗費1個單位時間。再設將原問題分解為k個子問題以及用merge將k個子問題的解合併為原問題的解需用f(n)個單位時間。用T(n)表示該分治法解規模為|P|=n的問題所需的計算時間,則有:

T(n)= k T(n/m)+f(n)

通過迭代法求得方程的解:

    遞迴方程及其解只給出n等於m的方冪時T(n)的值,但是如果認為T(n)足夠平滑,那麼由n等於m的方冪時T(n)的值可以估計T(n)的增長速度。通常假定T(n)是單調上升的,從而當mi≤n<mi+1時,T(mi)≤T(n)<T(mi+1)。

七、依據分治法設計程式時的思維過程
實際上就是類似於數學歸納法,找到解決本問題的求解方程公式,然後根據方程公式設計遞迴程式。1、一定是先找到最小問題規模時的求解方法2、然後考慮隨著問題規模增大時的求解方法3、找到求解的遞迴函式式後(各種規模或因子),設計遞迴程式即可。八、演算法舉例

迴文

這裡的迴文是指資格字串,它從頭到尾讀與從尾到頭讀的內容是一致的,比如說doggod,無論從左到右耗時從右到左都是一樣的。

def isPal(s):
    if len(s) <= 1:
        return True
    else:
        return s[0]==s[-1] and isPal(s[1:-1])

s = 'doggod'
result = isPal(s)
print result
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9

可以看出演算法就是利用遞迴不斷的處理更小的子問題。

二分查詢

二分查詢也是典型的分治演算法的有應用。二分查詢需要一個預設的前提,那就是查詢的數列是有序的。 
二分查詢的思路比較簡單: 
1) 選擇一個標誌i將集合分為二個子集合 
2) 判斷標誌L(i)是否能與要查詢的值des相等,相等則直接返回 
3) 否則判斷L(i)與des的大小 
4) 基於判斷的結果決定下步是向左查詢還是向右查詢 
5) 遞迴記性上面的步驟

def binarySearch(L,e,low,high):
    if high == low:
        return L[low] == e 
    mid = (low+high)//2
    if L[mid]==e:
        return True
    elif L[mid]>e:
        if low == mid:
            return False
        else:
            return binarySearch(L,e,low, mid-1)
    else:
        return binarySearch(L,e,mid+1,high)

def search(L,e):
    result = binarySearch(L,e,0,len(L)-1)
    print result   

L = range(10);
e = 7

search(L,e)    
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23

九、總結

    分治演算法的一個核心在於子問題的規模大小是否接近,如果接近則演算法效率較高。

    分治演算法和動態規劃都是解決子問題,然後對解進行合併;但是分治演算法是尋找遠小於原問題的子問題(因為對於計算機來說計算小資料的問題還是很快的),同時分治演算法的效率並不一定好,而動態規劃的效率取決於子問題的個數的多少,子問題的個數遠小於子問題的總數的情況下(也就是重複子問題多),演算法才會很高效。