算法一

快速排序算法

快速排序是由東尼·霍爾所發(fā)展的一種排序算法。在平均狀況下，排序 n 個(gè)項目要Ο（n log n）次比較。在最壞狀況下則需要Ο（n2）次比較，但這種狀況并不常見(jiàn)。事實(shí)上，快速排序通常明顯比其他Ο（n log n） 算法更快，因為它的內部循環(huán)（inner loop）可以在大部分的架構上很有效率地被實(shí)現出來(lái)。

快速排序使用分治法（Divide and conquer）策略來(lái)把一個(gè)串行（list）分為兩個(gè)子串行（sub-lists）。

算法步驟：

1 從數列中挑出一個(gè)元素，稱(chēng)為 “基準”（pivot），

2 重新排序數列，所有元素比基準值小的擺放在基準前面，所有元素比基準值大的擺在基準的后面（相同的數可以到任一邊）。在這個(gè)分區退出之后，該基準就處于數列的中間位置。這個(gè)稱(chēng)為分區（partition）操作。

3 遞歸地（recursive）把小于基準值元素的子數列和大于基準值元素的子數列排序。

遞歸的最底部情形，是數列的大小是零或一，也就是永遠都已經(jīng)被排序好了。雖然一直遞歸下去，但是這個(gè)算法總會(huì )退出，因為在每次的迭代（iteration）中，它至少會(huì )把一個(gè)元素擺到它最后的位置去。

算法二

堆排序算法

堆排序（Heapsort）是指利用堆這種數據結構所設計的一種排序算法。堆積是一個(gè)近似完全二叉樹(shù)的結構，并同時(shí)滿(mǎn)足堆積的性質(zhì)：即子結點(diǎn)的鍵值或索引總是小于（或者大于）它的父節點(diǎn)。

堆排序的平均時(shí)間復雜度為Ο（nlogn） 。

算法步驟：

1. 創(chuàng )建一個(gè)堆H[0n-1]

2. 把堆首（最大值）和堆尾互換

3. 把堆的尺寸縮小1，并調用shift_down（0），目的是把新的數組頂端數據調整到相應位置

4. 重復步驟2，直到堆的尺寸為1

算法三

歸并排序

歸并排序（Merge sort，臺灣譯作：合并排序）是建立在歸并操作上的一種有效的排序算法。該算法是采用分治法（Divide and Conquer）的一個(gè)非常典型的應用。

算法步驟：

1. 申請空間，使其大小為兩個(gè)已經(jīng)排序序列之和，該空間用來(lái)存放合并后的序列

2. 設定兩個(gè)指針，最初位置分別為兩個(gè)已經(jīng)排序序列的起始位置

3. 比較兩個(gè)指針所指向的元素，選擇相對小的元素放入到合并空間，并移動(dòng)指針到下一位置

4. 重復步驟3直到某一指針達到序列尾

5. 將另一序列剩下的所有元素直接復制到合并序列尾

算法四

二分查找算法

二分查找算法是一種在有序數組中查找某一特定元素的搜索算法。搜素過(guò)程從數組的中間元素開(kāi)始，如果中間元素正好是要查找的元素，則搜 素過(guò)程結束；如果某一特定元素大于或者小于中間元素，則在數組大于或小于中間元素的那一半中查找，而且跟開(kāi)始一樣從中間元素開(kāi)始比較。如果在某一步驟數組 為空，則代表找不到。這種搜索算法每一次比較都使搜索范圍縮小一半。折半搜索每次把搜索區域減少一半，時(shí)間復雜度為Ο（logn） 。

算法五

BFPRT（線(xiàn)性查找算法）

BFPRT算法解決的問(wèn)題十分經(jīng)典，即從某n個(gè)元素的序列中選出第k大（第k?。┑脑?，通過(guò)巧妙的分 析，BFPRT可以保證在最壞情況下仍為線(xiàn)性時(shí)間復雜度。該算法的思想與快速排序思想相似，當然，為使得算法在最壞情況下，依然能達到o（n）的時(shí)間復雜 度，五位算法作者做了精妙的處理。

算法步驟：

1. 將n個(gè)元素每5個(gè)一組，分成n/5（上界）組。

2. 取出每一組的中位數，任意排序方法，比如插入排序。

3. 遞歸的調用selection算法查找上一步中所有中位數的中位數，設為x，偶數個(gè)中位數的情況下設定為選取中間小的一個(gè)。

4. 用x來(lái)分割數組，設小于等于x的個(gè)數為k，大于x的個(gè)數即為n-k。

5. 若i==k，返回x；若ik，在大于x的元素中遞歸查找第i-k小的元素。

終止條件：n=1時(shí)，返回的即是i小元素。

算法六

DFS（深度優(yōu)先搜索）

深度優(yōu)先搜索算法（Depth-First-Search），是搜索算法的一種。它沿著(zhù)樹(shù)的深度遍歷樹(shù)的節點(diǎn)，盡可能深的搜索樹(shù)的分 支。當節點(diǎn)v的所有邊都己被探尋過(guò)，搜索將回溯到發(fā)現節點(diǎn)v的那條邊的起始節點(diǎn)。這一過(guò)程一直進(jìn)行到已發(fā)現從源節點(diǎn)可達的所有節點(diǎn)為止。如果還存在未被發(fā) 現的節點(diǎn)，則選擇其中一個(gè)作為源節點(diǎn)并重復以上過(guò)程，整個(gè)進(jìn)程反復進(jìn)行直到所有節點(diǎn)都被訪(fǎng)問(wèn)為止。DFS屬于盲目搜索。

深度優(yōu)先搜索是圖論中的經(jīng)典算法，利用深度優(yōu)先搜索算法可以產(chǎn)生目標圖的相應拓撲排序表，利用拓撲排序表可以方便的解決很多相關(guān)的圖論問(wèn)題，如最大路徑問(wèn)題等等。一般用堆數據結構來(lái)輔助實(shí)現DFS算法。

深度優(yōu)先遍歷圖算法步驟：

1. 訪(fǎng)問(wèn)頂點(diǎn)v；

2. 依次從v的未被訪(fǎng)問(wèn)的鄰接點(diǎn)出發(fā)，對圖進(jìn)行深度優(yōu)先遍歷；直至圖中和v有路徑相通的頂點(diǎn)都被訪(fǎng)問(wèn)；

3. 若此時(shí)圖中尚有頂點(diǎn)未被訪(fǎng)問(wèn)，則從一個(gè)未被訪(fǎng)問(wèn)的頂點(diǎn)出發(fā)，重新進(jìn)行深度優(yōu)先遍歷，直到圖中所有頂點(diǎn)均被訪(fǎng)問(wèn)過(guò)為止。

上述描述可能比較抽象，舉個(gè)實(shí)例：

DFS 在訪(fǎng)問(wèn)圖中某一起始頂點(diǎn) v 后，由 v 出發(fā)，訪(fǎng)問(wèn)它的任一鄰接頂點(diǎn) w1；再從 w1 出發(fā)，訪(fǎng)問(wèn)與 w1鄰 接但還沒(méi)有訪(fǎng)問(wèn)過(guò)的頂點(diǎn) w2；然后再從 w2 出發(fā)，進(jìn)行類(lèi)似的訪(fǎng)問(wèn)，… 如此進(jìn)行下去，直至到達所有的鄰接頂點(diǎn)都被訪(fǎng)問(wèn)過(guò)的頂點(diǎn) u 為止。

接著(zhù)，退回一步，退到前一次剛訪(fǎng)問(wèn)過(guò)的頂點(diǎn)，看是否還有其它沒(méi)有被訪(fǎng)問(wèn)的鄰接頂點(diǎn)。如果有，則訪(fǎng)問(wèn)此頂點(diǎn)，之后再從此頂點(diǎn)出發(fā)，進(jìn)行與前述類(lèi)似的訪(fǎng)問(wèn)；如果沒(méi)有，就再退回一步進(jìn)行搜索。重復上述過(guò)程，直到連通圖中所有頂點(diǎn)都被訪(fǎng)問(wèn)過(guò)為止。

算法七

BFS（廣度優(yōu)先搜索）

廣度優(yōu)先搜索算法（Breadth-First-Search），是一種圖形搜索算法。簡(jiǎn)單的說(shuō)，BFS是從根節點(diǎn)開(kāi)始，沿著(zhù)樹(shù)（圖）的寬度遍歷樹(shù)（圖）的節點(diǎn)。如果所有節點(diǎn)均被訪(fǎng)問(wèn)，則算法中止。BFS同樣屬于盲目搜索。一般用隊列數據結構來(lái)輔助實(shí)現BFS算法。

算法步驟：

1. 首先將根節點(diǎn)放入隊列中。

2. 從隊列中取出第一個(gè)節點(diǎn)，并檢驗它是否為目標。

如果找到目標，則結束搜尋并回傳結果。

否則將它所有尚未檢驗過(guò)的直接子節點(diǎn)加入隊列中。

3. 若隊列為空，表示整張圖都檢查過(guò)了——亦即圖中沒(méi)有欲搜尋的目標。結束搜尋并回傳“找不到目標”。

4. 重復步驟2。

算法八

Dijkstra算法

戴克斯特拉算法（Dijkstra's algorithm）是由荷蘭計算機科學(xué)家艾茲赫爾·戴克斯特拉提出。迪科斯徹算法使用了廣度優(yōu)先搜索解決非負權有向圖的單源最短路徑問(wèn)題，算法最終得到一個(gè)最短路徑樹(shù)。該算法常用于路由算法或者作為其他圖算法的一個(gè)子模塊。

該算法的輸入包含了一個(gè)有權重的有向圖 G，以及G中的一個(gè)來(lái)源頂點(diǎn) S。我們以 V 表示 G 中所有頂點(diǎn)的集合。每一個(gè)圖中的邊，都是兩個(gè)頂點(diǎn)所形成的有序元素對。（u, v） 表示從頂點(diǎn) u 到 v 有路徑相連。我們以 E 表示G中所有邊的集合，而邊的權重則由權重函數 w: E → [0, ∞] 定義。因此，w（u, v） 就是從頂點(diǎn) u 到頂點(diǎn) v 的非負權重（weight）。邊的權重可以想像成兩個(gè)頂點(diǎn)之間的距離。任兩點(diǎn)間路徑的權重，就是該路徑上所有邊的權重總和。已知有 V 中有頂點(diǎn) s 及 t，Dijkstra 算法可以找到 s 到 t的最低權重路徑（例如，最短路徑）。這個(gè)算法也可以在一個(gè)圖中，找到從一個(gè)頂點(diǎn) s 到任何其他頂點(diǎn)的最短路徑。對于不含負權的有向圖，Dijkstra算法是目前已知的最快的單源最短路徑算法。

算法步驟：

1. 初始時(shí)令 S={V0},T={其余頂點(diǎn)}，T中頂點(diǎn)對應的距離值

若存在，d（V0,Vi）為弧上的權值

若不存在，d（V0,Vi）為∞

2. 從T中選取一個(gè)其距離值為最小的頂點(diǎn)W且不在S中，加入S

3. 對其余T中頂點(diǎn)的距離值進(jìn)行修改：若加進(jìn)W作中間頂點(diǎn)，從V0到Vi的距離值縮短，則修改此距離值

重復上述步驟2、3，直到S中包含所有頂點(diǎn)，即W=Vi為止

算法九

動(dòng)態(tài)規劃算法

動(dòng)態(tài)規劃（Dynamic programming）是一種在數學(xué)、計算機科學(xué)和經(jīng)濟學(xué)中使用的，通過(guò)把原問(wèn)題分解為相對簡(jiǎn)單的子問(wèn)題的方式求解復雜問(wèn)題的方法。 動(dòng)態(tài)規劃常常適用于有重疊子問(wèn)題和最優(yōu)子結構性質(zhì)的問(wèn)題，動(dòng)態(tài)規劃方法所耗時(shí)間往往遠少于樸素解法。

動(dòng)態(tài)規劃背后的基本思想非常簡(jiǎn)單。大致上，若要解一個(gè)給定問(wèn)題，我們需要解其不同部分（即子問(wèn)題），再合并子問(wèn)題的解以得出原問(wèn)題的解。 通常許多 子問(wèn)題非常相似，為此動(dòng)態(tài)規劃法試圖僅僅解決每個(gè)子問(wèn)題一次，從而減少計算量： 一旦某個(gè)給定子問(wèn)題的解已經(jīng)算出，則將其記憶化存儲，以便下次需要同一個(gè) 子問(wèn)題解之時(shí)直接查表。 這種做法在重復子問(wèn)題的數目關(guān)于輸入的規模呈指數增長(cháng)時(shí)特別有用。

關(guān)于動(dòng)態(tài)規劃最經(jīng)典的問(wèn)題當屬背包問(wèn)題。

算法步驟：

1. 最優(yōu)子結構性質(zhì)。如果問(wèn)題的最優(yōu)解所包含的子問(wèn)題的解也是最優(yōu)的，我們就稱(chēng)該問(wèn)題具有最優(yōu)子結構性質(zhì)（即滿(mǎn)足最優(yōu)化原理）。最優(yōu)子結構性質(zhì)為動(dòng)態(tài)規劃算法解決問(wèn)題提供了重要線(xiàn)索。

2. 子問(wèn)題重疊性質(zhì)。子問(wèn)題重疊性質(zhì)是指在用遞歸算法自頂向下對問(wèn)題進(jìn)行求解時(shí)，每次產(chǎn)生的子問(wèn)題并不總是新問(wèn)題，有些子問(wèn)題會(huì )被重復計算多次。 動(dòng)態(tài)規劃算法正是利用了這種子問(wèn)題的重疊性質(zhì)，對每一個(gè)子問(wèn)題只計算一次，然后將其計算結果保存在一個(gè)表格中，當再次需要計算已經(jīng)計算過(guò)的子問(wèn)題時(shí)，只是 在表格中簡(jiǎn)單地查看一下結果，從而獲得較高的效率。

算法十

樸素貝葉斯分類(lèi)算法

樸素貝葉斯分類(lèi)算法是一種基于貝葉斯定理的簡(jiǎn)單概率分類(lèi)算法。貝葉斯分類(lèi)的基礎是概率推理，就是在各種條件的存在不確定，僅知其出現概率的情況下， 如何完成推理和決策任務(wù)。概率推理是與確定性推理相對應的。而樸素貝葉斯分類(lèi)器是基于獨立假設的，即假設樣本每個(gè)特征與其他特征都不相關(guān)。

樸素貝葉斯分類(lèi)器依靠精確的自然概率模型，在有監督學(xué)習的樣本集中能獲取得非常好的分類(lèi)效果。在許多實(shí)際應用中，樸素貝葉斯模型參數估計使用最大似然估計方法，換言之樸素貝葉斯模型能工作并沒(méi)有用到貝葉斯概率或者任何貝葉斯模型。

盡管是帶著(zhù)這些樸素思想和過(guò)于簡(jiǎn)單化的假設，但樸素貝葉斯分類(lèi)器在很多復雜的現實(shí)情形中仍能夠取得相當好的效果。