半監督演算法

㈠ 支持向量機演算法是基於監督的還是基於半監督的

分類作為數據挖掘領域中一項非常重要的任務，它的目的是學會一個分類函數或分類模型(或者叫做分類器)，而支持向量機本身便是一種監督式學習的方法。

引自CSDN：網頁鏈接

㈡ 急求最近鄰演算法的半監督學習演算法對vehicle數據分類的matlab程序

• 嗯嗯嗯
  

㈢ 譜聚類演算法的演算法的新進展

Zha和Dhillon等人研究了基於二分圖G=<X, Y, W>上的譜聚類，發現最小化目標函數可以等同於與二分圖相關聯的邊權重矩陣的奇異值分解。
Meila和Shi將相似性解釋為Markov鏈中的隨機游動，分析了這種隨機游動的概率轉移矩陣P=DW的特徵向量(W為相似度矩陣)，並且利用隨機游動對Ncut進行了概率的解釋，提出了基於隨機游動的新的演算法。同時，在這個解釋框架下提出了多個特徵相似矩陣組合下的譜聚類方法，在圖像分割中取得了很不錯的效果。
Cu等人分析了核k-means的方法，發現最小化核k-means的目標函數等同於一個由數據向量組成的Gram矩陣的跡最大化問題。同時，跡最大化問題的鬆散解可以通過Gram矩陣的部分特徵分解獲得，首次用譜鬆散的方法獲得核k-means的目標函數的全局最優解。Dhillon[29]在此基礎上，又研究了加權核k-means的目標函數，將其與Ncut目標函數建立聯系，提出了一個可以單調遞減Ncut值的新穎的加權核k-means演算法。
Ncut是一個很好的聚類目標函數。它的求解是一個NP難問題。傳統的方法是寬松的譜鬆散方法。Xing與Jordan[分析了對Ncut的半正定規劃(SDP)模型。根據該模型，對Ncut提出了一個比譜鬆散更緊的下限。同時指出了Ncut本身不能得到最優的聚類，但它可以通過不同的鬆散方法獲得合理的聚類。
譜聚類方法不僅用於無監督學習中，也用於有約束的半監督學習中。Kamvar等人將PageRank[32]的隨機游動模型運用到相似度矩陣中，根據已知樣本的類別修正相似度矩陣。然後根據譜聚類演算法獲得聚類結果。Bach與Jordan則是根據一個基於已知劃分與Ncut譜鬆散結果的誤差，提出了新的目標函數，通過最小化新的目標函數推出新的譜聚類演算法。
王玲，薄列峰，焦李成認為在聚類搜索過程中充分利用先驗信息會顯著提高聚類演算法的性能，並分析了在聚類過程中僅利用成對限制信息存在的不足，提出利用數據集本身固有空間一致性先驗信息的具體方法。在經典的譜聚類演算法中同時引入兩類先驗信息的基礎上提出一種密度敏感的半監督譜聚類演算法，兩類先驗信息在指導聚類搜索的過程中能夠起到相輔相成的作用，使得演算法相對於僅利用成對限制信息的聚類演算法在聚類性能上有了顯著的提高。
王娜，李霞提出了一種基於監督信息特性的主動學習策略，找出同一類中距離相對較遠的數據對象對和不同類中距離相對較近的數據對象對組成監督信息並將其引入譜聚類演算法，構建新穎的主動半監督譜聚類演算法，結果優於採用隨機選取監督信息的譜聚類性能。

㈣ 如何將監督學習演算法應用到無監督學習上

這時有人可能會想，難道有監督學習和無監督學習就是非黑即白的關系嗎？有沒有灰呢？Good idea。灰是存在的。二者的中間帶就是半監督學習（semi-supervised learning）。對於半監督學習，其訓練數據的一部分是有標簽的，另一部分沒有標簽，而沒標簽數據的數量常常極大於有標簽數據數量（這也是符合現實情況的）。隱藏在半監督學習下的基本規律在於：數據的分布必然不是完全隨機的，通過一些有標簽數據的局部特徵，以及更多沒標簽數據的整體分布，就可以得到可以接受甚至是非常好的分類結果

㈤ 如何理解半監督的樸素貝葉斯分類演算法

為了測試評估貝葉斯分類器的性能,用不同數據集進行對比實驗是必不可少的. 現有的回貝葉斯網路實驗軟體包答都是針對特定目的設計的,不能滿足不同研究的需要. 介紹了用Matlab在BNT軟體包基礎上建構的貝葉斯分類器實驗平台MBNC,闡述了MBNC的系統結構和主要功能,以及在MBNC上建立的樸素貝葉斯分類器NBC,基於互信息和條件互信息測度的樹擴展的貝葉斯分類器TANC,基於K2演算法和GS演算法的貝葉斯網路分類器BNC. 用來自UCI的標准數據集對MBNC進行測試,實驗結果表明基於MBNC所建構的貝葉斯分類器的性能優於國外同類工作的結果,編程量大大小於使用同類的實驗軟體包,所建立的MBNC實驗平台工作正確、有效、穩定. 在MBNC上已經進行貝葉斯分類器的優化和改進實驗,以及處理缺失數據等研究工作

㈥ 適合於多分類的半監督學習演算法有哪些

樸素貝葉斯(Naive Bayes, NB)
超級簡單，就像做一些數數的工作。如果條件獨立假設成立的話，NB將比鑒別模型（如Logistic回歸）收斂的更快，所以你只需要少量的訓練數據。即使條件獨立假設不成立，NB在實際中仍然表現出驚人的好。如果你想做類似半監督學習，或者是既要模型簡單又要性能好，NB值得嘗試。

Logistic回歸(Logistic Regression, LR)
LR有很多方法來對模型正則化。比起NB的條件獨立性假設，LR不需要考慮樣本是否是相關的。與決策樹與支持向量機（SVM）不同，NB有很好的概率解釋，且很容易利用新的訓練數據來更新模型（使用在線梯度下降法）。如果你想要一些概率信息（如，為了更容易的調整分類閾值，得到分類的不確定性，得到置信區間），或者希望將來有更多數據時能方便的更新改進模型，LR是值得使用的。

決策樹（Decision Tree, DT）
DT容易理解與解釋（對某些人而言——不確定我是否也在他們其中）。DT是非參數的，所以你不需要擔心野點（或離群點）和數據是否線性可分的問題（例如，DT可以輕松的處理這種情況：屬於A類的樣本的特徵x取值往往非常小或者非常大，而屬於B類的樣本的特徵x取值在中間范圍）。DT的主要缺點是容易過擬合，這也正是隨機森林（Random Forest, RF）（或者Boosted樹）等集成學習演算法被提出來的原因。此外，RF在很多分類問題中經常表現得最好（我個人相信一般比SVM稍好），且速度快可擴展，也不像SVM那樣需要調整大量的參數，所以最近RF是一個非常流行的演算法。

支持向量機（Support Vector Machine, SVM）
很高的分類正確率，對過擬合有很好的理論保證，選取合適的核函數，面對特徵線性不可分的問題也可以表現得很好。SVM在維數通常很高的文本分類中非常的流行。由於較大的內存需求和繁瑣的調參，我認為RF已經開始威脅其地位了。

回到LR與DT的問題（我更傾向是LR與RF的問題），做個簡單的總結：兩種方法都很快且可擴展。在正確率方面，RF比LR更優。但是LR可以在線更新且提供有用的概率信息。鑒於你在Square(不確定推斷科學家是什麼，應該不是有趣的化身)，可能從事欺詐檢測：如果你想快速的調整閾值來改變假陽性率與假陰性率，分類結果中包含概率信息將很有幫助。無論你選擇什麼演算法，如果你的各類樣本數量是不均衡的（在欺詐檢測中經常發生），你需要重新采樣各類數據或者調整你的誤差度量方法來使各類更均衡。

㈦ 演算法有哪些分類

（一）基本演算法 : 1.枚舉 2.搜索: 深度優先搜索 廣度優先搜索 啟發式搜索 遺傳演算法 （二）數據結構的演算法 （三）數論與代數演算法 （四）計算幾何的演算法：求凸包 （五）圖論 演算法： 1.哈夫曼編碼 2.樹的遍歷 3.最短路徑 演算法 4.最小生成樹 演算法 5.最小樹形圖 6.網路流 演算法 7.匹配演算法 （六）動態規劃 （七）其他： 1.數值分析 2.加密演算法 3.排序 演算法 4.檢索演算法 5.隨機化演算法

㈧ 監督學習 非監督學習 半監督學習 包含哪些演算法

半監督學習(Semi-Supervised Learning，SSL)是模式識別和機器學習領域研究的重點問題，是監督學習與無監督學習相結合的一種學習方法。半監督學習使用大量的未標記數據，以及同時使用標記數據，來進行模式識別工作。當使用半監督學習時，將會要求盡量少的人員來從事工作，同時，又能夠帶來比較高的准確性，因此，半監督學習目前正越來越受到人們的重視。

㈨ 國內研究半監督學習演算法的牛人有哪些

南大周志華

㈩ 求助如何使用libsvm實現半監督支持向量機演算法

SVM有如下主要幾個特點：
（1）非線性映射是SVM方法的理論基礎，SVM利用內積核函專數代替屬向高維空間的非線性映射；
（2）對特徵空間劃分的最優超平面是SVM的目標，最大化分類邊際的思想是SVM方法的核心；
（3）支持向量是SVM的訓練結果，在SVM分類決策中起決定作用的是支持向量。
（4）SVM 是一種有堅實理論基礎的新穎的小樣本學習方法。它基本上不涉及概率測度及大數定律等，因此不同於現有的統計方法。從本質上看，它避開了從歸納到演繹的傳統過程，實現了高效的從訓練樣本到預報樣本的「轉導推理」，大大簡化了通常的分類和回歸等問題