無監督深度

1. 快說下什麼是深度學習的監督學習

每天沉迷於學習，無法自拔，每一次只要稍微鬆懈一點點，內心就會有人不斷的警告，如果你不努力學習的話，那麼所有人都會把你踩在腳下。

2. 現在有沒有直接對低層進行有監督學習的深度學習方法

聽他人說的：無監督與監督學習的區別在於一個無教學值，一個有教學值。但是內，個人認為他們的區別容在於無監督學習一般是採用聚簇等演算法來分類不同樣本。而監督學習一般是利用教學值與實際輸出值產生的誤差，進行誤差反向傳播修改權值來完成網路修正的。但是無監督學習沒有反向傳播修改權值操作，當然這里只是說的是特徵提取階段。

3. 為什麼無監督的預訓練可以幫助深度學習

深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵，以發現數據的分布式特徵表示。
深度學習的概念由Hinton等人於2006年提出。基於深信度網(DBN)提出非監督貪心逐層訓練演算法，為解決深層結構相關的優化難題帶來希望，隨後提出多層自動編碼器深層結構。此外Lecun等人提出的卷積神經網路是第一個真正多層結構學習演算法，它利用空間相對關系減少參數數目以提高訓練性能。
深度學習是機器學習研究中的一個新的領域，其動機在於建立、模擬人腦進行分析學習的神經網路，它模仿人腦的機制來解釋數據，例如圖像，聲音和文本。
同機器學習方法一樣，深度機器學習方法也有監督學習與無監督學習之分．不同的學習框架下建立的學習模型很是不同．例如，卷積神經網路（Convolutional neural networks，簡稱CNNs）就是一種深度的監督學習下的機器學習模型，而深度置信網（Deep Belief Nets，簡稱DBNs）就是一種無監督學習下的機器學習模型。
深度不足會出現問題
在許多情形中深度2就足夠表示任何一個帶有給定目標精度的函數。但是其代價是：圖中所需要的節點數(比如計算和參數數量)可能變的非常大。理論結果證實那些事實上所需要的節點數隨著輸入的大小指數增長的函數族是存在的。
我們可以將深度架構看做一種因子分解。大部分隨機選擇的函數不能被有效地表示，無論是用深的或者淺的架構。但是許多能夠有效地被深度架構表示的卻不能被用淺的架構高效表示。一個緊的和深度的表示的存在意味著在潛在的可被表示的函數中存在某種結構。如果不存在任何結構，那將不可能很好地泛化。
大腦有一個深度架構
例如，視覺皮質得到了很好的研究，並顯示出一系列的區域，在每一個這種區域中包含一個輸入的表示和從一個到另一個的信號流(這里忽略了在一些層次並行路徑上的關聯，因此更復雜)。這個特徵層次的每一層表示在一個不同的抽象層上的輸入，並在層次的更上層有著更多的抽象特徵，他們根據低層特徵定義。
需要注意的是大腦中的表示是在中間緊密分布並且純局部：他們是稀疏的：1%的神經元是同時活動的。給定大量的神經元，仍然有一個非常高效地(指數級高效)表示。
認知過程逐層進行，逐步抽象
人類層次化地組織思想和概念；
人類首先學習簡單的概念，然後用他們去表示更抽象的；
工程師將任務分解成多個抽象層次去處理；
學習/發現這些概念(知識工程由於沒有反省而失敗？)是很美好的。對語言可表達的概念的反省也建議我們一個稀疏的表示：僅所有可能單詞/概念中的一個小的部分是可被應用到一個特別的輸入(一個視覺場景)。
核心思想
把學習結構看作一個網路，則深度學習的核心思路如下：
①無監督學慣用於每一層網路的pre-train；
②每次用無監督學習只訓練一層，將其訓練結果作為其高一層的輸入；
③用自頂而下的監督演算法去調整所有層

4. 有監督和無監督學習都各有哪些有名的演算法和深度學習

• 深度學習

• 編輯

• 深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器回就是一種深度學習結構。深答度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵，以發現數據的分布式特徵表示。[1]

• 深度學習的概念由Hinton等人於2006年提出。基於深度置信網路(DBN)提出非監督貪心逐層訓練演算法，為解決深層結構相關的優化難題帶來希望，隨後提出多層自動編碼器深層結構。此外Lecun等人提出的卷積神經網路是第一個真正多層結構學習演算法，它利用空間相對關系減少參數數目以提高訓練性能。[1]

• 深度學習是機器學習研究中的一個新的領域，其動機在於建立、模擬人腦進行分析學習的神經網路，它模仿人腦的機制來解釋數據，例如圖像，聲音和文本。[2]

5. 非監督深度神經網路有哪些典型結構

我接觸到的有：
1. word2vec，用於把一個詞表示成一個向量
2. RBM和autoencoder，用於pre-training

6. 為什麼說深度學習是無監督學習的一種

聽他人說的抄：無監督與監督學習的區別在於一個無教學值，一個有教學值。但是，個人認為他們的區別在於無監督學習一般是採用聚簇等演算法來分類不同樣本。而監督學習一般是利用教學值與實際輸出值產生的誤差，進行誤差反向傳播修改權值來完成網路修

7. 有監督和無監督學習都各有哪些有名的演算法和深度學習

聽他人說的：無監督與監督學習的區別在於一個無教學值，一個有教學值。但回是，個人認答為他們的區別在於無監督學習一般是採用聚簇等演算法來分類不同樣本。而監督學習一般是利用教學值與實際輸出值產生的誤差，進行誤差反向傳播修改權值來完成網路修正的。但是無監督學習沒有反向傳播修改權值操作，當然這里只是說的是特徵提取階段。

8. 如何正確理解深度學習的概念

深度學習的概念源於人工神經網路的研究。含多隱層的多層感知器就是一種深度學習結構。深度學習通過組合低層特徵形成更加抽象的高層表示屬性類別或特徵，以發現數據的分布式特徵表示。[1]
深度學習的概念由Hinton等人於2006年提出。基於深度置信網路(DBN)提出非監督貪心逐層訓練演算法，為解決深層結構相關的優化難題帶來希望，隨後提出多層自動編碼器深層結構。此外Lecun等人提出的卷積神經網路是第一個真正多層結構學習演算法，它利用空間相對關系減少參數數目以提高訓練性能。[1]
深度學習是機器學習中一種基於對數據進行表徵學習的方法。觀測值（例如一幅圖像）可以使用多種方式來表示，如每個像素強度值的向量，或者更抽象地表示成一系列邊、特定形狀的區域等。而使用某些特定的表示方法更容易從實例中學習任務（例如，人臉識別或面部表情識別）。深度學習的好處是用非監督式或半監督式的特徵學習和分層特徵提取高效演算法來替代手工獲取特徵。
深度學習是機器學習研究中的一個新的領域，其動機在於建立、模擬人腦進行分析學習的神經網路，它模仿人腦的機制來解釋數據，例如圖像，聲音和文本。[2]
同機器學習方法一樣，深度機器學習方法也有監督學習與無監督學習之分．不同的學習框架下建立的學習模型很是不同．例如，卷積神經網路（Convolutional neural networks，簡稱CNNs）就是一種深度的監督學習下的機器學習模型，而深度置信網（Deep Belief Nets，簡稱DBNs）就是一種無監督學習下的機器學習模型。