類神經網路 工工管所 張志偉  9533811 2006/9/15
分類 監督式學習網路  (Supervised learning network) 有輸入變數 , 也有輸出變數 探討輸入變數與輸出變數間的內在對映規則 應用到新的案例 無監督式學習網路  (Unsupervised learning network) 只有輸入變數 從中學習範例的內在聚類規則 應用到新的案例 聚類的應用 聯想式學習網路  (Associate learning network) 狀態變數值 只有不完整的狀態變數值 , 而需推論其完整的狀態數值的應用 最適化應用網路  (Optimization application network) 除了學習以外的應用  最適化 此類應用的網路架構大都與聯想式學習網路的架構相似
分類 監督式學習網路  (Supervised learning network) 感知機網路  (Perceptron) 倒傳遞網路  (Back-Propagation Network, BPN) 機率神經網路  (Probabilistic Neural Network, PNN) 學習向量量化網路  (Learning Vector Quantization, LVQ) 反傳遞網路  (Counter-Propagation Network, CPN) 無監督式學習網路  (Unsupervised learning network) 自組織映射圖網路  (Self-Organizing Map, SOM) 自適應共振理論網路  (Adaptive Resonance Theory Network, ART) 聯想式學習網路  (Associate learning network) 霍普菲爾網路  (Hopfield Neural Network, HNN) 雙向聯想記憶網路  (Bi-directional Associative Memory, BAM) 最適化應用網路  (Optimization application network) 霍普菲爾 – 坦克網路  (Hopfield-Tank Neural Network, HTN) 退火神經網路  (Annealed Neural Network, ANN)
類神經網路 – 如何運作 學習過程  (Learning) 網路依學習演算法 , 從範例中學習 , 以調整網路連結加權值的過程 監督式 , 無監督式 , 聯想式學習屬之 回想過程  (Recalling) 網路依回想演算法 , 以輸入資料決定網路輸出資料的過程 監督式 , 無監督式 , 聯想式回想屬之
類神經網路的運作 訓練範例  (Training examples) 網路學習過程所使用的範例 , 網路藉此調整網路連結加權值    利用範例學習 ( 建立模式 ) 測試案例  (Testing examples) 網路學習過程進行中 , 或完成後 , 用以評估網路學習成果所使用的範例 , 其形式與訓練範例相同。測試範例和訓練範例之差異在於前者只用回想演算法得到推論輸出值,並與目標輸出值比較,以評估網路學習精確度。    測試所學習的結果 ( 驗證模式 ) 待推案例 網路學習過程完成後,可用網路推論待推案例的結果。待推案例與測試範例的差異在於前沒有目標輸出變數項向量。    模式確立後應用在新的案例
類神經網路的運作 未學習網路 訓練範例 學習演算法 已學習網路 + + 產生 加權值 已學習網路 測試範例 回想演算法 已學習網路 + + 評估 精度 已學習網路 待推範例 回想演算法 待推案例 + + 推論 推論輸出值
類神經網路的應用 監督式學習網路  (Supervised learning network) 分類 ( 診斷、決策 )  、預測 ( 函數合成 )  。在 NN 中約佔 95% ,包括汽車引擎診斷、製程控制、礦床探測訊號分析、股價預測等。 無監督式學習網路  (Unsupervised learning network) 聚類 聯想式學習網路  (Associate learning network) 雜訊過濾、資料擷取 最適化應用網路  (Optimization application network) 設計、排程

A brieft introduction of Neural Network

  • 1.
  • 2.
    分類 監督式學習網路 (Supervised learning network) 有輸入變數 , 也有輸出變數 探討輸入變數與輸出變數間的內在對映規則 應用到新的案例 無監督式學習網路 (Unsupervised learning network) 只有輸入變數 從中學習範例的內在聚類規則 應用到新的案例 聚類的應用 聯想式學習網路 (Associate learning network) 狀態變數值 只有不完整的狀態變數值 , 而需推論其完整的狀態數值的應用 最適化應用網路 (Optimization application network) 除了學習以外的應用  最適化 此類應用的網路架構大都與聯想式學習網路的架構相似
  • 3.
    分類 監督式學習網路 (Supervised learning network) 感知機網路 (Perceptron) 倒傳遞網路 (Back-Propagation Network, BPN) 機率神經網路 (Probabilistic Neural Network, PNN) 學習向量量化網路 (Learning Vector Quantization, LVQ) 反傳遞網路 (Counter-Propagation Network, CPN) 無監督式學習網路 (Unsupervised learning network) 自組織映射圖網路 (Self-Organizing Map, SOM) 自適應共振理論網路 (Adaptive Resonance Theory Network, ART) 聯想式學習網路 (Associate learning network) 霍普菲爾網路 (Hopfield Neural Network, HNN) 雙向聯想記憶網路 (Bi-directional Associative Memory, BAM) 最適化應用網路 (Optimization application network) 霍普菲爾 – 坦克網路 (Hopfield-Tank Neural Network, HTN) 退火神經網路 (Annealed Neural Network, ANN)
  • 4.
    類神經網路 – 如何運作學習過程 (Learning) 網路依學習演算法 , 從範例中學習 , 以調整網路連結加權值的過程 監督式 , 無監督式 , 聯想式學習屬之 回想過程 (Recalling) 網路依回想演算法 , 以輸入資料決定網路輸出資料的過程 監督式 , 無監督式 , 聯想式回想屬之
  • 5.
    類神經網路的運作 訓練範例 (Training examples) 網路學習過程所使用的範例 , 網路藉此調整網路連結加權值  利用範例學習 ( 建立模式 ) 測試案例 (Testing examples) 網路學習過程進行中 , 或完成後 , 用以評估網路學習成果所使用的範例 , 其形式與訓練範例相同。測試範例和訓練範例之差異在於前者只用回想演算法得到推論輸出值,並與目標輸出值比較,以評估網路學習精確度。  測試所學習的結果 ( 驗證模式 ) 待推案例 網路學習過程完成後,可用網路推論待推案例的結果。待推案例與測試範例的差異在於前沒有目標輸出變數項向量。  模式確立後應用在新的案例
  • 6.
    類神經網路的運作 未學習網路 訓練範例學習演算法 已學習網路 + + 產生 加權值 已學習網路 測試範例 回想演算法 已學習網路 + + 評估 精度 已學習網路 待推範例 回想演算法 待推案例 + + 推論 推論輸出值
  • 7.
    類神經網路的應用 監督式學習網路 (Supervised learning network) 分類 ( 診斷、決策 ) 、預測 ( 函數合成 ) 。在 NN 中約佔 95% ,包括汽車引擎診斷、製程控制、礦床探測訊號分析、股價預測等。 無監督式學習網路 (Unsupervised learning network) 聚類 聯想式學習網路 (Associate learning network) 雜訊過濾、資料擷取 最適化應用網路 (Optimization application network) 設計、排程