《神經網絡工具箱簡介和函數與示例》由會員分享，可在線閱讀，更多相關《神經網絡工具箱簡介和函數與示例（24頁珍藏版）》請在人人文庫網上搜索。
1、神經網絡工具箱簡介和函數與示例第十一章第十一章 神經網絡工具神經網絡工具箱函數箱函數的神經網絡工具箱簡介的神經網絡工具箱簡介l 構造典型神經網絡的激活函數，使設計者對所選構造典型神經網絡的激活函數，使設計者對所選網絡輸出的計算變成對激活函數的調用。網絡輸出的計算變成對激活函數的調用。l 根據各種典型的修正網絡權值的規則，再加上網根據各種典型的修正網絡權值的規則，再加上網絡的訓練過程，利用絡的訓練過程，利用編寫各種網絡設計和訓練編寫各種網絡設計和訓練的子程序。的子程序。l 設計人員可以根據自己的需要去調用工具箱中有設計人員可以根據自己的需要去調用工
2、具箱中有關的設計和訓練程序，將自己從繁瑣的編程中解脫出關的設計和訓練程序，將自己從繁瑣的編程中解脫出來，提高工作效率。來，提高工作效率。神經網絡工具箱函數神經網絡工具箱函數l 神經網絡函數神經網絡函數l 權值函數權值函數l 網絡的輸入函數網絡的輸入函數l 傳遞函數傳遞函數l 初始化函數初始化函數l 性能函數性能函數l 學習函數學習函數l 自適應函數自適應函數l 訓練函數訓練函數神經網絡函數神經網絡函數功能：功能： a feed- 格式：格式： net = newff(PR,S1 S2.SNl,TF1.
3、TFNl,BTF,BLF,PF)例子例子1:1: help newff help newff 以一個單隱層的以一個單隱層的BP網絡設計為例，介紹利用神經網絡設計為例，介紹利用神經網絡工具箱進行網絡工具箱進行BP網絡設計及分析的過程網絡設計及分析的過程1. 問題描述問題描述P=-1:0.1:1;T=-0.9602 -0.577 -0.0729 0.3771 0.6405 0.6600 0.4609 0.1336 -0.2013 -0.4344 -0.5000 -0.3930 -0.1647 0.0988 0.3072 0.3960 0.3449 0.1816 -0.0312 -0.2189 -0
4、.3201; 通過對函數進行采樣得到了網絡的輸入變通過對函數進行采樣得到了網絡的輸入變量量P和目標變量和目標變量T：例子例子2:2:設計一個隱含層神經元數目神經元個數設計一個隱含層神經元數目神經元個數2. 網絡的設計網絡的設計 網絡的輸入層和輸出層的神經元個數均為網絡的輸入層和輸出層的神經元個數均為1，網，網絡的隱含神經元個數應該在絡的隱含神經元個數應該在38之間。之間。網絡設計及運行的代碼：網絡設計及運行的代碼：s=3:8;res=1:6;for i=1:6; net=newff((P),s(i) 1, ,); net.
5、.=2000; net..goal=0.001; net=train(net,P,T) y=sim(net,P) error=y-T; res(i)=norm(error);end代碼運行結果：代碼運行結果：網絡訓練誤差網絡訓練誤差結論：隱含層節點設為結論：隱含層節點設為8 BPBP網絡訓練步驟網絡訓練步驟步驟步驟1: 初始化初始化步驟步驟2:計算網絡各層輸出矢量計算網絡各層輸出矢量步驟步驟3:計算網絡各層反向傳播的誤差變化計算網絡各層反向傳播的誤差變化,并計算各并計算各 層權值的修正值及修正值層權值的修正值及修正值步驟步驟4:再次計算權值修正后的誤差再次計算權
6、值修正后的誤差 平方和平方和步驟步驟5:檢查誤差檢查誤差 平方和是否小于平方和是否小于 誤差期望值誤差期望值,若是若是,停止訓練停止訓練,否則繼續否則繼續. 目前，神經網絡工具箱中提供的神經網絡模型主目前，神經網絡工具箱中提供的神經網絡模型主要應用于：要應用于：l 函數逼近和模型擬合函數逼近和模型擬合l 信息處理和預測信息處理和預測l 神經網絡控制神經網絡控制l 故障診斷故障診斷神經網絡實現的具體操作過程：神經網絡實現的具體操作過程：確定信息表達方式；確定信息表達方式；網絡模型的確定；網絡模型的確定；網絡參數的選擇；網絡參數的選擇；訓練模式的確定；訓練模式的確定；網絡測試網絡測試確定信息表達方
7、式：確定信息表達方式： 將領域問題抽象為適合于網絡求解所能接受的將領域問題抽象為適合于網絡求解所能接受的某種數據形式。某種數據形式。 問題形式的種類：問題形式的種類：l 數據樣本已知；數據樣本已知；l 數據樣本之間相互關系不明確；數據樣本之間相互關系不明確；l 輸入輸入/輸出模式為連續的或者離散的；輸出模式為連續的或者離散的；l 輸入數據按照模式進行分類，模式可能會具輸入數據按照模式進行分類，模式可能會具有平移、旋轉或者伸縮等變化形式；有平移、旋轉或者伸縮等變化形式；l 數據樣本的預處理；數據樣本的預處理；l 將數據樣本分為訓練樣本和測試樣本將數據樣本分為訓練樣本和測試樣本網絡模型的確定網絡模
8、型的確定 主要是根據問題的實際情況，選擇模型的類主要是根據問題的實際情況，選擇模型的類型、結構等。另外，還可以在典型網絡模型的基型、結構等。另外，還可以在典型網絡模型的基礎上，結合問題的具體情況，對原網絡進行變形、礎上，結合問題的具體情況，對原網絡進行變形、擴充等，同時還可以采用多種網絡模型的組合形擴充等，同時還可以采用多種網絡模型的組合形式。式。網絡參數的選擇網絡參數的選擇 確定網絡的輸入輸出神經元的數目，如果是確定網絡的輸入輸出神經元的數目，如果是多層網絡，還需要進一步確定隱含層神經元的個多層網絡，還需要進一步確定隱含層神經元的個數。數。訓練模式的確定訓練模式的確定 包括選擇合理的測試樣本
9、，對網絡進行測包括選擇合理的測試樣本，對網絡進行測試、或者將網絡應用于實際問題，檢驗網絡性試、或者將網絡應用于實際問題，檢驗網絡性能。能。網絡測試網絡測試 選擇合理的測試樣本，對網絡進行測試，選擇合理的測試樣本，對網絡進行測試，或者將網絡應用于實際問題，檢驗網絡性能。或者將網絡應用于實際問題，檢驗網絡性能。的神經網絡工具箱函數的神經網絡工具箱函數函數類型函數類型函數名函數名稱稱函數用途函數用途仿真函數仿真函數SIM針對給定的輸入，得到網絡輸出訓練函數訓練函數train調用其它訓練函數，對網絡進行訓練對權值和閾值進行訓練adapt自適應函數學習函數learn網
10、絡權值和閾值的學習初始化函數int對網絡進行初始化對多層網絡初始化通用函數通用函數函數類型函數類型函數名函數名稱稱函數用途函數用途輸入函數輸入函數輸入求和函數輸入求積函數 使權值向量和閾值向量的結構一致其它權值求積函數BPBP網絡的神經網絡工具箱函數網絡的神經網絡工具箱函數函數類型函數類型函數名稱函數名稱 函數用途函數用途前向網絡創建函數 傳遞函數學習函數函數類型函數類型函數名函數名稱稱函數用途函數用途性能函數性能函數顯示函數一、一、BP網絡創建函數網絡創建函數 1）newcf 用于創建級聯前向用于創建級聯前向BP網絡網絡調用格式
11、：調用格式：net=newcf net=newcf（PR,S1 S2.SN,TF1 TF2.TFN,BTF,BLF,PF）PR:由每組輸入（共有由每組輸入（共有R組輸入）元素的最大值和最小值組輸入）元素的最大值和最小值組成的組成的R*2維的矩陣維的矩陣Si：第：第i層的長度，共計層的長度，共計N層；層； TFi：第：第i層的傳遞函數，默認為層的傳遞函數神經網絡工具箱有哪些，默認為“”BTF：BP網絡的訓練函數，默認為網絡的訓練函數，默認為“”BLF：權值和閾值的：權值和閾值的BP學習算法，默認為學習算法，默認為 PF：網絡的性能函數，默認為：網絡的性能函數，默認為“mse
12、”l 參數參數TFi可以采用任意的可微傳遞函數，比如可以采用任意的可微傳遞函數，比如，和和等；等；l 訓練函數可以是任意的訓練函數可以是任意的BP訓練函數，如訓練函數，如，，和和等。等。BTF默認采用默認采用是因為函數的速度是因為函數的速度很快，但該函數的一個重要缺陷是運行過程會消耗大量的內很快，但該函數的一個重要缺陷是運行過程會消耗大量的內存資源。如果計算機內存不夠大，不建議用存資源。如果計算機內存不夠大，不建議用，而建議，而建議采用訓練函數采用訓練函數
13、或或。雖然這兩個函數的運行速度。雖然這兩個函數的運行速度比較慢，但它們的共同特點是內存占用量小，不至于出現訓比較慢，但它們的共同特點是內存占用量小，不至于出現訓練過程死機的情況。練過程死機的情況。說明：說明：二、神經元上的傳遞函數二、神經元上的傳遞函數 傳遞函數是傳遞函數是BP網絡的重要組成部分，必須是連續可網絡的重要組成部分，必須是連續可微的，微的，BP網絡常采用網絡常采用S型的對數或正切函數和線性函數。型的對數或正切函數和線性函數。 傳遞函數為傳遞函數為S型的對數函數。型的對數函數。調用格式為：調用格式為：A=（N） N：Q個個S維的輸入列向量；維的輸
14、入列向量；A：函數返回值，位于區間：函數返回值，位于區間(0,1) 中中 info=（code）依據依據code值的不同返回不同的信息，包括：值的不同返回不同的信息，包括：deriv返回微分函數的名稱；返回微分函數的名稱；name返回函數全程；返回函數全程；返回輸出值域；返回輸出值域；返回有效的輸入區間返回有效的輸入區間例如：例如：n=-10：0.1: 10;a=(n);plot(n,a)按照來計算對數傳遞函數的值：按照來計算對數傳遞函數的值：n=2/(1+exp(-2n)函數函數可將神經元的輸入（范圍為整個實數集）映射到可將神經元的輸入（范圍為整個實數集）映射到區間（區間（0，1）中。）中。 該函數為梯度下降權值該函數為梯度下降權值/閾值學習函數，通過神經閾值學習函數，通過神經元的輸入和誤差，以及權值和閾值的學習速率，元的輸入和誤差，以及權值和閾值的學習速率神經網絡工具箱有哪些，來計算權值或閾值的變化率。來計算權值或閾值的變化率。三、三、BP網絡學習函數網絡學習函數 dW,ls=(W,P,Z,N,A,T,E,gW,gA,D,LP,LS)調用格式調用格式;