人工神經網絡的優點范文

時間:2024-03-29 16:55:42

導語:如何才能寫好一篇人工神經網絡的優點,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公文云整理的十篇范文,供你借鑒。

人工神經網絡的優點

篇1

【關鍵詞】人工神經網絡 BP神經網絡 圖像識別 識別技術

通常而言,所謂圖像處理與識別,便是對實際圖像進行轉換與變換,進而達到識別的目的。圖像往往具有相當龐大的信息量,在進行處理圖像的時候要進行降維、 數字化、濾波等程序,以往人們進行圖像識別時采用投影法、不變矩法等方法,隨著計算機技術的飛速發展,人工神經網絡的圖像識別技術將逐漸取代傳統的圖像識別方法,獲得愈來愈廣泛的應用。

1 人工神經網絡圖像識別技術概述

近年來,人工智能理論方面相關的理論越來越豐富,基于人工神經網絡的圖像識別技術也獲得了非常廣泛的應用,將圖像識別技術與人工神經網絡技術結合起來的優點是非常顯著的,比如說:

(1)由于神經網絡具有自學習功能,可以使得系統能夠適應識別圖像信息的不確定性以及識別環境的不斷變化。

(2)在一般情況下,神經網絡的信息都是存儲在網絡的連接結構以及連接權值之上,從而使圖像信息表示是統一的形式,如此便使得知識庫的建立與管理變得簡便起來。

(3)由于神經網絡所具有的并行處理機制,在處理圖像時可以達到比較快的速度,如此便可以使圖像識別的實時處理要求得以滿足。

(4)由于神經網絡可增加圖像信息處理的容錯性,識別系統在圖像遭到干擾的時候仍然能正常工作,輸出較準確的信息。

2 圖像識別技術探析

2.1 簡介

廣義來講,圖像技術是各種與圖像有關的技術的總稱。根據研究方法以及抽象程度的不同可以將圖像技術分為三個層次,分為:圖像處理、圖像分析以及圖像理解,該技術與計算機視覺、模式識別以及計算機圖形學等學科互相交叉,與生物學、數學、物理學、電子學計算機科學等學科互相借鑒。此外,隨著計算機技術的發展,對圖像技術的進一步研究離不開神經網絡、人工智能等理論。

2.2 圖像處理、圖像識別與圖像理解的關系

圖像處理包括圖像壓縮、圖像編碼以及圖像分割等等,對圖像進行處理的目的是判斷圖像里是否具有所需的信息并濾出噪聲,并對這些信息進行確定。常用方法有灰度,二值化,銳化,去噪等;圖像識別則是將經過處理的圖像予以匹配,并且對類別名稱進行確定,圖像識別可以在分割的基礎之上對所需提取的特征進行篩選,然后再對這些特征進行提取,最終根據測量結果進行識別;所謂圖像理解,指的是在圖像處理與圖像識別的基礎上,根據分類作結構句法分析,對圖像進行描述與解釋。所以,圖像理解包括圖像處理、圖像識別和結構分析。就圖像理解部分而言,輸入是圖像,輸出是對圖像的描述解釋 。

3 人工神經網絡結構和算法

在上個世紀八十年代,McClelland與Rumelhant提出了一種人工神經網絡,截止現在,BP神經網絡已經發展成為應用最為廣泛的神經網絡之一,它是一種多層前饋神經網絡,包括輸入層、輸出層和輸入層輸出層之間隱藏層,如圖1所示,便是一種典型的BP神經網絡結構。

BP神經網絡是通過不斷迭代更新權值使實際輸入與輸出關系達到期望,由輸出向輸入層反向計算誤差,從而通過梯度下降方法不斷修正各層權值的網絡。

BP神經網絡結構算法如下所述:

(1)對權值矩陣,學習速率,最大學習次數,閾值等變量和參數進行初始化設置;

(2)在黑色節點處對樣本進行輸入;

(3)對輸入樣本,前向計算人工神經網絡隱層及輸出層各層神經元的輸出;

(4)使用梯度下降方法不斷修正各層權值及閥值,由梯度算子得到的權值為

(6)判斷,判斷是否大于最大迭代次數或者是否誤差已經達到要求。如果大于最大迭代次數或誤差達到要求,那么便直接轉到第(7)步,否則,轉到第(4)步對各個矩陣的權值繼續修正,反復訓練;

(7)看是否遍歷所有樣本,是則結束,否則跳回第(3)步繼續。

BP神經網絡操作簡單而有效,可通過Opencv的CvANN_MLP類, Matlab的模式識別工具箱Nprtool等實現,經驗得出在如下情況中人工神經網絡尤為適用:

(1)大量數據可用,卻不知道與輸出之間關系;

(2)問題的解決方案隨時間變化而變化;

(3)輸出是模糊的函數關系,而非精確數字。

4 人工神經網絡圖像識別

傳感器或攝像儀輸入圖像識別系統以后,其目標圖像不能夠與系統全部的參考圖像完全一樣, 這是由于對應噪聲干擾,光線不足和放縮旋轉等問題。 基于人工神經網絡對畸變圖像識別進行深層分析,并且利用 CCD 攝像頭對圖像信息進行采集,在此過程之中通過對攝像頭方位進行更改對易出現畸變的圖像進行采集,從而使得畸變圖像所帶信息組成樣本庫。在電腦里面輸入樣本庫中的圖像信息,并且進行模數的轉化,變成數字圖像,利用數字濾波來對數字圖像信息進行處理。在神經網絡之中輸入樣本圖像數字信息來進行訓練,一方面可以基于數字圖像的像素點集合組成輸入矩陣,用高維數據作為訓練樣本,通過主成分分析(PCA)的方法進行降維,大大簡化計算量;一方面可以基于數字圖像的特征空間進行聚類分割,提取幾何特征或者統計特征,輸入到SOFM神經網絡或者Hopfield神經網絡,從而使其生成圖像識別神經網絡系統。在進行圖像識別的時候使用CCD 攝像頭來采集識別圖像,并且把其模型轉化為數字圖像,預處理后,將其輸入到訓練好的神經網絡識別系統里面,就其可以開展快速的計算,并進行識別。把圖像識別技術與人工神經網絡理論有機結合起來,可以非常有效地實現神經網絡信息系統的一致性, 此外,還可以將其對網絡連接結果與權值進行存儲,促進管理效率的提高,并對于知識庫的構建也具有積極的作用。

5 結論

本文就基于人工神經網絡的圖像識別技術進行了詳細地闡述,由綜上研究可以基于人工神經網絡的圖像識別技術具有比較多的優點以及比較高的可行性,然而,我們對該技術存在的網絡規模及復雜圖像識別準確度上還應繼續進行深入研究,以求技術突破。在將來,圖像識別技術隨著科技的不斷發展將會獲得更多的應用,其勢必會發展為一門獨立且具備強大生命力的學科

參考文獻

[1]王強,張小溪,韓一紅.基于神經網絡的圖像識別[J].電子設計工程,2012.

[2]雷建鋒,孫俊逸.基于人工神經網絡下的圖像識別的研究[J].現代電子技術,2008.

篇2

一個完整的智能健康監測專家系統簡單來說可以分為三個部分[3],即信號采集、信號處理和損傷診斷。其中損傷診斷是健康監測的核心問題,是對結構進行安全性評估和維護決策的基礎。目前損傷診斷方法有多種,而人工神經網絡(簡稱ANN)診斷技術在知識獲取、并行推理、適應性學習、聯想推理、容錯能力等方面具有較大的優越性。

1. 神經網絡在損傷識別診斷中得應用

神經網絡技術之所以適合于結構損傷診斷,主要有三個原因[4],①訓練過的神經網絡能夠存儲有關過程的知識,根據對象的正常歷史數據訓練網絡,然后將此信息與當前測量數據進行比較,以確定損傷。②神經網絡具有濾出噪聲及在有噪聲情況下得出正確結論的能力。③神經網絡具有分辨損傷原因及損傷類型的能力。

損傷診斷可分為無模型識別法(Free-Model)和有模型識別法(Model-Based)兩大類[5]。

無模型識別是指損傷識別過程中不需要建立結構的數學與力學模型,完全基于結構現場實時檢測數據并考慮專家經驗建立結構狀態知識庫,然后采用人工神經網絡診斷技術進行診斷。因為結構在不同狀態下其本身的某些往往會發生變化,這些變化包含了結構損傷位置和損傷程度的信息,根據結構特性變化分析就可以反演結構是否存在損傷以及損壞位置和損傷程度。這是一個反分析過程,需要建立結構關鍵性能指標變化與結構狀態的非線性關系。人工神經網絡通過對實測數據加專家經驗建立的知識信息進行學習,通過權值記下所學過的樣本知識并掌握輸入、輸出之間復雜的非線性關系。在診斷過程中,根據實測關鍵性能指標的變化與儲存在已建知識庫的各種狀態的損傷識別量進行模式匹配來進行結構的損傷檢測與診斷。建立在實測數據基礎上的專家數據知識庫,其知識信息具有真實性、連續性、準確性,可以不斷更新。

基于模型的損傷診斷技術是在結構健康診斷過程中,通過建立精細的能夠反映結構的真實形態的結構數學與力學模型,分析計算結構在各種狀態下的參數指標,輔助實測數據以及考慮專家經驗建立結構狀態知識信息庫,利用人工神經網絡的模式識別功能進行結構損傷狀態的診斷。所謂精細的模型是指理論分析的數據應該和實測數據吻合得較好,兩者偏差要在允許范圍內,這與設計分析所需建立的計算模型相比要求更加嚴格,如果用于損傷識別的模型存在較大的模型誤差,會使計算的參數產生與損傷引起的參數改變相當,甚至更大的偏差,就可能使基于這些參數改變的損傷檢測方法識別結果較差,甚至失效。

通常采用有限元法建立結構力學模型作為損傷診斷的基準參考。進行精細有效的有限元動力分析,一種方法是利用商業化軟件如ANSYS、ABAQUS和ADINA等。但這些程序對于一些結構有特殊要求的分析就無能為力,例如混凝土壩考慮動水壓力影響下的動力分析。這就需要利用自編程序來進行分析,但是工作量較大。但已有的有限元模型修正技術僅適用“小誤差模型”的修正[6],而較大“誤差”的情況則屬于非適定的、非線性的問題。人工神經網絡強大的非線性映射功能就非常適合解決結構模型修正中非線性問題[7]。建立結構有限元力學模型,選擇不同的材料物理參數與邊界條件可以計算不同的結構響應,因此結構響應和結構設計變量之間存在復雜的映射函數關系,這種近似映射函數關系用常規方法來確定比較困難。在前蘇聯數學家Kolmogorov提出的任意連續函數表示定理基礎上,Robert HN提出了Kolmogorov多層神經網絡映射存在定理,從理論上論證了一個任意的連續函數都能與一個三層神經網絡建立映射關系。這為人工神經網絡用于結構模型修正提供了理論基礎[7]。

2. 基于神經網絡損傷診斷的兩級識別策略

采用人工神經網絡方法對結構損傷的發生、定位和損傷類型與程度進行研究,可以采用基于網絡判別指標過濾方法的兩級識別策略[8]。

2.1 自適應神經網絡方法檢測結構損傷

自適應神經網絡方法(Auto-associate Neural Network)利用健康結構在正常情況下的序列測量數據作為訓練人工神經網絡的輸入和輸出數據X,Y,依次構造一個自相關的神經網絡Net=T(XY)。訓練完成后,將輸入數據X再次輸入已訓練的神經網絡Net以便得到一組網絡輸出數據,比較測量數據Y和網絡輸出數據的差值向量,采用某種距離測度函數加以測量形成健康結構的判別指標。判別指標可以采用結構某個動力特性參數加以構造,也可將多個動力特性參數同時考慮加以構造。具體結構中最終如何構造判別指標,需要根據結構特點進行判別指標對結構損傷的敏感度的分析加以確定。

當同一個結構可能發生損傷以后的測量數據被作為輸入數據通過已經訓練的神經網絡Net,由本次輸入數據和輸出數據可以計算得到的新的判別指標,與健康結構的判別指標相比較,就可以預告結構是否發生損傷。如果兩者差值(可以稱為損傷指標)較大,就認為結構已經發生損傷。

2.2 概率神經網絡方法檢測結構損傷的位置和類型

結構損傷指標的判定通常只能檢測損傷的發生,難以確定損傷的位置和損傷的類型。概率神經網絡(Probabilistic Neural Network,簡稱PNN)可以用于判定損傷的位置和類型。

PNN[9-11]是通過具有無參數估計量的已知數據集的概率密度函數來實現貝葉斯決策,將其加在人工神經網絡框架中,接著進行判別未知數據最大可能屬于哪個已知數集,對于具有,,…,,…,的多類指標問題來說,基于p維試驗向量X的貝葉斯決策d(X)為: (1)

式中――分類指標的先驗概率

――與錯誤分類的相關損失,在損傷檢測問題中兩者通常假定相等

――概率密度函數

采用多變量高斯(Gauss)分布函數:

(2)

將該貝葉斯決策映射為一個人工神經網絡構成一個概率神經網絡,該網絡分為四層,即輸入層、模式層、求和層和決策層,如圖1所示。

輸入向量X的每個元素作為輸入層的輸入參數。由權重向量和向量X的點積構成中間層的神經元,而相對于分類號q的決策層神經元輸出為:

(3)

式中 ――高斯核的標準差

傳統PNN對所有高斯核都采用統一的值。影響傳統PNN廣泛應用的最大障礙就是所有的參數具有同一個參數值。對于自適應PNN,每一測量維數具有不同的參數。

假定具有不同損傷部位(即損傷模式)和不同剛度損傷程度(如0%,20%,75%和90%)的有限元分析得到的模態數據作為輸入數據輸入PNN進行訓練,數據可以加入或者不加入環境“污染”分量。損傷位置或類型假定有多種。如果結構損傷標識量選用自振頻率變化率,輸入向量X為P個自振頻率變化率,將帶有某種類型損傷(或混合模式損傷)的實測模態數據輸入訓練好的PNN,則得到決策層(輸出層)各個損傷形態在試驗向量點對應的概率密度函數PDF的估計值,具有最大PDF的損傷模式將給出損傷的位置或者類型。

這種損傷診斷方法最大優勢在于可以降低測量誤差對損傷識別結果的影響。因為損傷識別指標對模態參數變化率敏感,對于具有相同環境“污染”程度的前后兩次數據,其“污染”造成的誤差可以抵消,從而對損傷識別精度的影響較小。從本質上說,如果網絡訓練階段并不需要數學模型分析而直接采用健康結果的實測數據,則神經網絡算法并不需要數學模型,這也是該算法的一個優點。

研究表明[12, 13],在損傷診斷過程中,模型誤差對損傷識別結果的影響要比測量誤差小,而且隨著損傷程度的增加而變化不大。用誤差≯10%的模型來訓練人工神經網絡,是完全可以接受的。神經網絡對損傷的識別結果受測量誤差影響較大,但隨損傷程度的增加而降低。改善測量誤差,降低其對識別結果的影響極其重要。

3. 基于WPNN與數據融合的損傷檢測方法

近年來。不斷發展起來的多傳感器數據融合(或稱信息融合)技術以其強大的時空覆蓋能力和對多源不確定性信息的綜合處理能力,可以有效進行結構系統的監測和診斷。雖然目前基于動力響應的各種智能損傷診斷技術得到研究,但這些技術存在著識別精度不高或適用條件等缺陷。目前迅速發展的數據融合技術具有充分利用各個數據源包含的冗余和互補信息的優點,可以提高系統決策的準確性和魯棒性。姜紹飛等[14]提出的基于小波概率神經網絡(wavelet probabilistic neural network WPNN)和數據融合的結構損傷檢測方法將兩者有機結合,推動了神經網絡技術在土木結構健康檢測中應用的發展。

3.1 數據融合

數據融合是多源信息綜合處理的一項新技術,是將來自某一目標(結構)的多源信息加以智能化合成,得到比單一傳感器更精確、更完全的估計,其有點突出表現在信息的冗余性、容錯性、互補性、實時性和低成本性。神經網絡是由大量單元組成的非線性大規模自適應動力系統,具有學習、容錯、記憶、計算以及智能處理,二者在結構上存在著相似性,可以充分利用神經網絡的結構優勢,考慮傳感器或者信息處理單元之間的互相影響、互相制約的關系,體現了信息融合系統是一個有機的整體,而不是多種信息的羅列和簡單的代數加減關系。根據信息(數據)表征的級次,數據融合可以分為數據級融合、特征級融合和決策級融合。

3.2 小波變化及小波概率神經網絡

設函數,如果滿足,則稱為基本小波或母小波。將母小波函數伸縮和平移,得到的函數稱為小波函數,簡稱小波。

設信號,則其小波變換定義為

基于小波變化的神經網絡稱為小波神經網絡,它是小波分析與神經網絡的融合(結合)二者的結合有兩種途徑:其一,將小波分析作為神經網絡的前置處理手段,為神經網絡提供輸入特征向量,也稱松散型小波神經網絡、其二,將小波分析與神經網絡直接融合,即以小波函數和尺度函數來形成神經元,也稱緊湊型小波神經網絡。小波神經網絡繼承了小波分析與神經網絡的優點,通過訓練自適應地調整小波基的形狀實現小波變換,具有良好的函數逼近能力和模式分類能力。

3.3 基于WPNN與數據融合的損傷檢測方法

為了充分發揮數據融合與WPNN的優點,提出了基于WPNN與數據融合的損傷模型(見圖2),它首先將來自傳感器1的結構響應進行數據預處理、特征提取,采用小波理論,獲得該傳感器的小波能量特征向量;依次類推,獲得其他傳感器的小波能量特征向量;然后將這些小波能量特征向量放入WPNN中,進行神經網絡訓練及融合計算;最后根據最大的概率密度函數值得到融合損傷識別結果及損傷類型。

為了驗證該方法的有效性,姜紹飛運用美國土木工程學會提出的一個4層鋼結構框架模型進行驗證[14]。通過驗證可見,基于WPNN與數據融合的損傷檢測方法的識別效果比用單傳感器進行損傷識別分類的效果好,它對損傷最敏感,受噪聲的干擾影響最小;另一方面也說明,數據融合能夠使不同傳感器的信息相互補充,從而減小了損傷檢測數據(信息)的不確定性,使結構的信息具有更高的精度和可靠性,進而能夠獲得更準確的損傷識別結果及最優的結構狀態估計。

4. 用于損傷診斷的神經網絡輸入參數選擇

采用什么參數作為神經網絡的輸入向量是利用人工神經網絡進行結構損傷診斷中需要考慮的極其關鍵的一個問題。神經網絡輸入參數的選擇及其表達形式直接影響損傷診斷的結果。采用結構動力參數作為結構損傷識別的方法現在得到大量的應用。其原因一方面是結構動力參數是結構本身固有特性,受外界環境干擾較小。另一方面結構自振頻率和振動模態等動力參數比較容易從少量的動態測量中得到,而且測量方法比較簡單。基于結構動力特性的損傷診斷方法,其基本思想是結構的物理參數如剛度、質量和阻尼比等在結構不同狀態中的變化會改變結構動力特性――固有頻率和模態。因此可以根據結構的固有頻率、模態振型或者兩者一起考慮等方法進行檢測,另外還可以利用這些模態參數計算模態曲率、應變模態、結構柔度、模態阻尼比等力學指標,然后采用神經網絡算法等對結構的損傷發生、損傷定位、損傷程度進行檢測。對于簡單的構件來說,采用結構固有振動頻率作為網絡輸入參數就可以得到良好的診斷結果[15-17]。固有頻率可以在結構的一個點上測到,并且與測點位置相對獨立,是一個能反映結構整體的動力特性。但對于一般結構,固有頻率包含的結構損傷信息還不足以進行識別與定位,例如對稱結構,兩個對稱位置的損傷所引起的固有頻率變化是完全相同的。因此有人建議采用固有頻率和關鍵點的振型模態作為組合參數進行神經網絡損傷診斷比較實用[18, 19],這可以解決對稱結構和測量模態數據不完備問題。

對于結構損傷診斷來說,固有頻率和振動模態是檢測的全局量,可以用來對結構整體狀態進行描述。但對于復雜結構,像大跨徑橋梁,其贅余度大,造成結構局部損傷對整體性能反映影響不大,也就是說全局參數指標對局部損傷不敏感。例如結構局部損傷導致的固有頻率變化很小,估計

采用全局量可以判斷結構是否損傷,而用于結構損傷定位的物理參數需要選擇局域量,且需滿足四個基本條件[22],①對局部損傷敏感,且為結構損傷的單調函數。②具有明確的位置坐標。③在損傷位置,損傷標識量應出現明顯的峰值變化。④在非損傷位置,損傷標識量或者不發生變化,或者變化幅度小于預定的閾值。

陸秋海[23]比較了六種不同輸入參數對于結構損傷的敏感程度。得到的結論是,六種輸入參數對結構損傷的敏感程度從低到高依次為:位移模態指標、固有振動頻率指標、位移頻響函數指標、曲率、應變模態指標以及應變頻響函數指標。相比較來看,應變模態指標是較好的結構動力損傷診斷的損傷識別標識量,而且有對結構局部損傷敏感的優點,可以用作大型土木結構局部損傷定位的人工神經網絡診斷輸入參數。

5. 用于損傷診斷的神經網絡選擇

人工神經網絡是在人類對其大腦神經網絡認識理解的基礎上人工構造的能實現某種功能的神經網絡。它是理論化的人腦神經網絡的數學模型,是基于模仿大腦神經網絡結構和功能而建立的一種信息處理系統。

人工神經網絡發展幾十年來,形成了數十種網絡,包括多層感知器,BP網絡、Hopfield網絡、RBF網絡、自適應共振理論和概率神經網絡等等。這些網絡由于結構不同,應用范圍業有所不同,但這些神經網絡模型原則上講都可用來進行結構損傷診斷,只是存在簡單與復雜、穩定與不穩定、診斷效果高低與診斷結果好壞的差別。前面介紹的大型結構基于神經網絡的兩級損傷識別策略是采用以自適應共振理論為基礎的自組織神經網絡和概率神經網絡。

建立大型土木結構的智能健康監測專家系統,首先要建立損傷診斷的子系統。采用人工神經網絡進行記誒構損傷診斷,首先要根據各種神經網絡的特點和適用范圍,選擇解決自己問題的合適模型,然后采用某種程序語言進行編制。若采用商業化軟件建立損傷診斷子系統,則不能很好地與信號采集系統及專家知識庫進行有效鏈接,從而妨礙實施在線檢測與連續診斷。Matla現已成為國際上公認的最優秀的數值計算和仿真軟件,其強大的擴展功能為各個領域的應用提供了基礎,由各個領域的專家在Matlab平臺上推出了30多個應用的工具箱。神經網絡工具箱是Matlab環境下所開發的許多工具箱之一,它是以人工神經網絡理論為基礎,用Matlab語言構造出各種神經網絡算法。因此建立人工神經網絡進行損傷診斷時,利用Matlab語言可以減少工作量,提高效率。

參考文獻:

[1] 李宏男,李東升. 土木工程結構安全性評估、健康監測及診斷述評[J]. 地震工程與工程振動. 2002(3): 82.

[2] 謝強,薛松濤. 土木工程結構健康監測的研究狀況與進展[R]. , 2001.

[3] 周智,歐進萍. 土木工程智能健康監測與診斷系統[J]. 傳感器技術. 2001, 20(11): 1-4.

[4] 姜紹飛,周廣師,劉紅兢,劉明. 考慮不確定性因素的結構損傷檢測方法[J]. 沈陽建筑工程學院學報(自然科學版). 2002(2): 85-87.

[5] 陳,羅躍剛等. 結構損傷檢測與智能診斷[M]. 北京: 科學出版社, 2001.

[6] 張德文,魏阜旋. 模型修正與破損診斷[M]. 北京: 科學出版社, 1999.

[7] 段雪平, 朱宏平, 熊世樹. 神經網絡在建筑物有限元模型修正中的應用[J]. 噪聲與振動控制. 2000(2): 11.

[8] 姜紹飛. 基于神經網絡的結構優化與損傷識別[M]. 北京: 科學出版社, 2002.

[9] 王柏生,倪一清,高贊明. 用概率神經網絡進行解雇損傷位置識別[J]. 振動工程學報. 2001, 14(1): 60-64.

[10] 姜紹飛,倪一清,高贊明. 基于概率神經網絡的青馬懸索橋定位的仿真研究[J]. 工程力學. 2001: 965-969.

[11] 杜德潤. 地震作用下大體積混凝土結構損傷識別研究[D]. 南京: 東南大學, 2002.

[12] 王柏生,丁皓江,倪一清,高贊明. 模型參數誤差對用神經網絡進行結構損傷識別的影響[J]. 土木工程學報. 2000(1): 50-55.

[13] Wang Bai-sheng,ni Yi-qing K J. Influence of measurement errors on structural damage identification using artificial neural networks[J]. Journal of Zhenjiang University. 2000, 1(3): 191-299.

[14] 姜紹飛,付春,陳仲堂, 盛巖. 基于WPNN與數據融合的損傷檢測方法[J]. 沈陽建筑大學學報(自然科學版). 2005(2).

[15] 陳建林,郭杏林. 基于神經網絡的簡支梁損傷檢測研究[J]. 煙臺大學學報(自然科學與工程版). 2001(3).

[16] 羅躍綱, 陳, 王占國. 鋼梁損傷的神經網絡診斷分析[J]. 工業建筑. 2002(1).

[17] 羅躍綱, 劉紅兢, 王政奎. 鋼板結構損傷對其動力特性的影響研究[J]. 沈陽工業大學學報. 2002(3).

[18] 郭國會,易偉建. 基于神經網絡的框架結構破損評估[J]. 重慶建筑大學學報. 1999, 21(3): 106-121.

[19] 王柏生,倪一清,高贊明. 框架結構連接損傷識別神經網絡輸入參數的確定[J]. 振動工程學報. 2000, 13(1): 137-142.

[20] 雷俊卿,錢冬生. 長大跨橋實時監測預警系統研究[J]. 公路. 2002(2): 1-4.

[21] 瞿偉廉,陳偉. 多層及高層框架結構地震損傷診斷的神經網絡方法[J]. 地震工程與工程振動. 2002, 22(1): 43-48.

篇3

關鍵詞:計算機網絡模型;神經網絡算法

計算機網絡在人們日常生活越來越重要,被廣泛應用到各個行業。隨著社會不斷發展,人們需求不斷加高,使計算機得到良好改善,目前,計算機網絡運用集線式服務器來實現網絡互連,促進網絡發展。但是也有很大弊端,過多的聯想信息雖然滿足人們需求,但是對技術的要求也更加苛刻,現有的技術滿足不了計算機網絡運行,使人們日常操作不方便。為了解決這一問題,研究人員需要全面優化計算機網絡,提高運行能力和性能,運用神經網絡算法,使計算機更加適合現代社會發展,儲存更多信息。

1神經網絡算法概論分析

1.1神經網絡算法整體概論神經網絡算法是按照人體大腦的思維方式進行模擬,根據邏輯思維進行推理,將信息概念化形成人們認知的符號,呈現在顯示屏前。根據邏輯符號按照一定模式進行指令構造,使計算機執行。目前,神經網絡被廣泛使用,使直觀性的思維方式分布式存儲信息,建立理論模型。優化網絡的神經網絡主要是Hop?eld神經網絡,是1982年由美國物理學家提出的,它能夠模擬神經網絡的記憶機理,是全連接的神經網絡。Hop?eld神經網絡中的每個神經元都能夠信號輸出,還能夠將信號通過其他神經元為自己反饋,那么其也稱之為反饋性神經網絡。

1.2優化神經網絡基本基礎Hop?eld神經網絡是通過能量函數分析系統,結合儲存系統和二元系統的神經網絡,Hop?eld神經網絡能收斂到穩定的平衡狀態,并以其認為樣本信息,具備聯想記憶能力,使某種殘缺信息進行回想還原,回憶成完整信息。但是Hop?eld神經網絡記憶儲存量有限,而且大多數信息是不穩定的,合理優化計算機聯想問題,使Hop?eld神經網絡能夠建設模型。

1.3神經網絡算法優化步驟簡述人工神經網絡是模擬思維,大多是根據邏輯思維進行簡化,創造指令使計算機執行。神經網絡算法是按照人體思維進行建設,通過反應問題的方法來表述神經思維的解;利用有效條件和能量參數來構造網絡系統,使神經網絡算法更加可靠;大多數動態信息需要神經網絡來根據動態方程計算,得出數據參數來進行儲存。

2神經網絡算法的特點與應用

2.1神經網絡主要特點神經網絡是根據不同組件來模擬生物體思維的功能,而神經網絡算法是其中一種程序,將信息概念化,按照一定人們認知的符號來編程指令,使計算機執行,應用于不同研究和工程領域。神經網絡在結構上是由處理單元組成,模擬人體大腦神經單元,雖然每個單元處理問題比較簡單,但是單元進行組合可以對復雜問題進行預知和處理的能力,還可以進行計算,解決問題能力突出,能夠運用在計算機上,可以提高計算機運算準確度,從而保障計算機運行能力。而且一般神經網絡有較強容錯性,不同單元的微小損傷并不阻礙整體網絡運行,如果有部分單元受到損傷,只會制約運算速度,并不妨礙準確度,神經網絡在整體性能上能夠正常工作。同時,神經網絡主干部分受到損傷,部分單元會進行獨立計算,依然能夠正常工作。

2.2神經網絡信息記憶能力神經網絡信息存儲能力非常強,整體單元組合進行分布式存儲。目前,神經網絡算法是單元互相連接,形成非線性動態系統,每個單元存儲信息較少,大量單元互相結合存儲信息大量增加。神經網絡具備學習能力,通過學習可以得到神經網絡連接結構,在進行日常圖像識別時,神經網絡會根據輸入的識別功能進行自主學習,過后在輸入相同圖像,神經網絡會自動識別。自主學習能力給神經網絡帶來重要意義,能夠使神經網絡不斷成長,對人們未來日常工作能夠很好預測,滿足人們的需求。

2.3神經網絡的突出優點近年來,人工神經網絡得到越來越多人重視,使神經網絡得到足夠資源進行良好創新。人工神經網絡是由大量基本元件構成,對人腦功能的部分特性進行模仿和簡化,人工神經網絡具備復雜線性關系,與一般計算機相比,在構成原理和功能特點更加先進,人工神經網絡并不是按照程序來進行層次運算,而是能夠適應環境,根據人們提供的數據進行模擬和分析,完成某種運算。人工神經系統具備優良容錯性,由于大量信息存儲在神經單元中,進行分布式存儲,當信息受到損害時,人工神經系統也可以正常運行。人工神經網絡必須要有學習準則制約來能夠自主學習,然后進行工作。目前,人工神經網絡已經逐步具備自適應和自組織能力,在學習或訓練過程中改變突觸權重值,以適應周圍環境的要求。通過一定學習方式和某些規則,人工神經網絡可以自動發現環境特征和規律性,更貼近人腦某些特征。采用并行分布處理方法,使得快速進行大量運算成為可能。神經網絡的一個很大的優點是很容易在并行計算機上實現,可以把神經的節點分配到不同的CPU上并行計算。錢藝等提出了一種神經網絡并行處理器的體系結構,能以較高的并行度實現典型的前饋網絡如BP網絡和典型的反饋網絡(如Hop?eld網絡)的算法。該算法以SIMD(SingleInstructionMultipleData)為主要計算結構,結合這兩種網絡算法的特點設計了一維脈動陣列和全連通的互連網絡,能夠方便靈活地實現處理單元之間的數據共享。結合粒子群優化算法和個體網絡的并行學習機制,提出了一種基于粒子群優化的并行學習神經網絡集成構造方法。

3結束語

全球化的發展,信息交流不斷加快,促使各個行業相互融合。神經網絡算法具備簡單、穩定等不同優勢,神經網絡研究內容相當廣泛,神經網絡算法能夠與其它算法相互結合,在一定程度提高計算機網絡模型運算能力。但是計算機網絡模型中神經網絡算法學習能力比較低下,梯度下降法不準確,所以需要有關人員進行深度研究,探索神經網絡算法,使其更加完善,從而保證計算機整體性能的提高。

參考文獻:

[1]陳竺.計算機網絡連接增強優化中的神經網絡算法[J].電子技術與軟件工程,2014(19).

篇4

Abstract: Financial management decision support system (hereinafter referred to as the DSS) is to assist decision-makers at various levels realize financial management. It achieves scientific management through mainly the man-machine interactive way and the use of a lot of financial data and numerous model. Neural network is a complicated nonlinear network system, and it mainly consists of many processing units which are similar to neuron. The combination of financial management and neural network and decision support system can realize the automation of adaptive, associating and reasoning, and data mining, and make the financial management, decision-making, and execution more scientific, standardized, and intelligent.

關鍵詞: 財務管理;神經網絡;決策支持系統;專家系統

Key words: financial management;nerve network;decision support system (DSS);expert system

中圖分類號:F275 文獻標識碼:A 文章編號:1006-4311(2012)03-0126-02

0 引言

DSS是80年代迅速發展起來的新型計算機科學。它是一個有著廣泛應用背景的十分熱門的交叉科學。神經網絡是一個具有高度非線性的超大規模連續時間的動力系統。結合神經網絡的智能決策支持系統是目前研究的前沿之一,它極具理論和使用價值。

財務管理的信息化、數字化是財務規范和科學管理的趨勢。與DSS的結合將更加有利于數據標準的統一,有利于數據采集的模塊化,有利于決策支持的科學化,有利于財務公開的透明化。

1 財務管理決策支持系統的研究現狀

決策支持系統經過二十多年的發展,形成了如圖1所示公認的體系結構。它把模型并入信息系統軟件中,依靠管理信息系統和運籌學這兩個基礎逐步發展起來。它為解決非結構化決策問題提供了相應的有用信息,給各級管理決策人員的工作帶來了便利。

從圖1可以看出決策支持系統體系結構可劃分為三級,即語言系統(LS)級、問題處理系統(PPS)級和知識系統(KS)級。其中問題處理系統級包括推理機系統(RS)、模型庫管理系統(MBMS)、知識庫管理系統(KBMS)及數據庫管理系統(DBMS)。知識系統級包括模型庫(MB)、知識庫(KB)及數據庫(DB)。

九十年代中期,興起了三個輔助決策技術:數據倉庫(DW)、聯機分析處理(OLAP)和數據挖掘(DM)。聯機分析處理是以客戶/服務器的方式完成多維數據分析。數據倉庫是根據決策主題的需要匯集大量的數據庫,通過綜合和分析得到輔助決策的信息。數據挖掘顧名思義,是為了獲得有用的數據,在大量的數據庫中進行篩選。人工智能技術建立一個智能的DSS人機界面,可進行圖、文、聲、像、形等多模式交互,人機交互此時變得更為自然和諧,人們能沉浸其中,進行合作式、目標向導式的交互方法。

從目前情況來看,財務決策支持系統的研究還處于初級發展階段,財務數據的保密性、特殊性決定了財務決策不能全部公開化、透明化,但隨著中央及國務院相關部門財務預決算數據的公開,財務決策系統及其支持系統和過程也將隨之公開,這就要求決策者充分利用財務知識和決策支持系統的知識“聰明”決策、合理決策、科學決策、規范決策。

2 財務管理神經網絡智能決策支持系統總體研究框架

2.1 神經網絡運行機制 神經網絡的著眼點是采納生物體中神經細胞網絡中某些可利用的部分,來彌補計算機的不足之處,而不是單單用物理的器件去完整地復制。

第一,神經網絡中的鏈接的結構和鏈接權都可以通過學習而得到,具有十分強大的學習功能;第二,神經網絡所記憶的信息是一種分布式的儲存方式,大多儲存在神經元之間的權中;第三,神經網絡部分的或局部的神經元被破壞后,仍可以繼續進行其他活動,不影響全局的活動,因此說,神經網絡的這種特性被稱作容錯性;第四,神經網絡是由大量簡單的神經元組成的,每個神經元雖然結構簡單,但是它們組合到一起并行活動時,卻能爆發出較快較強的速度來。

我們可以利用神經網絡的上述特點,將之應用于模式識別、自動控制、優化計算和聯想記憶、軍事應用以及決策支持系統中。

2.2 財務管理神經網絡集成智能財務DSS的必然性 在企業經營管理、政府機構財務活動中,人們時常面臨著財務決策。人們往往需要根據有關的理論及經驗制定出一系列的衡量標準。這種評價是一個非常復雜的非結構化決策過程,一般都是由內行專家根據一定的專業理論憑經驗和直覺在收集大量不完全、不確定信息基礎上建立起多級指標體系。但在這種指標體系中,各種指標之間的關系很難明確,而且還受評價者的效用標準和主觀偏好所左右。因此,很難在指標體系和評價目標間建立起準確的定量或定性模型。因此,我們需要采用一種可處理不確定性、不完全性信息的評價方法以支持決策。自然,利用人工神經網絡構造系統模式來支持這類評價決策問題是目前財務管理智能決策支持系統的一種發展趨勢和必然趨勢[4]。

2.3 財務管理神經網絡集成智能DSS系統框架 神經網絡智能決策支持系統主要以知識、數據和模型為主體,結合神經網絡進行推理與數據開采。圖2給出了神經網絡智能決策支持系統研究框架[2]。研究中有兩個重點,即神經網絡推理系統和神經網絡數據開采系統。

2.3.1 神經網絡數據開采系統 神經網絡數據開采時利用神經網絡技術協助從數據中抽取模式。數據開采有五項基本任務:相關分析、聚類、概念描述、偏差監測、預測。

常用的前饋式神經網絡,如BP網絡,可用于進行概念描述及預測。對向傳播(Counter Propagation,簡稱CP)神經網路可用來進行統計分析和聚類。

CP網絡是美國神經計算專家Robert Hecht-Nielsen提出的一種新型特征映射網絡,其網絡結構分輸入、競爭、輸出三層。該網絡吸取了無教師示教型網絡分類錄活、算法簡練的優點,又采納了有教師示教型網絡分類精細、準確的好處,使兩者有機地結合起來。由競爭層至輸出層,網絡按基本競爭型網絡學習規則得到各輸出神經元的實際輸出值,并按有教師示教的誤差校正方法調整由競爭層至輸出層的鏈接權。經過這樣反復地學習,可以將任意輸入模式映射為輸出模式。

2.3.2 財務管理神經網絡推理系統 財務管理神經網絡推理系統主要利用神經網絡的并行處理機制來解決傳統推理方法中存在的“組合爆炸”、“無窮遞歸”,等問題。在神經網絡系統中,計算與存儲時完全合二為一的,即信息的存儲體現在神經元互連的分布上,并以大規模并行方式處理。流動的過程就是從部分信息找到全部信息的過程,這就是聯想記憶的基本原理。若視動力系統的穩定吸引子為系統計算能量函數的極小點,系統最終會流向期望的最小點,計算也就在運動過程中悄悄地完成了。因而,可用雙向聯想記憶(BAM)網絡或CP網絡實現并行推理。CP網絡具有特殊的聯想推理映射功能。將輸入學習模式和期望輸出模式取為同一模式,且將之分為X和Y兩部分。網絡通過提供的樣本對進行充分的學習后,就可用來進行模式間的聯想推理。

3 財務管理神經網絡智能DSS研究展望

當前世界上最熱門的研究課題,是模仿人類的思維方式來解決實際問題。專家系統和人工神經網絡是比較常用的技術,但由于自身的局限性,它們都側重于人類思維方式的某一方面。平時解決簡單的問題的時候還好,但真遇到解決復雜的問題的時候,它就顯得力不從心了,所以,這個時候我們可以將兩種技術結合起來解決,除了它們要自身不斷發展和完善外,還要注重兩者的協調配合,神經網絡DSS未來的發展趨勢就是依靠這兩種技術不斷結合,從而能幫助我們解決更多的實際問題。

3.1 財務管理神經網絡支持專家系統 常見的財務管理神經網絡支持專家系統主要包括幾個方面:知識維護、知識表示、知識獲取、推理等,我們針對各個步驟展開討論。

3.1.1 知識維護。如果知識是通過人工神經網絡來獲取的,我們就可以同樣利用人工神經網絡,來讓維護工作變得更加方便快捷,維護可以通過人工神經網絡來自動完成,我們需要做的只是重新運行網絡模塊,或者重新訓練網絡模塊,又或是增加新的網絡模塊。

3.1.2 推理。一般的專家系統只是求解專門性問題,應用的領域非常狹窄,同時由于控制策略不靈活,推理方法簡單,容易出現一些這樣或那樣的問題,推理效率低、速度慢。人工神經網絡可以解決這一問題,從根本上提升工作效率,提高工作速度,它可以拓展知識空間,不只局限在狹窄的領域。

3.1.3 知識表示。很多專家知識事實上很難用規則表示出來,但在現實工作中,我們大部分財務管理專家卻都采取這種方式,無論是直接的還是間接的。其它的知識表示方法也存在著同樣的問題。為了解決這一問題,我們可以采用人工神經網絡系統來將知識提供給專家系統,這樣做就可以避免這一問題,當專家系統需要相應知識時,就不需要用規則來表示知識,直接調用人工神經網絡就可以了。

3.1.4 知識獲取。人工神經網絡可以幫專家系統來獲取知識,知識獲取是通過人機對話的形式進行的。首先,專家系統向專家提出問題,人工神經網路則負責對這些信息進行收集、處理,在人工神經網絡的聯結權值中已經具有通用的知識,所以這一步驟會很方便,之后再產生相應的數據結果。接著,專家系統在對這些數據進行進一步的分析。在這一過程中,專家系統只運用很少的規則就可以獲得相關的知識,大大提高了工作效率。

3.2 財務管理專家系統支持神經網絡 財務管理專家主要通過三種方式來對神經網絡提供必要的支持:第一,提供相應的必要的解釋;第二,進行預處理;第三,聯合應用。

3.2.1 解釋。作為專家系統的人工神經網絡,它做不到同其他專家系統那樣,具體詳細地跟蹤問題求解的過程,以獲得答案的原因,它只能依靠增加一個小型的專家來解決這一問題,以獲得答案的原因,這個專家系統可以反向推理,從結果到初始輸入,系統提供具體的解決方法。

在這種模式中,經過訓練的人工神經網絡來解決問題。當用戶要求解釋的時候,就可以通過網絡輸入一個并行的專家系統。

3.2.2 預處理。對于人工神經網絡來說,處理數據這項工作比較難。專家系統可以幫助人工神經做好這些工作:選擇合適的收斂算法,確定訓練神經網絡的樣本的數量,選擇合適的神經網絡。收集正確數據的工作,對于人工神經網絡來說至關重要,事先對它們進行預處理,可以確保各項工作順利的完成。

3.2.3 聯合應用。將一個復問題分解為幾個子問題,如下圖3所示,再將各個子問題來逐個解決,這就是我們所常說說的聯合應用方法。它可以直接采用人工神經網絡、專家系統以及其種可能的方法來解決問題,指導實際應用。

我們當前計算機所要解決的主要問題,是如何解決半結構化和非結構化的決策等問題,它是人們在日常生活中所經常遇到的,在財務活動中會大量存在。如何更科學、更合理地處理這些問題是我們當前工作的主要方向。運用人工神經網絡技術處理半結構化和非結構化的決策是一種智能化的求解方式。但是此種方式并不是完美無缺的,它還存在著一定程度上的缺點,我們只有改善這種技術上的不成熟,將智能化研究進行到底,才能讓神經網絡決策支持系統的研究出現新的進展。

參考文獻:

[1]陳文偉.智能決策技術.電子工業出版社,1998年.

[2]鐘義信.智能理論與技術——人工智能與神經網絡.人民郵電出版社,1992年.

篇5

關鍵詞性能對比感知器BP網絡霍普菲爾德網絡字符識別

1引言

人工神經網絡是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。 它是理論化的人腦神經網絡的數學模型,是基于模仿大腦神經網絡結構和功能而建立的一種信息處理系統。因其自組織、自學習能力以及具有信息的分布式存儲和并行處理,信息存儲與處理的合一等特點得到了廣泛的關注,已經發展了上百種人工神經網絡。

一般來說,人工神經網絡從結構上可分為兩種:前向網絡和反饋網絡。典型的前向網絡有單層感知器、BP網絡等,反饋網絡有霍普菲爾德網絡等[1]。

人工神經網絡已經被廣泛應用于模式識別、信號處理、專家系統、優化組合、智能控制等各個方面,其中采用人工神經網絡進行模式識別具有一些傳統技術所沒有的優點:良好的容錯能力[2j、分類能力、并行處理能力和自學習能力,并且其運行速度快,自適應性能好,具有較高的分辨率。單層感知器、BP網絡和霍普菲爾德網絡均可以用于字符識別。

本文通過具體采用感知器網絡、BP網絡和霍普菲爾德反饋網絡對26個英文字母進行識別的應用,通過實驗給出各自的識別出錯率,通過比較,可以看出這3種神經網絡的識別能力以及各自的優缺點。

2 字符識別問題描述與網絡識別前的預處理

字符識別在現代日常生活的應用越來越廣泛,比如車輛牌照自動識別系統[3,4],手寫識別系統[5],辦公自動化等等[6]。畢業論文 本文采用單層感知器、BP網絡和霍普菲爾德網絡對26個英文字母進行識別。首先將待識別的26個字母中的每一個字母都通過長和寬分別為7×5的方格進行數字化處理,并用一個向量表示。其相應有數據的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數字化過程,其中最左邊的為字母A的數字化處理結果所得對應的向量為:IetterA~「00100010100101010001111111000110001〕’,由此可得每個字母由35個元素組成一個向量。由26個標準字母組成的輸人向量被定義為一個輸人向量矩陣alphabet,即神經網絡的樣本輸人為一個35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網絡樣本輸出需要一個對26個輸人字母進行區分輸出向量,對于任意一個輸人字母,網絡輸出在字母對應的順序位置上的值為1,其余為O,即網絡輸出矩陣為對角線上為1的26×26的單位陣,定義target=eye(26)。

本文共有兩類這樣的數據作為輸人:一類是理想的標準輸人信號;另一類是在標準輸人信號中加上用MATLAB工具箱里的噪聲信號,即randn函數。

3 識別字符的網絡設計及其實驗分析

3.1單層感知器的設計及其識別效果

選取網絡35個輸人節點和26個輸出節點,設置目標誤差為0.0001,最大訓練次數為40。設計出的網絡使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。醫學論文 首先用理想輸人信號訓練網絡,得到無噪聲訓練結果,然后用兩組標準輸入矢量加上兩組帶有隨機噪聲的輸人矢量訓練網絡,這樣可以保證網絡同時具有對理想輸人和噪聲輸人分類的能力。網絡訓練完后,為保證網絡能準確無誤地識別出理想的字符,再用無噪聲的標準輸入訓練網絡,最終得到有能力識別帶有噪聲輸人的網絡。下一步是對所設計的網絡進行性能測試:給網絡輸人任意字母,并在其上加人具有平均值從。~0.2的噪聲,隨機產生100個輸人矢量,分別對上述兩種網絡的字母識別出錯率進行實驗,結果如圖2所示。其中縱坐標所表示的識別出錯率是將實際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線代表用無噪聲的標準輸人信號訓練出網絡的出錯率,實線代表用有噪聲訓練出網絡的出錯率。從圖中可以看出,無噪聲訓練網絡對字符進行識別時,當字符一出現噪聲時,該網絡識別立刻出現錯誤;當噪聲均值超過0.02時,識別出錯率急劇上升,其最大出錯率達到21.5%。由此可見,無噪聲訓練網絡識別幾乎沒有抗干擾能力。而有噪聲訓練出的網絡具有一定的抗干擾能力,它在均值為。~0.06之間的噪聲環境下,能夠準確無誤地識別;其最大識別出錯率約為6.6%,遠遠小于無噪聲訓練出的網絡。

3.2BP網絡的設計及其識別效果

該網絡設計方法在文獻[lj中有詳細介紹。網絡具有35個輸人節點和26個輸出節點。目標誤差為0.0001,采用輸人在(0,l)范圍內對數S型激活函數兩層109519/109519網絡,隱含層根據經驗選取10個神經元。和單層感知器一樣,分別用理想輸人信號和帶有隨機噪聲的輸人訓練網絡,得到有噪聲訓練網絡和無噪聲訓練網絡。由于噪聲輸人矢量可能會導致網絡的1或o輸出不正確,或出現其他值,所以為了使網絡具有抗干擾能力,在網絡訓練后,再將其輸出經過一層競爭網絡的處理,使網絡的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網絡的訓練采用自適應學習速率加附加動量法,在MATLAB工具箱中直接調用traingdx。在與單層感知器相同的測試條件下對網絡進行性能測試,結果如圖3所示。其中虛線代表用無噪聲訓練網絡的出錯率,實線代表用有噪聲訓練網絡的出錯率。從圖中可以看出,在均值為o一0.12之間的噪聲環境下,兩個網絡都能夠準確地進行識別。在0.12~0.15之間的噪聲環境下,由于噪聲幅度相對較小,待識別字符接近于理想字符,故無噪聲訓練網絡的出錯率較有噪聲訓練網絡略低。當所加的噪聲均值超過。.15時,待識別字符在噪聲作用下不再接近于理想字符,無噪聲訓練網絡的出錯率急劇上升,此時有噪聲訓練網絡的性能較優.

轉貼于 3.3離散型,霍普菲爾德網絡的設計及其識別效果

此時網絡輸人節點數目與輸出神經元的數目是相等的,有r=s=35,采用正交化的權值設計方法。在MATLAB工具箱中可直接調用函數newh叩.m。要注意的是,由于調用函數newhoP.m,需要將輸人信號中所有的。英語論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設計離散型霍普菲爾德網絡進行字符識別,只需要讓網絡記憶所要求的穩定平衡點,即待識別的26個英文字母。故只需要用理想輸人信號來訓練網絡。對于訓練后的網絡,我們進行性能測試。給網絡輸入任意字母,并在其上加人具有平均值從。~0.5的噪聲,隨機產生100個輸人矢量,觀察字母識別出錯率,結果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環境下,網絡能夠準確地進行識別。在0.33~0.4之間的噪聲環境下,識別出錯率不到1%,在0.4以上的噪聲環境下,網絡識別出錯率急劇上升,最高達到大約10%。可以看出,該網絡穩定點的吸引域大約在0.3~。.4之間。當噪聲均值在吸引域內時,網絡進行字符識別時幾乎不出錯,而當噪聲均值超過吸引域時,網絡出錯率急劇上升。

4結論

本文設計了3種人工神經網絡對26個英文字母進行了識別。可以看出,這3種人工神經網絡均能有效地進行字符識別,并且識別速度快,自適應性能好,分辨率較高。由圖2和圖3可以看出,單層感知器的有噪聲訓練網絡在均值為O~0.06之間的噪聲環境下可以準確無誤的識別,而有噪聲訓練的BP網絡可以在o~0.12之間的噪聲環境下準確無誤的識別,故BP絡網絡容錯性比單層感知器的容錯性好;此外,噪聲達到0.2時,單層感知器的有噪聲訓練網絡的識別出錯率為6.6%,而有噪聲訓練的BP網絡的識別出錯率為2.1%,故BP網絡比單層感知器識別能力強。另外,由圖2、圖3和圖4可以看出,這3種網絡中霍普菲爾德網絡識別率最高,它在噪聲為0.33以前幾乎不會出錯,BP網絡次之,感知器最差。

通過設計、應用與性能對比,我們可得單層感知器網絡結構和算法都很簡單,訓練時間短,但識別出錯率較高,容錯性也較差。BP網絡結構和算法比單層感知器結構稍復雜,但其識別率和容錯性都較好。霍普菲爾德網絡具有設計簡單且容錯性最好的雙重優點。因此,我們應根據網絡的特點以及實際要求來選擇人工神經網絡對字符進行識別。 參考文獻

[1]叢爽.面向MATLAB工具箱的神經網絡理論與應用「M.合肥:中國科學技術大學出版社,2003.

[2]武強,童學鋒,季雋.基于人工神經網絡的數字字符識別[J].計算機工程,2003,29(14):112一113.

[3]廖翔云,許錦標,龔仕偉.車牌識別技術研究[J].徽機發展,2003,13:30一35.

[4]李中凱,王效岳,魏修亭.BP網絡在汽車牌照字符識別中的應用[J].東理工大學學報,2004,18(4):69一72.

篇6

關鍵詞:BP神經網絡;住宅項目;特征定價

中圖分類號:F293.3文獻標識碼:A

新建住宅項目定價能否被消費者認同,對于項目投資者來說,能夠快速準確地了解項目定價的合理區間是非常重要的。目前,在實際操作中運用的市場比較法、收益還原法等基本方法在估算精度、速度乃至應用范圍上都具有局限性。隨著計算機技術的迅速發展,近些年來興起的人工神經網絡模型的一個明顯特征就是具有通過學習最佳逼近非線性映射的能力。因此,項目特征到項目定價的非線性映射關系通過人工神經網絡來進行模擬求解是可行的。

一、應用BP神經網絡的原理

神經網絡在回歸分析中較傳統方法具有相對優越性,它能從大量的離散實驗數據中經過學習訓練,建立起反映實際過程內在規律的系統模型,BP神經網絡是其中的一種較為簡單但應用廣泛的方法。

(一)BP人工神經網絡模型構造概述。BP神經網絡,由輸入層、隱含層和輸出層構成,各層采用全互連接,同一層中各單元不連接。通過調整各個權值和閾值,直到達到期望的誤差即可。

(二)基于LM法的BP算法改進。由于標準BP算法用的梯度下降法隨著接近最優值,梯度趨于零,致使誤差函數下降緩慢。LM法的優點是迭代次數少,收斂速度快,精確度高,因此在訓練樣本時采用LM法。

二、住宅項目定價模型構建

(一)住宅項目定價特征的選取。根據Lancaster特征價格理論,模型的一般形式是:P=F(X1,X2,X3…XN),P為住宅項目均價,F為函數形式,X為住宅項目特征變量。住宅項目特征變量通常考慮的因素,可以分為建筑特征、區位特征、鄰里特征、需求特征四大類,分別用L、M、N、R表示,如下:

P=F(Z)=F(L,M,N,R)(1)

變量應選取與項目整體相關的特征因素,對于特征的選取,采用專家評審法,邀請一家咨詢公司5位工作8年以上的項目策劃師,對住宅項目中影響定價的各種因素進行選取打分,最終選取的特征變量如表1所示。(表1)

(二)BP神經網絡模型的建立。由于僅含有一個隱含層可以任意逼近連續函數,因此BP神經網絡采用3層結構。BP神經網絡的輸入節點為7(對應特征變量數),輸出節點為數為1(對應項目均價),隱層節點數根據以下公式來確定:

s=+0.51(2)

其中,m為輸入層節點數;n為輸出層節點數;s為隱層節點數。

將m=7,n=1帶入上式,通過計算s=5,即建立7*5*1的拓撲結構。

三、應用分析

(一)研究對象。選取2008年北京、天津、沈陽、上海、南京等20個城市的78個普通住宅項目為研究對象。在選取過程中盡量保證市場的同一性,使不同城市之間的商品住宅具有可比性。

(二)變量的量化。由于樣本數據較多,這里只選取測試樣本數據做說明。參照表1進行量化,量化結果見表2。(表2)

(三)BP網絡參數設置及訓練。將規格化后的66個樣本數據代入神經網絡模型中,采用LM改進算法進行訓練,隱含層激活函數為tansig,輸出層激活函數為logsig,BP神經網絡經過所設定的220次訓練后,網絡目標誤差達到精度要求,此時的誤差為:res=0.000991452。訓練結束后,固定連接值和閾值并輸入測試數據,測試數據的BP輸出結果見表3。(表3)

(四)結果分析。樣本項目的預測輸出和實際值的相對誤差值在0.6%~7.8%之間,平均誤差為0.3828。這說明,BP神經網絡在項目定價預測中具有相對的穩定性和優越性。

四、結論

與傳統的住宅項目均價定價方法相比,利用BP神經網絡確定新建項目均價一方面具有較高的精度;另一方面簡化了計算過程,減少資源的投入,是一種快速、便捷、有效的新方法。當然,樣本要盡量選取經典的,去掉一些“噪聲”比較大的樣本和特別復雜的項目。

(作者單位:重慶大學建設管理與房地產學院)

主要參考文獻:

[1]LANCASTER KJ.A new approach to consumer theory[J].Journal of Political Economy,1966.74.1.

[2]張吉禮.模糊神經網絡控制原理與工程應用[M].哈爾濱:哈爾濱工業出版社,2004.

[3]王其文,呂景峰,劉廣靈等.人工神經網絡與線性回歸的比較[J].決策與決策支持,1993.3.3.

[4]張良均,曹晶,蔣世忠.神經網絡實用教程[M].北京:機械工業出版社,2008.2.

篇7

關鍵詞:礦床定位;綜合物化探找礦預測;RBF神經網絡

中圖分類號:P641.4+63文獻標識碼: A 文章編號:

因為近年來地質成礦的復雜性與非線性,人們目前所面臨的重要課題就是尋找隱伏礦床。要想對成礦進行準確的預測,采用簡單的線性分析的方法來尋找礦標志信息的效率是比較低的。隨著現代化科學技術的發展,在處理復雜非線性問題時,人工神經網絡已經成為了一種有效的方法,在礦產定量預測方面已經廣泛地使用到這種技術。人工神經網絡具有自組織性、自學習性、高度非線性、可變性、巨量并行性等特點。文章以RBF網絡對礦區綜合物化探信息進行成礦預測為例,探析地質找礦定量預測方法的同時,較為成功地對鉛鋅礦成礦有利區段進行有效確定。綜合物化探方法可按照任務目標,用于快速現場找礦。國內外的地質工作者們在找礦的探測深度技術和理論中,進行了關鍵技術的突破,使得綜合物化探找礦的方面得到了飛速的發展,對推進探找礦事業做出了貢獻。綜合物化探的方法也具有很多,其中包括了地電地球化學學法、金屬活動態測量法等化探技術方法,也包括了可控源音頻大地電磁測深、瞬變電磁測深等物探技術和方法。

1、RBF神經網絡概念

人工神經網絡也成為連接模型或神經網絡,其網絡依靠系統的程度較為復雜,信息的處理是通過對內部大量節點之間相互連接的關系進行調整,最終得以實現的。神經網絡是分布式并行信息處理的算法數學模型,它是以模范動物神經網絡行為為特征。在諸多的領域中,人工神經網絡因為具有獨特的處理信息的能力而被廣泛使用。RBF為徑向基函數神經網絡,它具有全局最優以及最佳逼近的性能,它是一種有效的、新型前饋式神經網絡。徑向基函數為一個取值只依賴于離原點距離的實值函數。徑向函數用到了近似給定函數,神經網絡是這種近似的最終解釋。在支持向量機中,徑向基函數也被用做核函數。在對非線性時間序列的預測中,RBF得到了比較廣泛的應用。RBF在初次應用于神經網絡設計的時間是1988年,它構成了徑向基函數神經網絡,也就是今天我們的主角RBF神經網絡。RBF網絡的基本思想是:RBF把低維的模式輸入數據轉變至高維空間,期間,變換了一次輸入矢量,將隱單元作為隱含層空間,通過隱單元輸出加權求和最終得到輸出。RBF網絡的構成有3層。第一層有信號源節點組成,是為輸入層。第二層,作為一種局部分布非負非線性函數,隱單元的變換函數對中心點徑向對稱,并且進行逐步衰減,所以第二層是為隱含層,由所描述問題的需要來對隱含層的單元數進行確定。第三層網絡的輸出為隱單元輸出的線性加權,是為輸出層。RBF神經網絡的結構如圖所示。輸出層輸出的節點是簡單的線性函數,隱含層的隱層節點有輻射狀作用函數構成,輸入層只將輸入信號傳遞到隱層。

圖RBF神經網絡圖

2、RBF神經網絡優點

RBF神經網絡的全稱是基于誤差反向傳播算法的人工神經網絡,是一種神經網絡學習算法。RBF神經網絡具備了很強的生物學背景,它還反映出人腦的反應特點。RBF網絡的優點如下:①選取基函數中心是關鍵所在,對于網絡性能而言,BRF網絡中的非線性激活函數形式具有著深遠的影響。②網絡響應在輸入接近RBF網絡的接受域的情況下產生,BRF網絡在做出響應時的決策包含了距離的概念,這就說明BRF網絡具有局部接受特性。在RBF網絡中,要預先確定隱層RBF單元半徑以及中心,在輸入層和輸出層之間的全部權值則為“1”,可對隱層到輸出層間的權值是可以進行調整。RBF網絡的隱層將輸入空間映射到另一個隱層空間,在新的空間中,輸出層實現線性組合。③隱單元的非零響應為在輸入空間的指定區域中輸入時才會產生,即隱單元的激活函數一般是具有局部接受域的函數。④前向網絡。前向神經網絡通過對參數的選擇,能夠連續函數接近一定的精確值。目前,已被很多領域應用。它需要以非線性優化技術為基礎,通過梯度下降算法,最終滿足優化標準的局部最小化。

在鉛鋅礦床預測中RBF網絡的應用

決定了成礦信息隱含性和多解性的就是成礦作用的復雜性。以鉛鋅礦體的外為隱伏礦體預測為說明,在選擇預測變量時,要根據本地域指示礦化富集帶異常實際物化探資料來進行。預測變量包含了土壤化探測量的具體數據,變量包括了。包括電阻率和極化率的中梯剖面測量數據。要想獲得基于RBF神經網絡的神經網絡進行預測,作為輸入相量,采用已知的勘探剖面數據來對人工神經網絡進行建立、訓練。在使用建立好的神經網絡進行預測。

礦區的地層為下侏羅統楓評組沉積巖和前寒武系八都群變質巖。前寒武系八都群變質巖的主要巖性為斜長角閃巖與片麻巖,而下侏羅統楓評組沉積巖則為泥巖、砂巖。在礦產中所賦予的是變質巖,二這兩種巖則為角度不整合,亦或斷層接觸。在獲得等的土壤化探數據后,使用RBF網絡對其進行檢驗和訓練和成礦有力度預測,就可獲得成礦有力度。鉛鋅礦床表現在組合異常、電阻低、極化高,檢驗的結果表現為有較高的成礦有力度,礦體同樣位于成礦有力度區域內。因素覆蓋于下侏羅統楓評組砂巖下下,鉛鋅礦為較弱土壤化探異常組合,且極化率和電阻率的表現極不明顯。但是,隱伏鉛鋅礦體所處位置也表現出一定的成礦有力度,其在變質巖內,說明隱伏的鉛鋅礦體可以被RBF網絡預測出來。在進行了一系列的研究與分析后,說明RBF網絡模型可以輕松完成預測已知礦區外網找礦工作。通過對RBF網絡模型的應用, 可以客觀地預測出隱伏鉛鋅礦體。

OLS算法

確定RBF神經網絡模型可分為:采用線性優化算法來得到輸出層權值;對隱層中心和節點數進行確定。文章采用 OLS,即正交最小二乘法來對隱層中心和節點數,以及輸出層權值進行有效確定。假設輸出層存在一個神經元,網絡訓練樣本集中d(n)是網絡期望輸出響應,而N作為訓練樣本數。可以采用線性回歸模型來表示RBF神經網絡。權值矩陣的選擇可采用誤差比最大的原則,最終可以對RBF網絡的中心進行確定。,按照預先設定的誤差容限來確定隱層節點數P,參考公式如下:>。

結束語

RBF神經網絡預測模型可以對中梯剖面信息和已知剖面土壤化探為主的隱伏鉛鋅礦床進行有效預測。使用該預測模型可以快速預測出隱伏的鉛鋅礦成礦的有利地段,還可對其數據進行檢驗、訓練。RBF網絡有助于地質找礦工作的順利開展與有效實施。礦產預測的重要途徑之一就是以RBF人工神經網絡理論為基礎,來進行成礦有力度預測。特別是在信息豐富多元化和找礦手段較多的二十一世紀的今天,想要真正提高成礦預測的效率和精度就必須采用綜合、有效的預測方法。

參考文獻

[1]陳少華,尹勝蘭,莫哲.基于免疫RBF網絡改進小波分析的小電流接地故障選線[J].電力系統保護與控制,2012(3).

篇8

關鍵詞:自主導航;人工智能;模糊神經網絡;避障;BP神經網絡

中圖分類號:TP79文獻標識碼:A文章編號:1005-3824(2014)03-0083-03

0引言

2013年12月14日21時11分,嫦娥三號探測器在月球表面預選著陸區域成功著陸,裝著紅外成像光譜儀、避障相機、機械臂和激光點陣器等設備的月球車“玉兔”驅動著6個輪子在月球表面留下了歷史的痕跡。這標志著我國已成為世界上第3個實現地外天體軟著陸的國家,也展現出了智能控制系統[1]在航天事業上的卓越應用。在如今的社會生活中,隨處體現著智能技術的存在,人們已經離不開智能技術,智能機器人的發展也飛速前進,從兒童的玩具機器人到太空探索的機器人,可以預見智能機器人的應用將更加廣泛。近年來,非線性動態系統的自適應控制在我國引起了廣泛的研究,模糊神經網絡控制是一個重要的自適應方法,因此得到了很多專家學者的青睞。

模糊邏輯控制在宏觀上模仿人的思維,處理語言和思維中的模糊性概念,它是以模糊集合論、模糊語言變量和模糊邏輯推理為基礎的一種計算機數字控制技術;神經網絡是從微觀上模仿人的智能行為,進行分布式并行信息處理算法的數學模型,它是根據人腦的生理結構和信息處理過程創造的[2]。模糊控制與神經網絡各自都有一定的應用局限,因此,人們早在20世紀80―90年代就把它們相結合,組成更為完善的控制方法。模糊控制與神經網絡的結合有多種方式,根據研究角度和應用領域的變化而不同。1模糊控制與神經網絡的介紹

1.1模糊邏輯控制系統

模糊邏輯控制系統主要包含輸入變量、模糊控制器、被控對象和偏差。模糊邏輯控制系統結構如圖1所示。

知識庫:是模糊控制器的核心。由數據庫和規則庫組成,數據庫中存著有關模糊化、模糊推理、解模糊的一切知識,規則庫是由若干模糊規則組成的。

模糊推理機:根據模糊邏輯法則把邏輯規則庫中的模糊“if-then”轉換成某種映射。

反模糊化:反模糊化的方法一般有最大隸屬度平均法、最大中點法、面積等分法、重心法和加權平均法等。

模糊控制的優點:可以在預先不知道被控對象的精確數學模型;規則一般是由有經驗的操作人員或者專家的經驗總結出來并且以條件語句表示的,便于學習和理解;控制是由人的語言形式表示,有利于人機對話和系統知識的處理等。不足之處:精度不夠高;自適應能力有限;模糊規則庫非常龐大,難以進行更改優化[3]。

1.2人工神經網絡

人工神經網絡(ANN)是一種模擬人腦神經系統的結構和功能的運算模型,由大量的節點,即神經元及相互之間連接構成的,它是人工方式構造的一種網絡系統。神經元結構模型如圖3所示。

傳遞函數f又稱轉移函數或激活函數,是單調上升的有界函數,常用的轉移函數有線性函數、斜坡函數、階躍函數及單雙極S型函數等。但是最常用的還是單極S型函數:

神經網絡的結構形式也有幾種,例如,全互連型結構、層次型結構和網孔型結構等[4]。前饋型網絡是一類單方向層次型網絡模塊,其最基本的單層神經元網絡如圖4所示。

圖4單層神經元網絡3層BP神經網絡是比較常用的結構,圖5是它的基本結構。

圖5BP神經網絡的基本結構BP神經網絡至少有3層,圖5中,第Ⅰ層是輸入層,第Ⅱ層為隱藏層,第Ⅲ層為輸出層。由于3層的BP神經網絡就具有了模糊系統中萬能逼近的能力[5],為了不使系統變得更復雜,本文就只用了3層的BP神經網絡,當然,也可以根據自身的實際應用情況增加隱層的層數,但并不是層數越多,精度就越高,相對的系統的反應時間就會增加,時延也會增長。

神經網絡的優點:能夠通過學習和訓練獲取用數據表達的知識,不僅可以記憶一直獲得的信息,還具有較強的概括及聯想記憶能力,它的應用已經延伸到各個領域,在各方面取得很好的進展等。不足之處:缺乏統一的方法處理非線性系統;網絡的權值是隨機選取的;學習的時間長;無法利用系統信息和專家經驗等語言信息;難以理解建立的模型等[6]。

所以,綜合以上模糊邏輯系統與神經網絡各自的優缺點,就提出了一種它們的結合方法,即模糊神經網絡控制方法。

2模糊神經網絡的結合方式

模糊神經網絡大致分為3種形式:邏輯模糊神經網絡、算術模糊神經網絡和混合模糊神經網絡。

在這3種形式的系統中,模糊神經混合系統是根據模糊控制系統和神經網絡各自不同的功能、用途集成在一個系統里面的[7]。在這類系統中,我們可以將神經網絡用于輸入信號處理,模糊邏輯系統用于行為決策[8](如圖6),或者把模糊邏輯系統作為輸入信號處理,神經網絡系統作為輸出行為決策,再或者是將神經網絡去代替模糊控制器的一部分,還可以將基于神經元網絡的模糊系統或者神經元網絡用在模糊神經混合系統中。

在本文的應用中,使用的是輪式智能小車,它一共安裝了3個超聲波傳感器、3個紅外傳感器和1個角度傳感器,紅外傳感器除了應用在小車循跡外,還用來增加控制系統測量的精確性和彌補超聲波測距的盲區。例如,在某一路或者幾路超聲波受到了外界的干擾時,紅外線就可以測量出系統所需要的數量值。超聲波與紅外線用來測量小車到左、前、右障礙物的距離Ll,Lf,Lr;模糊神經系統中控制器的輸入包括: Ll,Lf,Lr,小車與障礙物的夾角tg;輸出為小車的轉角sa和小車的加速度va。將Ll,Lf,Lr的模糊變量設為{near ,far},論域為(0―2 m);tg的模糊變量為{LB,LM,ZO,RM,RB}表示{左大,左小,零,右小,右大},論域為(-1800,1800);距離和夾角的隸屬度函數如圖7和圖8所示。輸出變量的隸屬度函數在這里就不再贅述了。

在系統解模糊化時,是將一個模糊量轉換成確定量,常用的解模糊化的方法有最大隸屬度函數法、重心法、加權平均法。在本文中用的是重心法。

智能小車避障的控制系統如圖9所示。

篇9

關鍵詞:負荷預y;電力市場;時間序列法;回歸分析法;人工神經網絡法

中圖分類號:TM715

文獻標識碼:A

文章編號:1009-2374(2011)22-0005-03

一、負荷預y的含義及意義

在社會發展過程中,電力工業是國民經濟發展的基礎產業,對整個國民經濟的發展起著舉足輕重的作用,電力市場需求、電力系統規劃建設的基礎、依據是負荷預y,其準確度直接影響到電力的投資、布局和網絡運行的合理性和穩定性,因此。負荷預y在國民發展的規劃中顯得尤為重要。

在電力系統中,負荷指電力需求量或用電量。需求量是指能量隨時問的變化率,即指功率。負荷預y包括兩個方面的含義:對未來需求量的預y和用電量的預y。電力負荷的準確預y是不僅是電力系統安全運行的前提,還是電力市場分析的基礎,對電力生產和國民經濟都有重要意義,隨著我國電力事業的不斷發展,高質量、高效率的電網管理已經受到國家和電力部門的高度重視,高質量的電力負荷預y問題研究已經成為現代電力系統運行研究的重要課題之一。

二、電力負荷預y

(一)負荷預y的分類

電力負荷預y按期限不同可以分為年度預y、月度預y和日度預y,從大的方面來分類,也可以分為長期、中期、短期和超短期負荷預y。長期預y大概為30年;中期預y為5-6年;短期預y是指幾個月、幾周、幾天、幾小時甚至更短;超短期預y一般指小時級或分鐘級的預y。

(二)負荷預y的模型

電力系統總負荷預y模型一般可以按四個分量模型描述為L(t)=B(t)+W(t)+s(t)+V(t).L為時刻t的系統總負荷;B為時刻t的基本正常負荷分量;w為時刻t的天氣敏感負荷分量;s為時刻t的特別時間負荷分量;V為時刻t的隨機負荷分量。對于中長期負荷預y來說,E呈明顯增長趨勢的周期性變化,對于短期來說,B一般呈周期性變化;對于超短期負荷預y,B近似線性變化。

由以上可見不同的預y周期,B的內涵有不同的內涵,而對于基本正常負荷分量,可以用線性變化模型和周期變化模型描述。線性變化模型是將前面時刻的負荷描述成一條直線,其延長線即可預y下一時刻的負荷;周期變化模型,是用來反應負荷有按日、月、年得周期變化特性。

(三)負荷預y方法

電力負荷預y按預y方法可以分為經典預y方法和現代預y方法。

1.經典預y方法分為趨勢分析法,時間序列法,回歸分析法。

趨勢分析法是指根據若干歷史資料來擬合一條能反映負荷本身的增長趨勢曲線,之后再根據這個增長趨勢曲線,根據未來某一點估計出該時刻的負荷預y值。主要有有線性趨勢模型、線性趨勢模型、多項式趨勢模型、對數趨勢模型、指數趨勢模型、冪函數趨勢模型、邏輯斯蒂(Logistic)模型、龔伯茨(Gompertz)模型等模型。但是,只有符合以下兩個條件時才能正確應用趨勢分析法:一是負荷并未呈現跳躍式變化趨勢,二是負荷發展因素不變或變化較小。對于趨勢分析法的應用來說,選擇合適趨勢模型至關重要,選擇趨勢模型的方法有兩種,一是圖形識別法,二是差分法。大多數情況下,能夠選擇好適當的趨勢曲線,能夠預y出較好的結果。其中的關鍵在于,人們要根據地區發展的不同情況,來選擇合適的模型。

時間序列法是目前電力系統短期負荷預y中發展較為成熟的算法,是根據負荷的歷史數據的一個時間系列,建立描述電力負荷隨時問變化的數學模型,在該模型的摹礎上確立負荷預y的表達式,并對未來負荷進行預y。時間序列方法優點是所需數據少,工作量小;計算速度較快;反映了負荷近期變化的連續性。時間序列方法存在的不足是建模過程比較復雜,需要較高的理論知識;該模型對原始時間序列的平穩性要求較高,只適用于負荷變化比較均勻的短期預y;沒有考慮影響負荷變化的因素,對不確定性因素(如天氣、節假日等)考慮不足,當天氣變化較大或遇到節假日時,該模型預y誤差較大。

回歸分析法是根據歷史數據的變化規律和影響負荷變化的因素,尋找自變量與因變量之間的相關關系及其回歸方程式,確定模型參數,據此推斷將來時刻的負荷值。回歸分析法的優點是計算原理和結構形式簡單,預y速度快,外推性能好,對于歷史上沒有出現的情況有較好的預y。存在的不足是對歷史數據要求較高,采用線性方法描述比較復雜的問題,結構形式過于簡單,精度較低;該模型無法詳細描述各種影響負荷的因素,模型初始化難度較大,需要豐富的經驗和較高的技巧。

2.現代預y方法是基于非參數模型的,主要采用專家系統、灰色系統、模糊邏輯和人工神經網絡理論建立的方法。

專家系統預y法是一個用基于專家知識的程序設計方法建立起來的計算機系統(在現階段主要表現為計算機軟件系統),它擁有某個特殊領域內專家的知識和經驗,并能像專家那樣運用這些知識,通過推理在某個領域內作出智能決策,所以,一個完整的專家系統由4個部分組成:知識庫、推理機、知識獲取部分和解釋界面。專家系統技術應用到負荷預y上,可以克服單一算法的片面性;同時全過程的程序化,使本方法還具有快速決斷的優點。此方法雖然有較廣泛的使用前景,但由于預y專家比較缺乏,預y過程容易出現人為差錯,在建數據庫及將專家經驗轉化為數學規則時存在一系列的困難。目前,此方法在實踐中應用不廣泛。

灰色系統預y法是利用部分明確信息,通過形成必要的有限數列和微分方程,尋求各參數間的規律,從而推出不明確信息發展趨勢的分析方法。灰色預y又稱GM模型。GM(1,N)表示一階的N變量的微分方程模型,GM(1,1)則是一階一個變量的微分方程模型,灰色預y模型的優點是,建模時不需要計算統計特性量,從理論上講,可以適用于任何非線性變化的負荷指標預y;不足之處是,其微分方程指數解比較適合于具有指數增長趨勢的負荷指標,對于具有其它趨勢的指標則擬合灰度較大,精度難以提高。

模糊邏輯預y法是以模糊集合論、模糊語言變量及模糊邏輯推理為基礎的非線性智能控制,它基于模糊推理,模仿人的思維方式,對難以建立精確數學模型的對象實施的一種控制。它是模糊數學同控制理論相結合的產物,模糊控制器的設計依賴于實踐經驗。但是,有時人們對過程認識不足,或者總結不出完整經驗,這樣模糊邏輯勢必粗糙,不完善用于負荷預y,難以滿足對精度的要求。

負荷預y技術經過幾十年的發展,人們提出了許多預y方法。現在的預y方法大體可以分為兩大類:數學方法統計和人工智能方法。人工智能方法是在20世紀90年代中期開始運用,其中人工神經網絡方法屬于運用較成功的方法。

(四)人工神經網絡法

傳統意義上的電力負荷預y都是通過人工完成的,工作人員通過整理收集歷史負荷數據,采用一定的預y方法,對歷史數據加以計算,得到預y結果后,再結合自己的經驗加以修正,便得出了最后的預y數據。在整個過程中,整理以前的數據,預y算法的選用和預y工作人員的經驗,都是制約預y結果的因素,而這些因素是不可避免的會存在問題,會對預y結果產生很大的影響,使預y的精度難以保證。

如果負荷預y出現問題,電網的發展便不能適應實際發展的需要,就無法滿足用戶正常用電需求。因此,電力企業迫切需要建立適合自己本企業的電力負荷預y系統,這種系統必須保證企業在現有的資源條件下,能夠克服人工預y的各種弊端,這就要求預y系統不僅達到較高的預y精度,還要具備自動化和智能化的特征。

人工神經網絡法是以人類大腦神經網絡為基礎,模擬人類神經活動的仿生系統。具有以下很多優于傳統人工計算負荷量的特點:

1.高度的非線性。不是單純的數學計算,會綜合考慮到經濟、時間、天氣、地域等影響負荷的因素,可以連續多日進行負荷預y電力系統,這樣就保證了負荷預y的精準度。

2.良好的自學習和自適應性。從真正意義上來說,不只是一個單板的計算機,可以對大量非結構性、非精確性規律具有自適應功能,可以根據自己的學習要求,來適應各方面的發展和變化,其自學習和自適應功能是常規算法和傳統技術所不具備的。

3.良好的容錯性和聯想記憶能力。新增的這一能力就保證了計算機的智能化和自動化,可以把歷史預y數據記錄下來,降低再出現的出錯率,并且可以根據這些歷史數據,預y出可能出現的問題,這就大大提高了預y的準確性。

4.人工神經網絡結構簡單。它是由許多的簡單處理單元組合而成,是理論化的人腦神經網絡的模型,它的工作工程是通過模仿大腦神經網絡結構和功能,建立信息處理系統,將收集和記錄的負荷數據,預y未來的用電量。

因此,負荷預y被當作人工神經網絡具有最有潛力的應用領域之一。

三、人工神經網絡的發展

人工神經網絡技術由于自身的優點并且經過不斷發展已逐漸成熟,并成功的應用于模式識別基于人工神經網絡的電力負荷預y系統。基于軟件界面架構來保證系統與其他應用的良好集成,避免過去人工預y的盲目與隨意,保證了負荷預y更準確,更高效。

人工神經網絡技術預y手段的先進性。包含兩層意思:一是預y工具的先進性,由于數據量很大,人工神經網絡是通過計算機進行各種統計分析及預y工作,預y人員可以從繁雜的大量計算中解脫出來;二是預y理論的先進性,由于人工神經網絡可以不斷發展和應用新的預y理論,借鑒其他領域預y工作中的成功經驗,這樣就使電力系統負荷預y達到一個較高的水平。以現代化的地理信息系統為基礎,與市場營銷系統、調度自動化系統、負荷控制系統等系統聯網,建立現代化的市場營銷地理信息系統,所以說通過人工神經網絡電力負荷預y可以是準確把握市場脈搏,高速快效的分析未來電力需求的走勢。四、電力市場環境下對負荷預y的要求

負荷預y是電力系統安全并且經濟運行的一個重要手段,是電力交易的主要數據源,在電力市場環境里,存在著大量的不確定性因素,并且各個因素之問有著比較復雜的影響關系,本文上述方法均有一定的適用場合,各有各的優勢和缺陷,在實際運行中,工作人員應結合當地電網的實際負荷情況及特點,考慮各種環境因素的影響,以需求預y管理為基礎,以計算機技術為支撐,建立負荷預y軟件與電力市場的軟件的有效接口,靈活地選用預y模型,積極探索預y模型的新思路和新方法。不斷提高負荷預y的準確性,促進電力企業整體經濟效益的提高,推動整個國民經濟的發展。

為了做好負荷預y工作,必須對電力系統負荷的現狀及歷史統計資料進行認真調查,搜集規劃期各行業用戶的發展資料,要不斷研究那些電力負荷所代表的國民經濟各行各業的發展規律,認清行業實際發展的可能性和未來性,更好的把握電力市場環境的發展方向。

參考文獻

[1]鐘慶,吳捷,鐘丹虹.基于系統論的負荷預y集成化方法

[J].電力自動化設備,2002,(10).

[2]王天華,王平洋,袁欽成.空間負荷預y中不確定性因素

的處理方法[J]電網技術,2001,(1).

[3]李歷波.城市配網空間負荷預y方法及應用研究[D],重

慶大學,2002.

[4]王天華,王平洋,袁欽成.空間負荷預y中不確定性因素

篇10

關鍵詞: FPGA; BP神經網絡; 線性擬合; 非線性擬合; 自適應訓練

中圖分類號: TN702.2?34; TP183 文獻標識碼: A 文章編號: 1004?373X(2016)15?0115?04

Abstract: Using software for neural network has the disadvantages of low parallelism and slow speed, the hardware design resource utilization of the traditional neural network is high, and the network training is uncontrollable. To solve these problems, a new FPGA?based design method of back propagation (BP) neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry, and uses the finite state machine (FSM) to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs, the training times are 1 583, the average relative error of the network test sample is 0.6%, and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy, high accuracy and fast running speed, and can control the network training automatically.

Keywords: FPGA; BP neural network; linear fitting; nonlinear fitting; adaptive training

0 引 言

人工神經網絡(ANNs)[1]通常都是采用基于軟件的方法實現。但作為一個并行計算系統,軟件實現的方法存在速度慢的缺點,而硬件方式具有高并行性的特點,適合于人工神經網絡。FPGA作為一種通用的硬件設計平臺,其內部分布式的資源與神經網絡的結構非常契合,是一個實現神經網絡硬件化設計的良好選擇。

資源占用是FPGA設計的一個重要考量因素,而網絡訓練是神經網絡功能實現的基礎。已有的神經網絡硬件設計工作在這兩方面還存在巨大的空間。例如,薛維琴等利用FPGA實現了BP神經網絡[2],該網絡經過訓練能夠描述非線性函數,但沒有提出BP神經網絡的激勵函數和訓練控制模塊的具體硬件實現方法。李利歌等提出了直接利用查找表實現神經網絡激勵函數的方法[3],但是查找表存在占用資源大,運行速度慢的缺點。張海燕等采用基于查找表的STAM算法實現神經網絡激勵函數[4],且文中也沒有提到訓練控制模塊。Javier Valls等提出利用CORDIC算法實現神經網絡的激勵函數[5],資源利用率低,但是存在精度不足的問題。劉培龍利用分段擬合實現激勵函數[6],但是激勵函數資源占用較多。

基于這一現狀,本文通過對Sigmoid函數基于對稱性分段擬合以及基于誤差的訓練自適應技術,提出了一種新的神經網絡FPGA設計方法。該方法設計的神經網絡資源占用少,網絡訓練自適應,同時還具有精度高,運行速度快的優點。

1 BP神經網絡的FPGA設計

根據BP神經網絡的結構,本文將網絡劃分為神經元模塊、激勵函數模塊、誤差計算模塊,權值更新模塊、權值存儲模塊以及自適應網絡訓練模塊。圖1給出了不同功能模塊之間的連接和訓練過程。其中,權值存儲模塊和輸入神經元將輸入層的權值以及訓練的樣本輸入到隱含層神經元進行乘累加運算,其結果輸入到激勵函數模塊得到激勵函數輸出,該輸出和隱含層的權值作為輸出層神經元的輸入得到本次訓練結果。該結果再經過誤差計算模塊計算誤差值和權值改變量。權值改變量在權值更新模塊中得到新權值存入到權值存儲模塊。誤差值輸入到自適應網絡訓練模塊判斷網絡訓練是否達到最優。網絡訓練達到最優前,該過程循環,當網絡訓練達到最優,自適應訓練模塊控制網絡停止訓練。

系統中神經元模塊、誤差計算模塊、權值更新模塊按照BP網絡算法規則可調用加、乘、乘累加等功能模塊,權值存儲模塊可調用RAM模塊。激勵函數模塊和自適應訓練模塊關乎系統資源占用及訓練過程的實現,是本文BP神經網絡FPGA設計的重點。

1.1 激勵函數模塊設計

激勵函數模塊是影響整個神經網絡資源利用的主要因素之一,在保證誤差足夠小的前提下,激勵函數模塊資源占用越小越好。

式中含有指數運算,較難在FPGA 中直接實現。利用Sigmoid函數具有對稱性以及較好的線性區域和非線性區域分界的特點,本文提出一種資源占用小、精度高的基于對稱性分段擬合的激勵函數硬件實現的方法。

考慮到Sigmoid函數的對稱性,只需完成[x>0]的區域硬件實現,根據對稱性即可求出[x0]區域,根據Sigmoid函數線性區域和非線性區域分界良好的特點,分別采用線性擬合和非線性擬合的方法分段逼近。具體而言,如圖2所示,將整個激勵函數模塊分為預處理模塊、函數逼近模塊以及最終輸出模塊三個子模塊。

1.1.1 預處理模塊

激勵函數的輸入[x]為16位定點數,最高位為符號位,中間五位為整數部分,后十位為小數部分。當[x]輸入到激勵函數模塊時,首先進行預處理。截取二進制輸入[x]的最高位判斷[x>0]或者[x0]時,[x=x,]將[x]輸入到后續處理模塊,若判斷出[x

1.1.2 函數逼近模塊

基于對輸入[x]的預處理,此子模塊只需要對[x>0]的情況做線性擬合和非線性擬合。分段逼近函數如表1所示。

1.1.3 最終輸出模塊

最終輸出模塊由預處理模塊輸出的控制信號控制。若[x>0,]則控制信號控制最終輸出模塊直接輸出函數逼近模塊中[x]對應的輸出[fx;]若[x

1.1.4 激勵函數模塊分析

按照上述設計方法完成激勵函數模塊的設計后,對激勵函數模塊進行功能仿真和誤差分析。從-8~8以0.001為間隔生成測試數據輸入到激勵函數模塊,得到的ModelSim仿真結果如圖3所示,其各區間絕對誤差如表2所示。從中可以看出,各區間的誤差值均很小且誤差分布較為平均,體現出良好的逼近效果。

1.2 自適應訓練模塊設計

網絡訓練是神經網絡功能實現的基礎。神經網絡隨著訓練的進行,權值逐漸改變,誤差逐漸減小,但如果網絡訓練不能適時結束,造成過度訓練,則網絡性能會變差。然而對網絡訓練的控制在硬件上并不易設計,故很多工作未討論這一點或簡單的以固定周期來完成訓練。本文提出了一種基于可容忍誤差值的自適應網絡訓練硬件設計方法,可有效的自動控制神經網絡訓練過程。

分析神經網絡的訓練過程,每一次輸入樣本值都會在本次訓練完成時得到一個誤差值,當誤差在可以容忍的范圍內可以認為網絡已經訓練完成。認為在給定的可容忍誤差值的情況下,如果連續兩次整個樣本集輸入得到的誤差絕對值都要比給定的可容忍誤差值要小,則該神經網絡訓練已經達到最優。根據這個思想,提出利用有限狀態機實現自適應網絡訓練。

如圖4所示,有限狀態機的狀態數是樣本集中樣本數的兩倍,狀態機初始為零狀態。當某一次訓練得到的誤差絕對值小于可容忍誤差值時,狀態機進入第一個狀態。若緊鄰的下一次訓練得到的誤差絕對值也小于可容忍誤差值,狀態機進入下一個狀態,否則狀態機狀態回到第0個狀態。當狀態機跳轉到最后一個狀態時,網絡訓練完成,此時輸出控制信號控制權值存儲模塊停止權值更新,提示信號提示訓練完成。該模塊的分析需要結合網絡中的其他模塊,故測試結果在下一節中給出。

2 驗證和分析

2.1 驗證平臺

根據上述方法,設計了一個1?3?1三層BP神經網絡驗證其性能。驗證平臺為Altera公司的EP2C70F896C6。

以[y=cosx]函數為學習對象,從[0~2π]之間以[0.062 5π]為間隔選取33個樣本組成樣本集,隨機選取其中25個作為訓練樣本,剩下8個作為測試樣本。神經網絡的初始權值和閾值的選取具有一定的隨機性,根據網絡需要逼近的函數數值大小,輸入層到隱含層的初始權值矩陣[W1=[2.5,0.5,-0.3],]隱含層到輸出層的初始權值矩陣[W2=[0.35,0.4,0.3],]隱含層閾值選為[0.2,0.3,0.4],輸出層閾值選為[0.3]。隱含層的學習率設為0.4,輸出層的學習率設為0.3,容忍誤差設為0.01。

2.2 結果分析

ModelSim仿真得到的結果如圖5所示,從圖5中可以看出該BP神經網絡的訓練是自適應的。當網絡訓練到最優時,產生一個控制信號和一個提示信號以及網絡訓練的次數,此時權值存儲器的值不再變化,訓練完成。

25個訓練樣本集訓練的平均誤差為0.003,分析8個測試樣本集的誤差,如表3所示。從表3中可以看出,其誤差與訓練數據的誤差大體相當且均很小。計算測試樣本的平均相對誤差為0.6%,小于1%,說明該方法實現的基于FPGA的BP神經網絡精度較高。

將該網絡下載至Altera公司EP2C70F896C6的FPGA中,其最高時鐘頻率為82.3 MHz,可見該方法具有運行速度快的優點。將該神經網絡資源占用情況與已有相關工作的資源占用情況作對比,如表4所示。雖然其中各設計的規模和平臺有所差異(如1 Slice≈4 LEs),但仍可估算出即便添加了自適應訓練模塊,本設計對資源的占用依然較低。

從表5中可以看到,當學習對象不同時,網絡訓練的次數也不同,實現了訓練過程的自適應。由此亦可推至,若采用傳統的預設固定次數的方式完成訓練,則對于不同學習對象難免會造成訓練不充分或過度訓練的情況,從而影響網絡的性能。因此,該表也進一步證明了該設計自適應訓練的優越性。

3 結 論

本文以典型的BP神經網絡為例,提出了一種自適應訓練的神經網絡FPGA設計方法。通過對Sigmoid激勵函數基于對稱性做分段擬合減少了資源占用,使用基于可容忍誤差完成了網絡訓練自適應。該方法設計的神經網絡具備訓練可控、資源占用低、精度高的優點。此方法不僅適合于 BP網絡,也可推廣至采用Sigmoid函數及需要訓練控制的其他類型的神經網絡。

注:本文通訊作者為常勝。

參考文獻

[1] 蔣宗禮.人工神經網絡導論[M].北京:高等教育出版社,2001:15?16.

[2] 薛維琴,李莉華,戴明.基于FPGA的人工神經網絡系統的實現方法[J].電子設計工程,2010,18(9):151?154.

[3] 李利歌,閻保定,侯忠.基于FPGA的神經網絡硬件可重構實現[J].河南科技大學學報(自然科學版),2009,30(1):37?40.

[4] 張海燕,李欣,田書峰.基于BP神經網絡的仿真線設計及其FPGA實現[J].電子與信息學報,2007,29(5):1267?1270.

[5] VALLS J, KUHLMANN M, PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing, 2002, 32(3): 207?222.