1引言
人工神經(jīng)網(wǎng)絡(luò)是在人類(lèi)對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。代寫(xiě)論文 它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。因其自組織、自學(xué)習(xí)能力以及具有信息的分布式存儲(chǔ)和并行處理,信息存儲(chǔ)與處理的合一等特點(diǎn)得到了廣泛的關(guān)注,已經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò)。
一般來(lái)說(shuō),人工神經(jīng)網(wǎng)絡(luò)從結(jié)構(gòu)上可分為兩種:前向網(wǎng)絡(luò)和反饋網(wǎng)絡(luò)。典型的前向網(wǎng)絡(luò)有單層感知器、BP網(wǎng)絡(luò)等,反饋網(wǎng)絡(luò)有霍普菲爾德網(wǎng)絡(luò)等。
人工神經(jīng)網(wǎng)絡(luò)已經(jīng)被廣泛應(yīng)用于模式識(shí)別、信號(hào)處理、專(zhuān)家系統(tǒng)、優(yōu)化組合、智能控制等各個(gè)方面,其中采用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行模式識(shí)別具有一些傳統(tǒng)技術(shù)所沒(méi)有的優(yōu)點(diǎn):良好的容錯(cuò)能力[2j、分類(lèi)能力、并行處理能力和自學(xué)習(xí)能力,并且其運(yùn)行速度快,自適應(yīng)性能好,具有較高的分辨率。單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)均可以用于字符識(shí)別。
本文通過(guò)具體采用感知器網(wǎng)絡(luò)、BP網(wǎng)絡(luò)和霍普菲爾德反饋網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行識(shí)別的應(yīng)用,通過(guò)實(shí)驗(yàn)給出各自的識(shí)別出錯(cuò)率,通過(guò)比較,可以看出這3種神經(jīng)網(wǎng)絡(luò)的識(shí)別能力以及各自的優(yōu)缺點(diǎn)。
2 字符識(shí)別問(wèn)題描述與網(wǎng)絡(luò)識(shí)別前的預(yù)處理
字符識(shí)別在現(xiàn)代日常生活的應(yīng)用越來(lái)越廣泛,比如車(chē)輛牌照自動(dòng)識(shí)別系統(tǒng)[3,4],手寫(xiě)識(shí)別系統(tǒng)[5],辦公自動(dòng)化等等[6]。代寫(xiě)畢業(yè)論文 本文采用單層感知器、BP網(wǎng)絡(luò)和霍普菲爾德網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行識(shí)別。首先將待識(shí)別的26個(gè)字母中的每一個(gè)字母都通過(guò)長(zhǎng)和寬分別為7×5的方格進(jìn)行數(shù)字化處理,并用一個(gè)向量表示。其相應(yīng)有數(shù)據(jù)的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數(shù)字化過(guò)程,其中最左邊的為字母A的數(shù)字化處理結(jié)果所得對(duì)應(yīng)的向量為:IetterA~「00100010100101010001111111000110001〕’,由此可得每個(gè)字母由35個(gè)元素組成一個(gè)向量。由26個(gè)標(biāo)準(zhǔn)字母組成的輸人向量被定義為一個(gè)輸人向量矩陣alphabet,即神經(jīng)網(wǎng)絡(luò)的樣本輸人為一個(gè)35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網(wǎng)絡(luò)樣本輸出需要一個(gè)對(duì)26個(gè)輸人字母進(jìn)行區(qū)分輸出向量,對(duì)于任意一個(gè)輸人字母,網(wǎng)絡(luò)輸出在字母對(duì)應(yīng)的順序位置上的值為1,其余為O,即網(wǎng)絡(luò)輸出矩陣為對(duì)角線上為1的26×26的單位陣,定義target=eye(26)。
本文共有兩類(lèi)這樣的數(shù)據(jù)作為輸人:一類(lèi)是理想的標(biāo)準(zhǔn)輸人信號(hào);另一類(lèi)是在標(biāo)準(zhǔn)輸人信號(hào)中加上用MATLAB工具箱里的噪聲信號(hào),即randn函數(shù)。
3 識(shí)別字符的網(wǎng)絡(luò)設(shè)計(jì)及其實(shí)驗(yàn)分析
3.1單層感知器的設(shè)計(jì)及其識(shí)別效果
選取網(wǎng)絡(luò)35個(gè)輸人節(jié)點(diǎn)和26個(gè)輸出節(jié)點(diǎn),設(shè)置目標(biāo)誤差為0.0001,最大訓(xùn)練次數(shù)為40。設(shè)計(jì)出的網(wǎng)絡(luò)使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。代寫(xiě)醫(yī)學(xué)論文 首先用理想輸人信號(hào)訓(xùn)練網(wǎng)絡(luò),得到無(wú)噪聲訓(xùn)練結(jié)果,然后用兩組標(biāo)準(zhǔn)輸入矢量加上兩組帶有隨機(jī)噪聲的輸人矢量訓(xùn)練網(wǎng)絡(luò),這樣可以保證網(wǎng)絡(luò)同時(shí)具有對(duì)理想輸人和噪聲輸人分類(lèi)的能力。網(wǎng)絡(luò)訓(xùn)練完后,為保證網(wǎng)絡(luò)能準(zhǔn)確無(wú)誤地識(shí)別出理想的字符,再用無(wú)噪聲的標(biāo)準(zhǔn)輸入訓(xùn)練網(wǎng)絡(luò),最終得到有能力識(shí)別帶有噪聲輸人的網(wǎng)絡(luò)。下一步是對(duì)所設(shè)計(jì)的網(wǎng)絡(luò)進(jìn)行性能測(cè)試:給網(wǎng)絡(luò)輸人任意字母,并在其上加人具有平均值從。~0.2的噪聲,隨機(jī)產(chǎn)生100個(gè)輸人矢量,分別對(duì)上述兩種網(wǎng)絡(luò)的字母識(shí)別出錯(cuò)率進(jìn)行實(shí)驗(yàn),結(jié)果如圖2所示。其中縱坐標(biāo)所表示的識(shí)別出錯(cuò)率是將實(shí)際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對(duì)值和的一半再除以26得到的;虛線代表用無(wú)噪聲的標(biāo)準(zhǔn)輸人信號(hào)訓(xùn)練出網(wǎng)絡(luò)的出錯(cuò)率,實(shí)線代表用有噪聲訓(xùn)練出網(wǎng)絡(luò)的出錯(cuò)率。從圖中可以看出,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)對(duì)字符進(jìn)行識(shí)別時(shí),當(dāng)字符一出現(xiàn)噪聲時(shí),該網(wǎng)絡(luò)識(shí)別立刻出現(xiàn)錯(cuò)誤;當(dāng)噪聲均值超過(guò)0.02時(shí),識(shí)別出錯(cuò)率急劇上升,其最大出錯(cuò)率達(dá)到21.5%。由此可見(jiàn),無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)識(shí)別幾乎沒(méi)有抗干擾能力。而有噪聲訓(xùn)練出的網(wǎng)絡(luò)具有一定的抗干擾能力,它在均值為。~0.06之間的噪聲環(huán)境下,能夠準(zhǔn)確無(wú)誤地識(shí)別;其最大識(shí)別出錯(cuò)率約為6.6%,遠(yuǎn)遠(yuǎn)小于無(wú)噪聲訓(xùn)練出的網(wǎng)絡(luò)。
3.2BP網(wǎng)絡(luò)的設(shè)計(jì)及其識(shí)別效果
該網(wǎng)絡(luò)設(shè)計(jì)方法在文獻(xiàn)[lj中有詳細(xì)介紹。網(wǎng)絡(luò)具有35個(gè)輸人節(jié)點(diǎn)和26個(gè)輸出節(jié)點(diǎn)。目標(biāo)誤差為0.0001,采用輸人在(0,l)范圍內(nèi)對(duì)數(shù)S型激活函數(shù)兩層109519/109519網(wǎng)絡(luò),隱含層根據(jù)經(jīng)驗(yàn)選取10個(gè)神經(jīng)元。和單層感知器一樣,分別用理想輸人信號(hào)和帶有隨機(jī)噪聲的輸人訓(xùn)練網(wǎng)絡(luò),得到有噪聲訓(xùn)練網(wǎng)絡(luò)和無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)。由于噪聲輸人矢量可能會(huì)導(dǎo)致網(wǎng)絡(luò)的1或o輸出不正確,或出現(xiàn)其他值,所以為了使網(wǎng)絡(luò)具有抗干擾能力,在網(wǎng)絡(luò)訓(xùn)練后,再將其輸出經(jīng)過(guò)一層競(jìng)爭(zhēng)網(wǎng)絡(luò)的處理,使網(wǎng)絡(luò)的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網(wǎng)絡(luò)的訓(xùn)練采用自適應(yīng)學(xué)習(xí)速率加附加動(dòng)量法,在MATLAB工具箱中直接調(diào)用traingdx。在與單層感知器相同的測(cè)試條件下對(duì)網(wǎng)絡(luò)進(jìn)行性能測(cè)試,結(jié)果如圖3所示。其中虛線代表用無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率,實(shí)線代表用有噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率。從圖中可以看出,在均值為o一0.12之間的噪聲環(huán)境下,兩個(gè)網(wǎng)絡(luò)都能夠準(zhǔn)確地進(jìn)行識(shí)別。在0.12~0.15之間的噪聲環(huán)境下,由于噪聲幅度相對(duì)較小,待識(shí)別字符接近于理想字符,故無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率較有噪聲訓(xùn)練網(wǎng)絡(luò)略低。當(dāng)所加的噪聲均值超過(guò)。.15時(shí),待識(shí)別字符在噪聲作用下不再接近于理想字符,無(wú)噪聲訓(xùn)練網(wǎng)絡(luò)的出錯(cuò)率急劇上升,此時(shí)有噪聲訓(xùn)練網(wǎng)絡(luò)的性能較優(yōu)。
3.3離散型,霍普菲爾德網(wǎng)絡(luò)的設(shè)計(jì)及其識(shí)別效果
此時(shí)網(wǎng)絡(luò)輸人節(jié)點(diǎn)數(shù)目與輸出神經(jīng)元的數(shù)目是相等的,有r=s=35,采用正交化的權(quán)值設(shè)計(jì)方法。在MATLAB工具箱中可直接調(diào)用函數(shù)newh叩.m。要注意的是,由于調(diào)用函數(shù)newhoP.m,需要將輸人信號(hào)中所有的。代寫(xiě)英語(yǔ)論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設(shè)計(jì)離散型霍普菲爾德網(wǎng)絡(luò)進(jìn)行字符識(shí)別,只需要讓網(wǎng)絡(luò)記憶所要求的穩(wěn)定平衡點(diǎn),即待識(shí)別的26個(gè)英文字母。故只需要用理想輸人信號(hào)來(lái)訓(xùn)練網(wǎng)絡(luò)。對(duì)于訓(xùn)練后的網(wǎng)絡(luò),我們進(jìn)行性能測(cè)試。給網(wǎng)絡(luò)輸入任意字母,并在其上加人具有平均值從。~0.5的噪聲,隨機(jī)產(chǎn)生100個(gè)輸人矢量,觀察字母識(shí)別出錯(cuò)率,結(jié)果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環(huán)境下,網(wǎng)絡(luò)能夠準(zhǔn)確地進(jìn)行識(shí)別。在0.33~0.4之間的噪聲環(huán)境下,識(shí)別出錯(cuò)率不到1%,在0.4以上的噪聲環(huán)境下,網(wǎng)絡(luò)識(shí)別出錯(cuò)率急劇上升,最高達(dá)到大約10%。可以看出,該網(wǎng)絡(luò)穩(wěn)定點(diǎn)的吸引域大約在0.3~。.4之間。當(dāng)噪聲均值在吸引域內(nèi)時(shí),網(wǎng)絡(luò)進(jìn)行字符識(shí)別時(shí)幾乎不出錯(cuò),而當(dāng)噪聲均值超過(guò)吸引域時(shí),網(wǎng)絡(luò)出錯(cuò)率急劇上升。
4結(jié)論
本文設(shè)計(jì)了3種人工神經(jīng)網(wǎng)絡(luò)對(duì)26個(gè)英文字母進(jìn)行了識(shí)別??梢钥闯?,這3種人工神經(jīng)網(wǎng)絡(luò)均能有效地進(jìn)行字符識(shí)別,并且識(shí)別速度快,自適應(yīng)性能好,分辨率較高。由圖2和圖3可以看出,單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)在均值為O~0.06之間的噪聲環(huán)境下可以準(zhǔn)確無(wú)誤的識(shí)別,而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)可以在o~0.12之間的噪聲環(huán)境下準(zhǔn)確無(wú)誤的識(shí)別,故BP絡(luò)網(wǎng)絡(luò)容錯(cuò)性比單層感知器的容錯(cuò)性好;此外,噪聲達(dá)到0.2時(shí),單層感知器的有噪聲訓(xùn)練網(wǎng)絡(luò)的識(shí)別出錯(cuò)率為6.6%,而有噪聲訓(xùn)練的BP網(wǎng)絡(luò)的識(shí)別出錯(cuò)率為2.1%,故BP網(wǎng)絡(luò)比單層感知器識(shí)別能力強(qiáng)。另外,由圖2、圖3和圖4可以看出,這3種網(wǎng)絡(luò)中霍普菲爾德網(wǎng)絡(luò)識(shí)別率最高,它在噪聲為0.33以前幾乎不會(huì)出錯(cuò),BP網(wǎng)絡(luò)次之,感知器最差。
通過(guò)設(shè)計(jì)、應(yīng)用與性能對(duì)比,我們可得單層感知器網(wǎng)絡(luò)結(jié)構(gòu)和算法都很簡(jiǎn)單,訓(xùn)練時(shí)間短,但識(shí)別出錯(cuò)率較高,容錯(cuò)性也較差。BP網(wǎng)絡(luò)結(jié)構(gòu)和算法比單層感知器結(jié)構(gòu)稍復(fù)雜,但其識(shí)別率和容錯(cuò)性都較好?;羝辗茽柕戮W(wǎng)絡(luò)具有設(shè)計(jì)簡(jiǎn)單且容錯(cuò)性最好的雙重優(yōu)點(diǎn)。因此,我們應(yīng)根據(jù)網(wǎng)絡(luò)的特點(diǎn)以及實(shí)際要求來(lái)選擇人工神經(jīng)網(wǎng)絡(luò)對(duì)字符進(jìn)行識(shí)別。
-
人工神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
1文章
119瀏覽量
14619
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
評(píng)論