人工神經(jīng)網(wǎng)絡(luò)分類(lèi)方法

從20世紀(jì)80年代末期，人工神經(jīng)網(wǎng)絡(luò)方法開(kāi)始應(yīng)用于遙感圖像的自動(dòng)分類(lèi)。目前，在遙感圖像的自動(dòng)分類(lèi)方面，應(yīng)用和研究比較多的人工神經(jīng)網(wǎng)絡(luò)方法主要有以下幾種：

（1）BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)，這是一種應(yīng)用較廣泛的前饋式網(wǎng)絡(luò)，屬于有監(jiān)督分類(lèi)算法，它將先驗(yàn)知識(shí)融于網(wǎng)絡(luò)學(xué)習(xí)之中，加以最大限度地利用，適應(yīng)性好，在類(lèi)別數(shù)少的情況下能夠得到相當(dāng)高的精度，但是其網(wǎng)絡(luò)的學(xué)習(xí)主要采用誤差修正算法，識(shí)別對(duì)象種類(lèi)多時(shí)，隨著網(wǎng)絡(luò)規(guī)模的擴(kuò)大，需要的計(jì)算過(guò)程較長(zhǎng)，收斂緩慢而不穩(wěn)定，且識(shí)別精度難以達(dá)到要求。

（2）Hopfield神經(jīng)網(wǎng)絡(luò)。屬于反饋式網(wǎng)絡(luò)。主要采用Hebb規(guī)則進(jìn)行學(xué)習(xí)，一般情況下計(jì)算的收斂速度較快。這種網(wǎng)絡(luò)是美國(guó)物理學(xué)家J.J.Hopfield于1982年首先提出的，它主要用于模擬生物神經(jīng)網(wǎng)絡(luò)的記憶機(jī)理。Hopfield神經(jīng)網(wǎng)絡(luò)狀態(tài)的演變過(guò)程是一個(gè)非線性動(dòng)力學(xué)系統(tǒng)，可以用一組非線性差分方程來(lái)描述。系統(tǒng)的穩(wěn)定性可用所謂的“能量函數(shù)”進(jìn)行分析，在滿足一定條件下，某種“能量函數(shù)”的能量在網(wǎng)絡(luò)運(yùn)行過(guò)程中不斷地減少，最后趨于穩(wěn)定的平衡狀態(tài)。Hopfield網(wǎng)絡(luò)的演變過(guò)程是一種計(jì)算聯(lián)想記憶或求解優(yōu)化問(wèn)題的過(guò)程。

（3）Kohonen網(wǎng)絡(luò)。這是一種由芬蘭赫爾辛基大學(xué)神經(jīng)網(wǎng)絡(luò)專(zhuān)家Kohonen（1981）提出的自組織神經(jīng)網(wǎng)絡(luò)，其采用了無(wú)導(dǎo)師信息的學(xué)習(xí)算法，這種學(xué)習(xí)算法僅根據(jù)輸入數(shù)據(jù)的屬性而調(diào)整權(quán)值，進(jìn)而完成向環(huán)境學(xué)習(xí)、自動(dòng)分類(lèi)和聚類(lèi)等任務(wù)。其最大的優(yōu)點(diǎn)是最終的各個(gè)相鄰聚類(lèi)之間是有相似關(guān)系的，即使識(shí)別時(shí)把樣本映射到了一個(gè)錯(cuò)誤的節(jié)點(diǎn)，它也傾向于被識(shí)別成同一個(gè)因素或者一個(gè)相近的因素，這就十分接近人的識(shí)別特性。

人工神經(jīng)網(wǎng)絡(luò)有哪些類(lèi)型

人工神經(jīng)網(wǎng)絡(luò)模型主要考慮網(wǎng)絡(luò)連接的拓?fù)浣Y(jié)構(gòu)、神經(jīng)元的特征、學(xué)習(xí)規(guī)則等。目前，已有近40種神經(jīng)網(wǎng)絡(luò)模型，其中有反傳網(wǎng)絡(luò)、感知器、自組織映射、Hopfield網(wǎng)絡(luò)、波耳茲曼機(jī)、適應(yīng)諧振理論等。根據(jù)連接的拓?fù)浣Y(jié)構(gòu)，神經(jīng)網(wǎng)絡(luò)模型可以分為：

（1）前向網(wǎng)絡(luò) 網(wǎng)絡(luò)中各個(gè)神經(jīng)元接受前一級(jí)的輸入，并輸出到下一級(jí)，網(wǎng)絡(luò)中沒(méi)有反饋，可以用一個(gè)有向無(wú)環(huán)路圖表示。這種網(wǎng)絡(luò)實(shí)現(xiàn)信號(hào)從輸入空間到輸出空間的變換，它的信息處理能力來(lái)自于簡(jiǎn)單非線性函數(shù)的多次復(fù)合。網(wǎng)絡(luò)結(jié)構(gòu)簡(jiǎn)單，易于實(shí)現(xiàn)。反傳網(wǎng)絡(luò)是一種典型的前向網(wǎng)絡(luò)。

（2）反饋網(wǎng)絡(luò) 網(wǎng)絡(luò)內(nèi)神經(jīng)元間有反饋，可以用一個(gè)無(wú)向的完備圖表示。這種神經(jīng)網(wǎng)絡(luò)的信息處理是狀態(tài)的變換，可以用動(dòng)力學(xué)系統(tǒng)理論處理。系統(tǒng)的穩(wěn)定性與聯(lián)想記憶功能有密切關(guān)系。Hopfield網(wǎng)絡(luò)、波耳茲曼機(jī)均屬于這種類(lèi)型。

學(xué)習(xí)是神經(jīng)網(wǎng)絡(luò)研究的一個(gè)重要內(nèi)容，它的適應(yīng)性是通過(guò)學(xué)習(xí)實(shí)現(xiàn)的。根據(jù)環(huán)境的變化，對(duì)權(quán)值進(jìn)行調(diào)整，改善系統(tǒng)的行為。由Hebb提出的Hebb學(xué)習(xí)規(guī)則為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)。Hebb規(guī)則認(rèn)為學(xué)習(xí)過(guò)程最終發(fā)生在神經(jīng)元之間的突觸部位，突觸的聯(lián)系強(qiáng)度隨著突觸前后神經(jīng)元的活動(dòng)而變化。在此基礎(chǔ)上，人們提出了各種學(xué)習(xí)規(guī)則和算法，以適應(yīng)不同網(wǎng)絡(luò)模型的需要。有效的學(xué)習(xí)算法，使得神經(jīng)網(wǎng)絡(luò)能夠通過(guò)連接權(quán)值的調(diào)整，構(gòu)造客觀世界的內(nèi)在表示，形成具有特色的信息處理方法，信息存儲(chǔ)和處理體現(xiàn)在網(wǎng)絡(luò)的連接中。

根據(jù)學(xué)習(xí)環(huán)境不同，神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式可分為監(jiān)督學(xué)習(xí)和非監(jiān)督學(xué)習(xí)。在監(jiān)督學(xué)習(xí)中，將訓(xùn)練樣本的數(shù)據(jù)加到網(wǎng)絡(luò)輸入端，同時(shí)將相應(yīng)的期望輸出與網(wǎng)絡(luò)輸出相比較，得到誤差信號(hào)，以此控制權(quán)值連接強(qiáng)度的調(diào)整，經(jīng)多次訓(xùn)練后收斂到一個(gè)確定的權(quán)值。當(dāng)樣本情況發(fā)生變化時(shí)，經(jīng)學(xué)習(xí)可以修改權(quán)值以適應(yīng)新的環(huán)境。使用監(jiān)督學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)模型有反傳網(wǎng)絡(luò)、感知器等。非監(jiān)督學(xué)習(xí)時(shí)，事先不給定標(biāo)準(zhǔn)樣本，直接將網(wǎng)絡(luò)置于環(huán)境之中，學(xué)習(xí)階段與工作階段成為一體。此時(shí)，學(xué)習(xí)規(guī)律的變化服從連接權(quán)值的演變方程。非監(jiān)督學(xué)習(xí)最簡(jiǎn)單的例子是Hebb學(xué)習(xí)規(guī)則。競(jìng)爭(zhēng)學(xué)習(xí)規(guī)則是一個(gè)更復(fù)雜的非監(jiān)督學(xué)習(xí)的例子，它是根據(jù)已建立的聚類(lèi)進(jìn)行權(quán)值調(diào)整。自組織映射、適應(yīng)諧振理論網(wǎng)絡(luò)等都是與競(jìng)爭(zhēng)學(xué)習(xí)有關(guān)的典型模型。

研究神經(jīng)網(wǎng)絡(luò)的非線性動(dòng)力學(xué)性質(zhì)，主要采用動(dòng)力學(xué)系統(tǒng)理論、非線性規(guī)劃理論和統(tǒng)計(jì)理論，來(lái)分析神經(jīng)網(wǎng)絡(luò)的演化過(guò)程和吸引子的性質(zhì)，探索神經(jīng)網(wǎng)絡(luò)的協(xié)同行為和集體計(jì)算功能，了解神經(jīng)信息處理機(jī)制。為了探討神經(jīng)網(wǎng)絡(luò)在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會(huì)發(fā)揮作用。混沌是一個(gè)相當(dāng)難以精確定義的數(shù)學(xué)概念。一般而言，“混沌”是指由確定性方程描述的動(dòng)力學(xué)系統(tǒng)中表現(xiàn)出的非確定性行為，或稱(chēng)之為確定的隨機(jī)性。“確定性”是因?yàn)樗蓛?nèi)在的原因而不是外來(lái)的噪聲或干擾所產(chǎn)生，而“隨機(jī)性”是指其不規(guī)則的、不能預(yù)測(cè)的行為，只可能用統(tǒng)計(jì)的方法描述。混沌動(dòng)力學(xué)系統(tǒng)的主要特征是其狀態(tài)對(duì)初始條件的靈敏依賴(lài)性，混沌反映其內(nèi)在的隨機(jī)性。混沌理論是指描述具有混沌行為的非線性動(dòng)力學(xué)系統(tǒng)的基本理論、概念、方法，它把動(dòng)力學(xué)系統(tǒng)的復(fù)雜行為理解為其自身與其在同外界進(jìn)行物質(zhì)、能量和信息交換過(guò)程中內(nèi)在的有結(jié)構(gòu)的行為，而不是外來(lái)的和偶然的行為，混沌狀態(tài)是一種定態(tài)。混沌動(dòng)力學(xué)系統(tǒng)的定態(tài)包括：靜止、平穩(wěn)量、周期性、準(zhǔn)同期性和混沌解。混沌軌線是整體上穩(wěn)定與局部不穩(wěn)定相結(jié)合的結(jié)果，稱(chēng)之為奇異吸引子。

常見(jiàn)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

一個(gè)完整的人工神經(jīng)網(wǎng)絡(luò)包括

人工神經(jīng)網(wǎng)絡(luò)主要架構(gòu)是由神經(jīng)元、層和網(wǎng)絡(luò)三個(gè)部分組成。整個(gè)人工神經(jīng)網(wǎng)絡(luò)包含一系列基本的神經(jīng)元、通過(guò)權(quán)重相互連接。

神經(jīng)元是人工神經(jīng)網(wǎng)絡(luò)最基本的單元。單元以層的方式組，每一層的每個(gè)神經(jīng)元和前一層、后-層的神經(jīng)元連接，共分為輸入層、輸出層和隱藏層，三層連接形成一-個(gè)神經(jīng)網(wǎng)絡(luò)。

輸入層只從外部環(huán)境接收信息，是由輸入單元組成，而這些輸入單元可接收樣本中各種不同的特征信息。該層的每個(gè)神經(jīng)元相當(dāng)于自變量，不完成任何計(jì)算，只為下一層傳遞信息；隱藏層介于輸入層和輸出層之間，這些層完全用于分析，其函數(shù)聯(lián)系輸入層變量和輸出層變量，使其更配適數(shù)據(jù)。

而最后，輸出層生成最終結(jié)果，每個(gè)輸出單元會(huì)對(duì)應(yīng)到某一種特定的分類(lèi)，為網(wǎng)絡(luò)送給外部系統(tǒng)的結(jié)果值，，整個(gè)網(wǎng)絡(luò)由調(diào)整鏈接強(qiáng)度的程序來(lái)達(dá)成學(xué)習(xí)的目的。

人工神經(jīng)元網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)主要有哪幾種？謝謝大俠~~~

神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)包括網(wǎng)絡(luò)層數(shù)、各層神經(jīng)元數(shù)量以及各神經(jīng)元之間相互連接的方式。

人工神經(jīng)網(wǎng)絡(luò)的模型從其拓?fù)浣Y(jié)構(gòu)角度去看，可分為層次型和互連型。層次型模型是將神經(jīng)網(wǎng)絡(luò)分為輸入層（Input Layer）、隱層（Hidden Layer）和輸出層（Output Layer），各層順序連接。其中，輸入層神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并將其傳遞給隱層神經(jīng)元。隱層負(fù)責(zé)神經(jīng)網(wǎng)絡(luò)內(nèi)部的信息處理、信息變換。通常會(huì)根據(jù)變換的需要，將隱層設(shè)計(jì)為一層或多層。

擴(kuò)展資料：

人工神經(jīng)網(wǎng)絡(luò)模型主要考慮網(wǎng)絡(luò)連接的拓?fù)浣Y(jié)構(gòu)、神經(jīng)元的特征、學(xué)習(xí)規(guī)則等。目前，已有近40種神經(jīng)網(wǎng)絡(luò)模型，其中有反傳網(wǎng)絡(luò)、感知器、自組織映射、Hopfield網(wǎng)絡(luò)、波耳茲曼機(jī)、適應(yīng)諧振理論等。

人工神經(jīng)網(wǎng)絡(luò)采用了與傳統(tǒng)人工智能和信息處理技術(shù)完全不同的機(jī)理，克服了傳統(tǒng)的基于邏輯符號(hào)的人工智能在處理直覺(jué)、非結(jié)構(gòu)化信息方面的缺陷，具有自適應(yīng)、自組織和實(shí)時(shí)學(xué)習(xí)的特點(diǎn)。

參考資料來(lái)源：

百度百科-人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)由哪幾部分構(gòu)成? 10

"人工神經(jīng)網(wǎng)絡(luò)"共有13個(gè)神經(jīng)元構(gòu)成，4個(gè)為輸入神經(jīng)元，1個(gè)為輸 出神經(jīng)元。也就是說(shuō)，這個(gè)程序最多能處理一個(gè)四元關(guān)系(包含了二元， 三元)。

神經(jīng)網(wǎng)絡(luò)有哪些主要分類(lèi)規(guī)則并如何分類(lèi)？

神經(jīng)網(wǎng)絡(luò)模型的分類(lèi)

人工神經(jīng)網(wǎng)絡(luò)的模型很多，可以按照不同的方法進(jìn)行分類(lèi)。其中，常見(jiàn)的兩種分類(lèi)方法是，按照網(wǎng)絡(luò)連接的拓樸結(jié)構(gòu)分類(lèi)和按照網(wǎng)絡(luò)內(nèi)部的信息流向分類(lèi)。

1

按照網(wǎng)絡(luò)拓樸結(jié)構(gòu)分類(lèi)

網(wǎng)絡(luò)的拓樸結(jié)構(gòu)，即神經(jīng)元之間的連接方式。按此劃分，可將神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分為兩大類(lèi)：層次型結(jié)構(gòu)和互聯(lián)型結(jié)構(gòu)。

層次型結(jié)構(gòu)的神經(jīng)網(wǎng)絡(luò)將神經(jīng)元按功能和順序的不同分為輸出層、中間層（隱層）、輸出層。輸出層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息，并傳給中間各隱層神經(jīng)元；隱層是神經(jīng)網(wǎng)絡(luò)的內(nèi)部信息處理層，負(fù)責(zé)信息變換。根據(jù)需要可設(shè)計(jì)為一層或多層；最后一個(gè)隱層將信息傳遞給輸出層神經(jīng)元經(jīng)進(jìn)一步處理后向外界輸出信息處理結(jié)果。

而互連型網(wǎng)絡(luò)結(jié)構(gòu)中，任意兩個(gè)節(jié)點(diǎn)之間都可能存在連接路徑，因此可以根據(jù)網(wǎng)絡(luò)中節(jié)點(diǎn)的連接程度將互連型網(wǎng)絡(luò)細(xì)分為三種情況：全互連型、局部互連型和稀疏連接型。

2

按照網(wǎng)絡(luò)信息流向分類(lèi)

從神經(jīng)網(wǎng)絡(luò)內(nèi)部信息傳遞方向來(lái)看，可以分為兩種類(lèi)型：前饋型網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)。

單純前饋網(wǎng)絡(luò)的結(jié)構(gòu)與分層網(wǎng)絡(luò)結(jié)構(gòu)相同，前饋是因網(wǎng)絡(luò)信息處理的方向是從輸入層到各隱層再到輸出層逐層進(jìn)行而得名的。前饋型網(wǎng)絡(luò)中前一層的輸出是下一層的輸入，信息的處理具有逐層傳遞進(jìn)行的方向性，一般不存在反饋環(huán)路。因此這類(lèi)網(wǎng)絡(luò)很容易串聯(lián)起來(lái)建立多層前饋網(wǎng)絡(luò)。

反饋型網(wǎng)絡(luò)的結(jié)構(gòu)與單層全互連結(jié)構(gòu)網(wǎng)絡(luò)相同。在反饋型網(wǎng)絡(luò)中的所有節(jié)點(diǎn)都具有信息處理功能，而且每個(gè)節(jié)點(diǎn)既可以從外界接受輸入，同時(shí)又可以向外界輸出。

簡(jiǎn)述人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)形式

神經(jīng)網(wǎng)絡(luò)有多種分類(lèi)方式，例如，按網(wǎng)絡(luò)性能可分為連續(xù)型與離散型網(wǎng)絡(luò)，確定型與隨機(jī)型網(wǎng)絡(luò):按網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)可分為前向神經(jīng)網(wǎng)絡(luò)與反饋神經(jīng)網(wǎng)絡(luò)。本章土要簡(jiǎn)介前向神經(jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織特征映射神經(jīng)網(wǎng)絡(luò)。

前向神經(jīng)網(wǎng)絡(luò)是數(shù)據(jù)挖掘中廣為應(yīng)用的一種網(wǎng)絡(luò)，其原理或算法也是很多神經(jīng)網(wǎng)絡(luò)模型的基礎(chǔ)。徑向基函數(shù)神經(jīng)網(wǎng)絡(luò)就是一種前向型神經(jīng)網(wǎng)絡(luò)。

Hopfield神經(jīng)網(wǎng)絡(luò)是反饋網(wǎng)絡(luò)的代表。Hvpfi}ld網(wǎng)絡(luò)的原型是一個(gè)非線性動(dòng)力學(xué)系統(tǒng)，目前，已經(jīng)在聯(lián)想記憶和優(yōu)化計(jì)算中得到成功應(yīng)用。

模擬退火算法是為解決優(yōu)化計(jì)算中局部極小問(wèn)題提出的。Baltzmann機(jī)是具有隨機(jī)輸出值單元的隨機(jī)神經(jīng)網(wǎng)絡(luò)，串行的Baltzmann機(jī)可以看作是對(duì)二次組合優(yōu)化問(wèn)題的模擬退火算法的具體實(shí)現(xiàn)，同時(shí)它還可以模擬外界的概率分布，實(shí)現(xiàn)概率意義上的聯(lián)想記憶。

自組織競(jìng)爭(zhēng)型神經(jīng)網(wǎng)絡(luò)的特點(diǎn)是能識(shí)別環(huán)境的特征并自動(dòng)聚類(lèi)。自組織竟?fàn)幮蜕窠?jīng)網(wǎng)絡(luò)已成功應(yīng)用于特征抽取和大規(guī)模數(shù)據(jù)處理。

神經(jīng)網(wǎng)絡(luò)算法的人工神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks，ANN）系統(tǒng)是 20 世紀(jì) 40 年代后出現(xiàn)的。它是由眾多的神經(jīng)元可調(diào)的連接權(quán)值連接而成，具有大規(guī)模并行處理、分布式信 息存儲(chǔ)、良好的自組織自學(xué)習(xí)能力等特點(diǎn)。BP（Back Propagation）算法又稱(chēng)為誤差 反向傳播算法，是人工神經(jīng)網(wǎng)絡(luò)中的一種監(jiān)督式的學(xué)習(xí)算法。BP 神經(jīng)網(wǎng)絡(luò)算法在理 論上可以逼近任意函數(shù)，基本的結(jié)構(gòu)由非線性變化單元組成，具有很強(qiáng)的非線性映射能力。而且網(wǎng)絡(luò)的中間層數(shù)、各層的處理單元數(shù)及網(wǎng)絡(luò)的學(xué)習(xí)系數(shù)等參數(shù)可根據(jù)具體情況設(shè)定，靈活性很大，在優(yōu)化、信號(hào)處理與模式識(shí)別、智能控制、故障診斷等許 多領(lǐng)域都有著廣泛的應(yīng)用前景。 人工神經(jīng)元的研究起源于腦神經(jīng)元學(xué)說(shuō)。19世紀(jì)末，在生物、生理學(xué)領(lǐng)域，Waldeger等人創(chuàng)建了神經(jīng)元學(xué)說(shuō)。人們認(rèn)識(shí)到復(fù)雜的神經(jīng)系統(tǒng)是由數(shù)目繁多的神經(jīng)元組合而成。大腦皮層包括有100億個(gè)以上的神經(jīng)元，每立方毫米約有數(shù)萬(wàn)個(gè)，它們互相聯(lián)結(jié)形成神經(jīng)網(wǎng)絡(luò)，通過(guò)感覺(jué)器官和神經(jīng)接受來(lái)自身體內(nèi)外的各種信息，傳遞至中樞神經(jīng)系統(tǒng)內(nèi)，經(jīng)過(guò)對(duì)信息的分析和綜合，再通過(guò)運(yùn)動(dòng)神經(jīng)發(fā)出控制信息，以此來(lái)實(shí)現(xiàn)機(jī)體與內(nèi)外環(huán)境的聯(lián)系，協(xié)調(diào)全身的各種機(jī)能活動(dòng)。

神經(jīng)元也和其他類(lèi)型的細(xì)胞一樣，包括有細(xì)胞膜、細(xì)胞質(zhì)和細(xì)胞核。但是神經(jīng)細(xì)胞的形態(tài)比較特殊，具有許多突起，因此又分為細(xì)胞體、軸突和樹(shù)突三部分。細(xì)胞體內(nèi)有細(xì)胞核，突起的作用是傳遞信息。樹(shù)突是作為引入輸入信號(hào)的突起，而軸突是作為輸出端的突起，它只有一個(gè)。

樹(shù)突是細(xì)胞體的延伸部分，它由細(xì)胞體發(fā)出后逐漸變細(xì)，全長(zhǎng)各部位都可與其他神經(jīng)元的軸突末梢相互聯(lián)系，形成所謂“突觸”。在突觸處兩神經(jīng)元并未連通，它只是發(fā)生信息傳遞功能的結(jié)合部，聯(lián)系界面之間間隙約為（15～50)×10米。突觸可分為興奮性與抑制性?xún)煞N類(lèi)型，它相應(yīng)于神經(jīng)元之間耦合的極性。每個(gè)神經(jīng)元的突觸數(shù)目正常，最高可達(dá)10個(gè)。各神經(jīng)元之間的連接強(qiáng)度和極性有所不同，并且都可調(diào)整、基于這一特性，人腦具有存儲(chǔ)信息的功能。利用大量神經(jīng)元相互聯(lián)接組成人工神經(jīng)網(wǎng)絡(luò)可顯示出人的大腦的某些特征。

人工神經(jīng)網(wǎng)絡(luò)是由大量的簡(jiǎn)單基本元件——神經(jīng)元相互聯(lián)接而成的自適應(yīng)非線性動(dòng)態(tài)系統(tǒng)。每個(gè)神經(jīng)元的結(jié)構(gòu)和功能比較簡(jiǎn)單，但大量神經(jīng)元組合產(chǎn)生的系統(tǒng)行為卻非常復(fù)雜。

人工神經(jīng)網(wǎng)絡(luò)反映了人腦功能的若干基本特性，但并非生物系統(tǒng)的逼真描述，只是某種模仿、簡(jiǎn)化和抽象。

與數(shù)字計(jì)算機(jī)比較，人工神經(jīng)網(wǎng)絡(luò)在構(gòu)成原理和功能特點(diǎn)等方面更加接近人腦，它不是按給定的程序一步一步地執(zhí)行運(yùn)算，而是能夠自身適應(yīng)環(huán)境、總結(jié)規(guī)律、完成某種運(yùn)算、識(shí)別或過(guò)程控制。

人工神經(jīng)網(wǎng)絡(luò)首先要以一定的學(xué)習(xí)準(zhǔn)則進(jìn)行學(xué)習(xí)，然后才能工作。現(xiàn)以人工神經(jīng)網(wǎng)絡(luò)對(duì)于寫(xiě)“A”、“B”兩個(gè)字母的識(shí)別為例進(jìn)行說(shuō)明，規(guī)定當(dāng)“A”輸入網(wǎng)絡(luò)時(shí)，應(yīng)該輸出“1”，而當(dāng)輸入為“B”時(shí)，輸出為“0”。

所以網(wǎng)絡(luò)學(xué)習(xí)的準(zhǔn)則應(yīng)該是：如果網(wǎng)絡(luò)作出錯(cuò)誤的的判決，則通過(guò)網(wǎng)絡(luò)的學(xué)習(xí)，應(yīng)使得網(wǎng)絡(luò)減少下次犯同樣錯(cuò)誤的可能性。首先，給網(wǎng)絡(luò)的各連接權(quán)值賦予(0，1)區(qū)間內(nèi)的隨機(jī)值，將“A”所對(duì)應(yīng)的圖象模式輸入給網(wǎng)絡(luò)，網(wǎng)絡(luò)將輸入模式加權(quán)求和、與門(mén)限比較、再進(jìn)行非線性運(yùn)算，得到網(wǎng)絡(luò)的輸出。在此情況下，網(wǎng)絡(luò)輸出為“1”和“0”的概率各為50%，也就是說(shuō)是完全隨機(jī)的。這時(shí)如果輸出為“1”(結(jié)果正確)，則使連接權(quán)值增大，以便使網(wǎng)絡(luò)再次遇到“A”模式輸入時(shí)，仍然能作出正確的判斷。

如果輸出為“0”(即結(jié)果錯(cuò)誤)，則把網(wǎng)絡(luò)連接權(quán)值朝著減小綜合輸入加權(quán)值的方向調(diào)整，其目的在于使網(wǎng)絡(luò)下次再遇到“A”模式輸入時(shí)，減小犯同樣錯(cuò)誤的可能性。如此操作調(diào)整，當(dāng)給網(wǎng)絡(luò)輪番輸入若干個(gè)手寫(xiě)字母“A”、“B”后，經(jīng)過(guò)網(wǎng)絡(luò)按以上學(xué)習(xí)方法進(jìn)行若干次學(xué)習(xí)后，網(wǎng)絡(luò)判斷的正確率將大大提高。這說(shuō)明網(wǎng)絡(luò)對(duì)這兩個(gè)模式的學(xué)習(xí)已經(jīng)獲得了成功，它已將這兩個(gè)模式分布地記憶在網(wǎng)絡(luò)的各個(gè)連接權(quán)值上。當(dāng)網(wǎng)絡(luò)再次遇到其中任何一個(gè)模式時(shí)，能夠作出迅速、準(zhǔn)確的判斷和識(shí)別。一般說(shuō)來(lái)，網(wǎng)絡(luò)中所含的神經(jīng)元個(gè)數(shù)越多，則它能記憶、識(shí)別的模式也就越多。 （1）人類(lèi)大腦有很強(qiáng)的自適應(yīng)與自組織特性，后天的學(xué)習(xí)與訓(xùn)練可以開(kāi)發(fā)許多各具特色的活動(dòng)功能。如盲人的聽(tīng)覺(jué)和觸覺(jué)非常靈敏；聾啞人善于運(yùn)用手勢(shì)；訓(xùn)練有素的運(yùn)動(dòng)員可以表現(xiàn)出非凡的運(yùn)動(dòng)技巧等等。

普通計(jì)算機(jī)的功能取決于程序中給出的知識(shí)和能力。顯然，對(duì)于智能活動(dòng)要通過(guò)總結(jié)編制程序?qū)⑹掷щy。

人工神經(jīng)網(wǎng)絡(luò)也具有初步的自適應(yīng)與自組織能力。在學(xué)習(xí)或訓(xùn)練過(guò)程中改變突觸權(quán)重值，以適應(yīng)周?chē)h(huán)境的要求。同一網(wǎng)絡(luò)因?qū)W習(xí)方式及內(nèi)容不同可具有不同的功能。人工神經(jīng)網(wǎng)絡(luò)是一個(gè)具有學(xué)習(xí)能力的系統(tǒng)，可以發(fā)展知識(shí)，以致超過(guò)設(shè)計(jì)者原有的知識(shí)水平。通常，它的學(xué)習(xí)訓(xùn)練方式可分為兩種，一種是有監(jiān)督或稱(chēng)有導(dǎo)師的學(xué)習(xí)，這時(shí)利用給定的樣本標(biāo)準(zhǔn)進(jìn)行分類(lèi)或模仿；另一種是無(wú)監(jiān)督學(xué)習(xí)或稱(chēng)無(wú)為導(dǎo)師學(xué)習(xí)，這時(shí)，只規(guī)定學(xué)習(xí)方式或某些規(guī)則，則具體的學(xué)習(xí)內(nèi)容隨系統(tǒng)所處環(huán)境 （即輸入信號(hào)情況）而異，系統(tǒng)可以自動(dòng)發(fā)現(xiàn)環(huán)境特征和規(guī)律性，具有更近似人腦的功能。

（2）泛化能力

泛化能力指對(duì)沒(méi)有訓(xùn)練過(guò)的樣本，有很好的預(yù)測(cè)能力和控制能力。特別是，當(dāng)存在一些有噪聲的樣本，網(wǎng)絡(luò)具備很好的預(yù)測(cè)能力。

(3)非線性映射能力

當(dāng)對(duì)系統(tǒng)對(duì)于設(shè)計(jì)人員來(lái)說(shuō)，很透徹或者很清楚時(shí)，則一般利用數(shù)值分析，偏微分方程等數(shù)學(xué)工具建立精確的數(shù)學(xué)模型，但當(dāng)對(duì)系統(tǒng)很復(fù)雜，或者系統(tǒng)未知，系統(tǒng)信息量很少時(shí)，建立精確的數(shù)學(xué)模型很困難時(shí)，神經(jīng)網(wǎng)絡(luò)的非線性映射能力則表現(xiàn)出優(yōu)勢(shì)，因?yàn)樗恍枰獙?duì)系統(tǒng)進(jìn)行透徹的了解，但是同時(shí)能達(dá)到輸入與輸出的映射關(guān)系，這就大大簡(jiǎn)化設(shè)計(jì)的難度。

(4)高度并行性

并行性具有一定的爭(zhēng)議性。承認(rèn)具有并行性理由：神經(jīng)網(wǎng)絡(luò)是根據(jù)人的大腦而抽象出來(lái)的數(shù)學(xué)模型，由于人可以同時(shí)做一些事，所以從功能的模擬角度上看，神經(jīng)網(wǎng)絡(luò)也應(yīng)具備很強(qiáng)的并行性。

多少年以來(lái)，人們從醫(yī)學(xué)、生物學(xué)、生理學(xué)、哲學(xué)、信息學(xué)、計(jì)算機(jī)科學(xué)、認(rèn)知學(xué)、組織協(xié)同學(xué)等各個(gè)角度企圖認(rèn)識(shí)并解答上述問(wèn)題。在尋找上述問(wèn)題答案的研究過(guò)程中，這些年來(lái)逐漸形成了一個(gè)新興的多學(xué)科交叉技術(shù)領(lǐng)域，稱(chēng)之為“神經(jīng)網(wǎng)絡(luò)”。神經(jīng)網(wǎng)絡(luò)的研究涉及眾多學(xué)科領(lǐng)域，這些領(lǐng)域互相結(jié)合、相互滲透并相互推動(dòng)。不同領(lǐng)域的科學(xué)家又從各自學(xué)科的興趣與特色出發(fā)，提出不同的問(wèn)題，從不同的角度進(jìn)行研究。

下面將人工神經(jīng)網(wǎng)絡(luò)與通用的計(jì)算機(jī)工作特點(diǎn)來(lái)對(duì)比一下：

若從速度的角度出發(fā)，人腦神經(jīng)元之間傳遞信息的速度要遠(yuǎn)低于計(jì)算機(jī)，前者為毫秒量級(jí)，而后者的頻率往往可達(dá)幾百兆赫。但是，由于人腦是一個(gè)大規(guī)模并行與串行組合處理系統(tǒng)，因而，在許多問(wèn)題上可以作出快速判斷、決策和處理，其速度則遠(yuǎn)高于串行結(jié)構(gòu)的普通計(jì)算機(jī)。人工神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)模仿人腦，具有并行處理特征，可以大大提高工作速度。

人腦存貯信息的特點(diǎn)為利用突觸效能的變化來(lái)調(diào)整存貯內(nèi)容，也即信息存貯在神經(jīng)元之間連接強(qiáng)度的分布上，存貯區(qū)與計(jì)算機(jī)區(qū)合為一體。雖然人腦每日有大量神經(jīng)細(xì)胞死亡 （平均每小時(shí)約一千個(gè)），但不影響大腦的正常思維活動(dòng)。

普通計(jì)算機(jī)是具有相互獨(dú)立的存貯器和運(yùn)算器，知識(shí)存貯與數(shù)據(jù)運(yùn)算互不相關(guān)，只有通過(guò)人編出的程序使之溝通，這種溝通不能超越程序編制者的預(yù)想。元器件的局部損壞及程序中的微小錯(cuò)誤都可能引起嚴(yán)重的失常。 心理學(xué)家和認(rèn)知科學(xué)家研究神經(jīng)網(wǎng)絡(luò)的目的在于探索人腦加工、儲(chǔ)存和搜索信息的機(jī)制，弄清人腦功能的機(jī)理，建立人類(lèi)認(rèn)知過(guò)程的微結(jié)構(gòu)理論。

生物學(xué)、醫(yī)學(xué)、腦科學(xué)專(zhuān)家試圖通過(guò)神經(jīng)網(wǎng)絡(luò)的研究推動(dòng)腦科學(xué)向定量、精確和理論化體系發(fā)展，同時(shí)也寄希望于臨床醫(yī)學(xué)的新突破；信息處理和計(jì)算機(jī)科學(xué)家研究這一問(wèn)題的目的在于尋求新的途徑以解決不能解決或解決起來(lái)有極大困難的大量問(wèn)題，構(gòu)造更加逼近人腦功能的新一代計(jì)算機(jī)。

人工神經(jīng)網(wǎng)絡(luò)早期的研究工作應(yīng)追溯至上世紀(jì)40年代。下面以時(shí)間順序，以著名的人物或某一方面突出的研究成果為線索，簡(jiǎn)要介紹人工神經(jīng)網(wǎng)絡(luò)的發(fā)展歷史。

1943年，心理學(xué)家W·Mcculloch和數(shù)理邏輯學(xué)家W·Pitts在分析、總結(jié)神經(jīng)元基本特性的基礎(chǔ)上首先提出神經(jīng)元的數(shù)學(xué)模型。此模型沿用至今，并且直接影響著這一領(lǐng)域研究的進(jìn)展。因而，他們兩人可稱(chēng)為人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)。

1945年馮·諾依曼領(lǐng)導(dǎo)的設(shè)計(jì)小組試制成功存儲(chǔ)程序式電子計(jì)算機(jī)，標(biāo)志著電子計(jì)算機(jī)時(shí)代的開(kāi)始。1948年，他在研究工作中比較了人腦結(jié)構(gòu)與存儲(chǔ)程序式計(jì)算機(jī)的根本區(qū)別，提出了以簡(jiǎn)單神經(jīng)元構(gòu)成的再生自動(dòng)機(jī)網(wǎng)絡(luò)結(jié)構(gòu)。但是，由于指令存儲(chǔ)式計(jì)算機(jī)技術(shù)的發(fā)展非常迅速，迫使他放棄了神經(jīng)網(wǎng)絡(luò)研究的新途徑，繼續(xù)投身于指令存儲(chǔ)式計(jì)算機(jī)技術(shù)的研究，并在此領(lǐng)域作出了巨大貢獻(xiàn)。雖然，馮·諾依曼的名字是與普通計(jì)算機(jī)聯(lián)系在一起的，但他也是人工神經(jīng)網(wǎng)絡(luò)研究的先驅(qū)之一。

50年代末，F·Rosenblatt設(shè)計(jì)制作了“感知機(jī)”，它是一種多層的神經(jīng)網(wǎng)絡(luò)。這項(xiàng)工作首次把人工神經(jīng)網(wǎng)絡(luò)的研究從理論探討付諸工程實(shí)踐。當(dāng)時(shí)，世界上許多實(shí)驗(yàn)室仿效制作感知機(jī)，分別應(yīng)用于文字識(shí)別、聲音識(shí)別、聲納信號(hào)識(shí)別以及學(xué)習(xí)記憶問(wèn)題的研究。然而，這次人工神經(jīng)網(wǎng)絡(luò)的研究高潮未能持續(xù)很久，許多人陸續(xù)放棄了這方面的研究工作，這是因?yàn)楫?dāng)時(shí)數(shù)字計(jì)算機(jī)的發(fā)展處于全盛時(shí)期，許多人誤以為數(shù)字計(jì)算機(jī)可以解決人工智能、模式識(shí)別、專(zhuān)家系統(tǒng)等方面的一切問(wèn)題，使感知機(jī)的工作得不到重視；其次，當(dāng)時(shí)的電子技術(shù)工藝水平比較落后，主要的元件是電子管或晶體管，利用它們制作的神經(jīng)網(wǎng)絡(luò)體積龐大，價(jià)格昂貴，要制作在規(guī)模上與真實(shí)的神經(jīng)網(wǎng)絡(luò)相似是完全不可能的；另外，在1968年一本名為《感知機(jī)》的著作中指出線性感知機(jī)功能是有限的，它不能解決如異感這樣的基本問(wèn)題，而且多層網(wǎng)絡(luò)還不能找到有效的計(jì)算方法，這些論點(diǎn)促使大批研究人員對(duì)于人工神經(jīng)網(wǎng)絡(luò)的前景失去信心。60年代末期，人工神經(jīng)網(wǎng)絡(luò)的研究進(jìn)入了低潮。

另外，在60年代初期，Widrow提出了自適應(yīng)線性元件網(wǎng)絡(luò)，這是一種連續(xù)取值的線性加權(quán)求和閾值網(wǎng)絡(luò)。后來(lái)，在此基礎(chǔ)上發(fā)展了非線性多層自適應(yīng)網(wǎng)絡(luò)。當(dāng)時(shí)，這些工作雖未標(biāo)出神經(jīng)網(wǎng)絡(luò)的名稱(chēng)，而實(shí)際上就是一種人工神經(jīng)網(wǎng)絡(luò)模型。

隨著人們對(duì)感知機(jī)興趣的衰退，神經(jīng)網(wǎng)絡(luò)的研究沉寂了相當(dāng)長(zhǎng)的時(shí)間。80年代初期，模擬與數(shù)字混合的超大規(guī)模集成電路制作技術(shù)提高到新的水平，完全付諸實(shí)用化，此外，數(shù)字計(jì)算機(jī)的發(fā)展在若干應(yīng)用領(lǐng)域遇到困難。這一背景預(yù)示，向人工神經(jīng)網(wǎng)絡(luò)尋求出路的時(shí)機(jī)已經(jīng)成熟。美國(guó)的物理學(xué)家Hopfield于1982年和1984年在美國(guó)科學(xué)院院刊上發(fā)表了兩篇關(guān)于人工神經(jīng)網(wǎng)絡(luò)研究的論文，引起了巨大的反響。人們重新認(rèn)識(shí)到神經(jīng)網(wǎng)絡(luò)的威力以及付諸應(yīng)用的現(xiàn)實(shí)性。隨即，一大批學(xué)者和研究人員圍繞著 Hopfield提出的方法展開(kāi)了進(jìn)一步的工作，形成了80年代中期以來(lái)人工神經(jīng)網(wǎng)絡(luò)的研究熱潮。

1985年，Ackley、Hinton和Sejnowski將模擬退火算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)訓(xùn)練中，提出了Boltzmann機(jī)，該算法具有逃離極值的優(yōu)點(diǎn)，但是訓(xùn)練時(shí)間需要很長(zhǎng)。

1986年，Rumelhart、Hinton和Williams提出了多層前饋神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法，即BP算法。它從證明的角度推導(dǎo)算法的正確性，是學(xué)習(xí)算法有理論依據(jù)。從學(xué)習(xí)算法角度上看，是一個(gè)很大的進(jìn)步。

1988年，Broomhead和Lowe第一次提出了徑向基網(wǎng)絡(luò)：RBF網(wǎng)絡(luò)。

總體來(lái)說(shuō)，神經(jīng)網(wǎng)絡(luò)經(jīng)歷了從高潮到低谷，再到高潮的階段，充滿曲折的過(guò)程。

?

總結(jié)

以上是生活随笔為你收集整理的人工神经网络基本构成有哪些，常见的人工神经网络有哪几种的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問(wèn)題。

如果覺(jué)得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。