亚洲日韩欧美自拍另类愉拍,精品无码午夜一区二区三区在线,欧美日韩va另类影音先锋

《前饋神經(jīng)網(wǎng)絡(luò)分析與設(shè)計》系統(tǒng)地論述了前饋神經(jīng)網(wǎng)絡(luò)的主要理論、設(shè)計基礎(chǔ)及應(yīng)用實例，旨在使讀者了解神經(jīng)網(wǎng)絡(luò)的發(fā)展背景和研究對象，理解和熟悉它的基本原理和主要應(yīng)用，掌握它的結(jié)構(gòu)模型和設(shè)計應(yīng)用方法，特別是前饋神經(jīng)網(wǎng)絡(luò)的參數(shù)學(xué)習(xí)算法和結(jié)構(gòu)設(shè)計方法，為深入研究和應(yīng)用開發(fā)打下基礎(chǔ)。為了便于讀者理解，書中盡量避免煩瑣的數(shù)學(xué)推導(dǎo)，加強了應(yīng)用舉例，并在內(nèi)容的選擇和編排上注意到讀者初次接觸新概念的易接受性和思維的邏輯性。作為擴充知識，書中還介紹了前饋神經(jīng)系統(tǒng)的基本概念、體系結(jié)構(gòu)、控制特性及信息模式。

更多科學(xué)出版社服務(wù)，請掃碼獲取。

第1章緒論
1.1 引言腦和神經(jīng)系統(tǒng)是人體結(jié)構(gòu)、功能中最復(fù)雜的系統(tǒng)，隨著分子生物學(xué)、細(xì)胞生物學(xué)的發(fā)展，大規(guī)模開展腦研究成為可能［1］。眾所周知，數(shù)字計算機具有很強的計算和信息處理能力，但是它對于模式識別、感知以及在復(fù)雜環(huán)境中作決策等問題的處理能力卻遠(yuǎn)不如人。神經(jīng)生理學(xué)研究結(jié)果表明，人的智能主要取決于大腦皮層，而大腦皮層是一個大規(guī)�；ミB的生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)［2］。探求大腦的組織結(jié)構(gòu)和運行機制，從模仿人腦智能的角度出發(fā)，尋求新的信息處理方法是當(dāng)前人工智能領(lǐng)域的研究熱點問題。國家中長期科學(xué)和技術(shù)發(fā)展規(guī)劃綱要中也明確指出：腦功能的細(xì)胞和分子機理、腦學(xué)習(xí)記憶和思維等高級認(rèn)知功能的過程及其神經(jīng)基礎(chǔ)、腦信息表達(dá)等研究方向?qū)儆诋?dāng)前的科學(xué)前沿問題［3］。
高性能、低成本、普適計算和智能化等是當(dāng)前信息科學(xué)發(fā)展的主要方向，尋求新的計算與處理方式和物理實現(xiàn)是未來信息技術(shù)領(lǐng)域面臨的重大挑戰(zhàn)［3］。人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)的研究正是在與傳統(tǒng)計算方法挑戰(zhàn)的過程中得以發(fā)展、壯大，目前已經(jīng)成為人工智能領(lǐng)域中最活躍的研究方向之一。一般來說，神經(jīng)網(wǎng)絡(luò)主要研究ABC2等問題，即人工神經(jīng)網(wǎng)絡(luò)人工神經(jīng)網(wǎng)絡(luò)(artificial neural network, ANN)、生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)(biological neural network, BNN)、認(rèn)知科學(xué)認(rèn)知科學(xué)(cognitive science)和混沌混沌(chaos)［4］。人工神經(jīng)網(wǎng)絡(luò)的研究主要集中在神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)算法的研究兩方面［5］。近年來隨著腦科學(xué)、神經(jīng)生物學(xué)的發(fā)展，人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的研究開始全面向生物神經(jīng)系統(tǒng)靠攏。
人工神經(jīng)網(wǎng)絡(luò)是智能科學(xué)的重要組成部分，已經(jīng)成為腦科學(xué)、認(rèn)知科學(xué)、計算機科學(xué)、數(shù)學(xué)和物理學(xué)等學(xué)科共同關(guān)注的焦點。其應(yīng)用研究已經(jīng)滲透到工業(yè)、農(nóng)業(yè)、國防、航空等領(lǐng)域，并且在信號處理、智能控制、模式識別、圖像處理、非線性優(yōu)化、知識處理等方面取得了令人鼓舞的進(jìn)展［6-11］。
從20世紀(jì)80年代初復(fù)蘇以來，人工神經(jīng)網(wǎng)絡(luò)在計算能力、對任意連續(xù)映射的逼近能力、學(xué)習(xí)理論以及動態(tài)網(wǎng)絡(luò)穩(wěn)定性分析等方面都取得了豐碩的成果［12］。在結(jié)構(gòu)設(shè)計方面，除了經(jīng)典的神經(jīng)網(wǎng)絡(luò)外卻鮮有突破性進(jìn)展，但這方面的工作已引起了學(xué)者們的廣泛關(guān)注［13-15］。神經(jīng)網(wǎng)絡(luò)實際應(yīng)用的需求驅(qū)動了其理論研究的發(fā)展，其實每一個成功的應(yīng)用都需要對神經(jīng)網(wǎng)絡(luò)進(jìn)行精心設(shè)計�？梢姡斯ど窠�(jīng)網(wǎng)絡(luò)結(jié)構(gòu)優(yōu)化設(shè)計是神經(jīng)網(wǎng)絡(luò)成功應(yīng)用的核心技術(shù)，對其展開研究也是神經(jīng)網(wǎng)絡(luò)推廣應(yīng)用的客觀需要。
人工神經(jīng)網(wǎng)絡(luò)就是借鑒生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和生物神經(jīng)元工作機理，在一定程度上模擬人腦功能的信息處理系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)已經(jīng)在模式識別、組合優(yōu)化、函數(shù)逼近、智能控制、過程建模等方面得到成功應(yīng)用，應(yīng)用前景不容置疑。但目前的神經(jīng)網(wǎng)絡(luò)多數(shù)是通過足夠的設(shè)計經(jīng)驗和充足的數(shù)據(jù)確定其結(jié)構(gòu)，且神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)一旦確定之后將不再調(diào)整。對一些工況變化不大、動態(tài)特性比較平穩(wěn)的任務(wù)，理論和實踐都已經(jīng)證明通過調(diào)整神經(jīng)網(wǎng)絡(luò)參數(shù)可以滿足實際需要。但是對于工況變化異常劇烈、動態(tài)特性呈現(xiàn)出很強的非線性的任務(wù)，其效果往往不佳。傳統(tǒng)的固定結(jié)構(gòu)人工神經(jīng)網(wǎng)絡(luò)性能僅僅由參數(shù)學(xué)習(xí)算法提供，在工作過程中，只是通過改變神經(jīng)網(wǎng)絡(luò)的參數(shù)以適應(yīng)任務(wù)的變化。而神經(jīng)計算領(lǐng)域的研究結(jié)果顯示生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)之所以有如此強大的信息處理能力，與生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)有很大的關(guān)系，生物神經(jīng)網(wǎng)絡(luò)生物神經(jīng)網(wǎng)絡(luò)的信息傳輸和信息處理能夠根據(jù)信息量和復(fù)雜度進(jìn)行自組調(diào)整神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)連接方式。為了進(jìn)一步推進(jìn)人工神經(jīng)網(wǎng)絡(luò)對人腦功能的模擬，解決人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)動態(tài)優(yōu)化設(shè)計的問題，本書詳細(xì)介紹了幾種典型前饋神經(jīng)網(wǎng)絡(luò)；并描述了幾種前饋神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法；最后分析了神經(jīng)網(wǎng)絡(luò)性能與神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)之間的聯(lián)系，介紹了前饋神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)生長和削減的演化機制，基于此獲得幾種自組織前饋神經(jīng)網(wǎng)絡(luò)。
1.2 神經(jīng)網(wǎng)絡(luò)及其發(fā)展
1.2.1神經(jīng)網(wǎng)絡(luò)的定義人工神經(jīng)網(wǎng)絡(luò)，簡稱神經(jīng)網(wǎng)絡(luò)，是由大量簡單的處理單元——人工神經(jīng)元人工神經(jīng)元(artificial neuron)互相連接而組成的一個高度非線性、并行的自適應(yīng)的信息處理系統(tǒng)。神經(jīng)網(wǎng)絡(luò)是一個非線性的動力學(xué)系統(tǒng)，打破了傳統(tǒng)的串行處理計算機的局限，以并行分布式存儲和處理信息，盡管單個神經(jīng)元的結(jié)構(gòu)和功能都比較簡單，但大量的神經(jīng)元組合起來卻具有強大的處理問題的能力。神經(jīng)網(wǎng)絡(luò)旨在模仿人腦或生物的信息處理系統(tǒng)，是對人腦功能的一種模仿與簡化，具有學(xué)習(xí)、記憶、聯(lián)想、類比、計算以及智能處理的能力，是現(xiàn)代神經(jīng)科學(xué)研究與工程技術(shù)相結(jié)合的產(chǎn)物。神經(jīng)網(wǎng)絡(luò)理論的開創(chuàng)與發(fā)展，對智能科學(xué)和信息技術(shù)的發(fā)展產(chǎn)生了重大的影響和積極的推動作用。
1943年美國神經(jīng)生理學(xué)家McCulloch和Pitts提出的第一個神經(jīng)網(wǎng)絡(luò)模型M-P模型［16］，開創(chuàng)了微觀人工智能的研究工作，奠定了人工神經(jīng)網(wǎng)絡(luò)發(fā)展的基礎(chǔ)。人工神經(jīng)網(wǎng)絡(luò)經(jīng)過幾十年的發(fā)展，無論是在理論研究還是在工程應(yīng)用方面都取得了較為豐富的科研成果。
1.2.2 神經(jīng)網(wǎng)絡(luò)的功能
神經(jīng)網(wǎng)絡(luò)是通過對人類大腦結(jié)構(gòu)和功能的模擬建立起來的一個非線性、自適應(yīng)的高級信息處理系統(tǒng)。它是現(xiàn)代神經(jīng)科學(xué)研究與工程技術(shù)應(yīng)用相結(jié)合的產(chǎn)物，通過對大腦的模擬進(jìn)行信息處理。神經(jīng)網(wǎng)絡(luò)具有強大的計算能力，是由其本身大規(guī)模的并行分布式結(jié)構(gòu)和較好的學(xué)習(xí)能力以及由此延伸而來的泛化能力決定。神經(jīng)網(wǎng)絡(luò)具有非線性、分布/處理、容錯性、自適應(yīng)性等顯著特點，如圖1-1所示。
圖1-1神經(jīng)網(wǎng)絡(luò)的特點
1.非線性
神經(jīng)網(wǎng)絡(luò)的單個處理單元——人工神經(jīng)元人工神經(jīng)元可以是線性或非線性的，但是由此互相連接而成的神經(jīng)網(wǎng)絡(luò)本身卻是非線性的。此外，非線性是一種分布于整個網(wǎng)絡(luò)的特殊性質(zhì)。因此，神經(jīng)網(wǎng)絡(luò)具有非線性映射能力，且理論研究已經(jīng)表明一個三層的神經(jīng)網(wǎng)絡(luò)能夠以任意精度逼近非線性系統(tǒng)。
2.并行分布/處理
神經(jīng)網(wǎng)絡(luò)是為模擬大腦的結(jié)構(gòu)和功能而建立的一種數(shù)學(xué)模型，大量的人工神經(jīng)元人工神經(jīng)元相互連接成一個高度并行的非線性動力學(xué)系統(tǒng)。盡管單個人工神經(jīng)元人工神經(jīng)元的功能都十分簡單，但大量神經(jīng)元的并行活動使得整個網(wǎng)絡(luò)呈現(xiàn)出較強大的處理能力。神經(jīng)網(wǎng)絡(luò)中信息的存儲體現(xiàn)在神經(jīng)元之間互相連接的并行分布結(jié)構(gòu)上，進(jìn)而使得信息的處理必然采用大規(guī)模的并行分布方式進(jìn)行，即神經(jīng)網(wǎng)絡(luò)中信息的存儲和處理是在整個網(wǎng)絡(luò)中同時進(jìn)行的，信息不是存儲在神經(jīng)網(wǎng)絡(luò)中的某個局部，而是分布在網(wǎng)絡(luò)的所有單元之中。一個神經(jīng)網(wǎng)絡(luò)可以存儲多種信息，而神經(jīng)元連接權(quán)值中只存儲多種信息的一部分。神經(jīng)網(wǎng)絡(luò)的內(nèi)在結(jié)構(gòu)的并行分布方式，使得信息的存儲和處理在空間與時間分布上均是并行的。神經(jīng)網(wǎng)絡(luò)中的數(shù)據(jù)及其處理是全局的而不是局部的。
3.容錯性
神經(jīng)網(wǎng)絡(luò)善于聯(lián)想、概括、類比和推廣，加之神經(jīng)網(wǎng)絡(luò)信息存儲和處理的并行特性，使得神經(jīng)網(wǎng)絡(luò)在以下兩個方面表現(xiàn)出較好的容錯性。一方面，由于網(wǎng)絡(luò)的信息采用分布式存儲，分布在各個神經(jīng)元的連接權(quán)值之中，當(dāng)網(wǎng)絡(luò)中某一神經(jīng)元或連接權(quán)值出現(xiàn)問題時，局部的改變將不會影響網(wǎng)絡(luò)的整體非線性映射。這一點，與人的大腦中每時每刻都有神經(jīng)細(xì)胞的正常死亡和分裂，但不會影響大腦的整體功能相類似。另一方面，當(dāng)網(wǎng)絡(luò)的輸入信息模糊、殘缺或不完整時，神經(jīng)網(wǎng)絡(luò)能夠通過聯(lián)想、記憶等實現(xiàn)對輸入信息的正確識別。
4.自適應(yīng)性
自適應(yīng)性是指系統(tǒng)能夠通過改變自身的某些性能以適應(yīng)外界環(huán)境變化的能力。自適應(yīng)性是神經(jīng)網(wǎng)絡(luò)的一個重要特性。神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)能力表現(xiàn)在，當(dāng)外界環(huán)境發(fā)生改變，即網(wǎng)絡(luò)的輸入變化時，神經(jīng)網(wǎng)絡(luò)通過一段時間的學(xué)習(xí)和訓(xùn)練，能夠自動調(diào)整網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)，從而給出期望的輸出�？梢栽趯W(xué)習(xí)過程中不斷地完善自身，具有創(chuàng)新的特點。而其自組織特性則表現(xiàn)在，神經(jīng)網(wǎng)絡(luò)在接收外部激勵后可以根據(jù)一定的規(guī)則通過對網(wǎng)絡(luò)權(quán)值的調(diào)整以及神經(jīng)元的增減來重新構(gòu)建新的神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)不但可以處理各種變化的信息，而且在其學(xué)習(xí)階段可以根據(jù)流過網(wǎng)絡(luò)的外部和內(nèi)部信息對自身的連接權(quán)值（結(jié)構(gòu)）進(jìn)行調(diào)整，從而改變網(wǎng)絡(luò)本身的非線性動力學(xué)特性，從而實現(xiàn)對外界環(huán)境的變化。
1.2.3 神經(jīng)網(wǎng)絡(luò)的發(fā)展
人工神經(jīng)網(wǎng)絡(luò)是一門新興交叉學(xué)科，是人類智能研究的重要組成部分，人工神經(jīng)網(wǎng)絡(luò)借鑒了神經(jīng)科學(xué)的研究成果，基于模仿人類大腦的結(jié)構(gòu)和功能構(gòu)成的一種信息處理系統(tǒng)，具有廣泛的應(yīng)用前景。已成為腦科學(xué)、神經(jīng)科學(xué)、認(rèn)知科學(xué)、心理學(xué)、計算機科學(xué)、數(shù)學(xué)和物理學(xué)等共同關(guān)注的焦點。它模仿人腦神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和某些工作機制建立一種計算模型，在過去半個多世紀(jì)中一直統(tǒng)治著信息處理的程序化計算。人工神經(jīng)網(wǎng)絡(luò)的應(yīng)用和發(fā)展不但推動神經(jīng)動力學(xué)本身的發(fā)展，而且為智能計算提供了新的現(xiàn)代化方法，有可能給信息科學(xué)帶來革命性的變化。雖然目前人工神經(jīng)網(wǎng)絡(luò)的研究正處在前所未有的熱潮中，但它的發(fā)展卻不是一帆風(fēng)順的。從研究時間遞推的角度看，人工神經(jīng)網(wǎng)絡(luò)研究主要經(jīng)歷了興起與高潮、蕭條、穩(wěn)步發(fā)展的較為曲折的道路，如圖1-2所示。
圖1-2人工神經(jīng)網(wǎng)絡(luò)的發(fā)展
1.興起與高潮期(1940-1970年)
1943年，心理學(xué)家McCulloch和數(shù)理邏輯學(xué)家Pitts提出了M-P模型［16］，這是第一個用數(shù)理語言描述腦的信息處理過程的模型，雖然神經(jīng)元的功能比較弱，但它為以后的研究工作提供了依據(jù)。1949年，心理學(xué)家Hebb提出突觸聯(lián)系可變的假設(shè)［17］，根據(jù)這一假設(shè)提出的學(xué)習(xí)規(guī)律為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法奠定了基礎(chǔ)。1957年，計算機科學(xué)家Rosenblatt提出了著名的感知機模型［18］，它的模型包含了現(xiàn)代計算機的一些原理，是第一個完整的人工神經(jīng)網(wǎng)絡(luò)，第一次把神經(jīng)網(wǎng)絡(luò)研究付諸工程實現(xiàn)。1960年，Windrow提出了自適應(yīng)線性單元(ADAIINE)［19］，主要用于自適應(yīng)系統(tǒng)。這些簡單網(wǎng)絡(luò)中所體現(xiàn)的許多性質(zhì)，如并行處理、分布式存儲、連續(xù)計算、可學(xué)習(xí)性等，因而引起了不少人的興趣。至此，人工神經(jīng)網(wǎng)絡(luò)的研究工作進(jìn)入了第一個高潮［20］。
……

你還可能感興趣

我要評論