什么是人工神經網絡?

人工智能是學習什么？

1、學習并掌握一些數學知識高等數學是基礎中的基礎，一切理工科都需要這個打底，數據挖掘、人工智能、模式識別此類跟數據打交道的又尤其需要多元微積分運算基礎愛發貓 www.aifamao.com。

線性代數很重要，一般來說線性模型是你最先要考慮的模型，加上很可能要處理多維數據，你需要用線性代數來簡潔清晰的描述問題，為分析求解奠定基礎。

概率論、數理統計、隨機過程更是少不了，涉及數據的問題，不確定性幾乎是不可避免的，引入隨機變量順理成章，相關理論、方法、模型非常豐富。

很多機器學習的算法都是建立在概率論和統計學的基礎上的，比如貝葉斯分類器、高斯隱馬爾可夫鏈。

再就是優化理論與算法，除非你的問題是像二元一次方程求根那樣有現成的公式，否則你將不得不面對各種看起來無解但是要解的問題，優化將是你的GPS為你指路。

以上這些知識打底，就可以開拔了，針對具體應用再補充相關的知識與理論，比如說一些我覺得有幫助的是數值計算、圖論、拓撲，更理論一點的還有實/復分析、測度論，偏工程類一點的還有信號處理、數據結構。

2、掌握經典機器學習理論和算法如果有時間可以為自己建立一個機器學習的知識圖譜，并爭取掌握每一個經典的機器學習理論和算法，我簡單地總結如下：1)回歸算法：常見的回歸算法包括最小二乘法（OrdinaryLeastSquare），邏輯回歸（LogisticRegression），逐步式回歸（StepwiseRegression），多元自適應回歸樣條（MultivariateAdaptiveRegressionSplines）以及本地散點平滑估計（LocallyEstimatedScatterplotSmoothing）；2)基于實例的算法：常見的算法包括k-NearestNeighbor(KNN),學習矢量量化（LearningVectorQuantization，LVQ），以及自組織映射算法（Self-OrganizingMap，SOM）；3)基于正則化方法：常見的算法包括：RidgeRegression，LeastAbsoluteShrinkageandSelectionOperator（LASSO），以及彈性網絡（ElasticNet）；4)決策樹學習：常見的算法包括：分類及回歸樹（ClassificationAndRegressionTree，CART），ID3(IterativeDichotomiser3)，C4.5，Chi-squaredAutomaticInteractionDetection(CHAID),DecisionStump,隨機森林（RandomForest），多元自適應回歸樣條（MARS）以及梯度推進機（GradientBoostingMachine，GBM）；5)基于貝葉斯方法：常見算法包括：樸素貝葉斯算法，平均單依賴估計（AveragedOne-DependenceEstimators，AODE），以及BayesianBeliefNetwork（BBN）；6)基于核的算法：常見的算法包括支持向量機（SupportVectorMachine，SVM），徑向基函數（RadialBasisFunction，RBF)，以及線性判別分析（LinearDiscriminateAnalysis，LDA)等；7)聚類算法：常見的聚類算法包括k-Means算法以及期望最大化算法（ExpectationMaximization，EM）；8)基于關聯規則學習：常見算法包括Apriori算法和Eclat算法等；9)人工神經網絡：重要的人工神經網絡算法包括：感知器神經網絡（PerceptronNeuralNetwork）,反向傳遞（BackPropagation），Hopfield網絡，自組織映射（Self-OrganizingMap,SOM）。

學習矢量量化（LearningVectorQuantization，LVQ）；10)深度學習：常見的深度學習算法包括：受限波爾茲曼機（RestrictedBoltzmannMachine，RBN），DeepBeliefNetworks（DBN），卷積網絡（ConvolutionalNetwork）,堆棧式自動編碼器（StackedAuto-encoders）；11)降低維度的算法：常見的算法包括主成份分析（PrincipleComponentAnalysis，PCA），偏最小二乘回歸（PartialLeastSquareRegression，PLS），Sammon映射，多維尺度（Multi-DimensionalScaling,MDS）,投影追蹤（ProjectionPursuit）等；12)集成算法：常見的算法包括：Boosting，BootstrappedAggregation（Bagging），AdaBoost，堆疊泛化（StackedGeneralization，Blending），梯度推進機（GradientBoostingMachine,GBM），隨機森林（RandomForest）。

3、掌握一種編程工具，比如Python一方面Python是腳本語言，簡便，拿個記事本就能寫，寫完拿控制臺就能跑；另外，Python非常高效，效率比java、r、matlab高。

matlab雖然包也多，但是效率是這四個里面最低的。4、了解行業最新動態和研究成果，比如各大牛的經典論文、博客、讀書筆記、微博微信等媒體資訊。

5、買一個GPU，找一個開源框架，自己多動手訓練深度神經網絡，多動手寫寫代碼，多做一些與人工智能相關的項目。

6、選擇自己感興趣或者工作相關的一個領域深入下去人工智能有很多方向，比如NLP、語音識別、計算機視覺等等，生命有限，必須得選一個方向深入的鉆研下去，這樣才能成為人工智能領域的大牛，有所成就。

根據百度百科給的定義，人工智能（ArtificialIntelligence），英文縮寫為AI。它是研究、開發用于模擬、延伸和擴展人的還能的理論、方法、技術及應用系統的一門新的技術科學。

百度百科關于人工智能的定義詳解中說道：人工智能是計算機的一個分支，二十世紀七十年代以來被稱為世界三大尖端技術之一（空間技術、能源技術、人工智能）。

也被認為是二十一世紀三大尖端技術（基因工程、納米科學、人工智能）之一。

這是因為近三十年來它獲得了迅速的發展，在很多學科領域都獲得了廣泛應用，并取得了豐碩的成果，人工智能已逐步成為一個獨立的分支，無論在理論和實踐上都已自成一個系統。綜上，從定義上講，人工智能是一項技術。

什么是人工神經網絡？

一.一些基本常識和原理[什么叫神經網絡?]人的思維有邏輯性和直觀性兩種不同的基本方式。

邏輯性的思維是指根據邏輯規則進行推理的過程；它先將信息化成概念，并用符號表示，然后，根據符號運算按串行模式進行邏輯推理；這一過程可以寫成串行的指令，讓計算機執行。

然而，直觀性的思維是將分布式存儲的信息綜合起來，結果是忽然間產生想法或解決問題的辦法。

這種思維方式的根本之點在于以下兩點:1.信息是通過神經元上的興奮模式分布儲在網絡上;2.信息處理是通過神經元之間同時相互作用的動態過程來完成的。人工神經網絡就是模擬人思維的第二種方式。

這是一個非線性動力學系統，其特色在于信息的分布式存儲和并行協同處理。雖然單個神經元的結構極其簡單，功能有限，但大量神經元構成的網絡系統所能實現的行為卻是極其豐富多彩的。

[人工神經網絡的工作原理]人工神經網絡首先要以一定的學習準則進行學習，然后才能工作。

現以人工神經網絡對手寫“A”、“B”兩個字母的識別為例進行說明，規定當“A”輸入網絡時，應該輸出“1”，而當輸入為“B”時，輸出為“0”。

所以網絡學習的準則應該是：如果網絡作出錯誤的的判決，則通過網絡的學習，應使得網絡減少下次犯同樣錯誤的可能性。

首先，給網絡的各連接權值賦予(0，1)區間內的隨機值，將“A”所對應的圖象模式輸入給網絡，網絡將輸入模式加權求和、與門限比較、再進行非線性運算，得到網絡的輸出。

在此情況下，網絡輸出為“1”和“0”的概率各為50%，也就是說是完全隨機的。這時如果輸出為“1”(結果正確)，則使連接權值增大，以便使網絡再次遇到“A”模式輸入時，仍然能作出正確的判斷。

如果輸出為“0”(即結果錯誤)，則把網絡連接權值朝著減小綜合輸入加權值的方向調整，其目的在于使網絡下次再遇到“A”模式輸入時，減小犯同樣錯誤的可能性。

如此操作調整，當給網絡輪番輸入若干個手寫字母“A”、“B”后，經過網絡按以上學習方法進行若干次學習后，網絡判斷的正確率將大大提高。

這說明網絡對這兩個模式的學習已經獲得了成功，它已將這兩個模式分布地記憶在網絡的各個連接權值上。當網絡再次遇到其中任何一個模式時，能夠作出迅速、準確的判斷和識別。

一般說來，網絡中所含的神經元個數越多，則它能記憶、識別的模式也就越多。

=================================================關于一個神經網絡模擬程序的下載人工神經網絡實驗系統(BP網絡)V1.0Beta作者:沈琦作者關于此程序的說明:從輸出結果可以看到，前3條"學習"指令，使"輸出"神經元收斂到了值0.515974。

而后3條"學習"指令，其收斂到了值0.520051。再看看處理4和11的指令結果P*Out1:0.520051看到了嗎？"大腦"識別出了4和11是屬于第二類的！

怎么樣?很神奇吧?再打show指令看看吧!"神經網絡"已經形成了!你可以自己任意的設"模式"讓這個"大腦"學習分辯哦!只要樣本數據量充分(可含有誤差的樣本)，如果能夠在out數據上收斂地話，那它就能分辨地很準哦!有時不是絕對精確，因為它具有"模糊處理"的特性.看Process輸出的值接近哪個Learning的值就是"大腦"作出的"模糊性"判別!=================================================人工神經網絡論壇(舊版,楓舞推薦)國際神經網絡學會(INNS)(英文)歐洲神經網絡學會(ENNS)(英文)亞太神經網絡學會(APNNA)(英文)日本神經網絡學會(JNNS)(日文)國際電氣工程師協會神經網絡分會研學論壇神經網絡;sty=1&age=0人工智能研究者俱樂部2nsoft人工神經網絡中文站=================================================推薦部分書籍:人工神經網絡技術入門講稿(PDF)神經網絡FAQ(英文)數字神經網絡系統(電子圖書)神經網絡導論(英文)===============================================一份很有參考價值的講座是Powerpoint文件，比較大，如果網速不夠最好用鼠標右鍵下載另存.。

神經網絡是什么？

生物神經網絡主要是指人腦的神經網絡，它是人工神經網絡的技術原型。

人腦是人類思維的物質基礎，思維的功能定位在大腦皮層，后者含有大約10^11個神經元，每個神經元又通過神經突觸與大約103個其它神經元相連，形成一個高度復雜高度靈活的動態網絡。

作為一門學科，生物神經網絡主要研究人腦神經網絡的結構、功能及其工作機制，意在探索人腦思維和智能活動的規律。

人工神經網絡是生物神經網絡在某種簡化意義下的技術復現，作為一門學科，它的主要任務是根據生物神經網絡的原理和實際應用的需要建造實用的人工神經網絡模型，設計相應的學習算法，模擬人腦的某種智能活動，然后在技術上實現出來用以解決實際問題。

因此，生物神經網絡主要研究智能的機理；人工神經網絡主要研究智能機理的實現，兩者相輔相成。

人工神經網絡的定義，詳細說明

人工神經網絡（ArtificialNeuralNetworks,ANN），一種模范動物神經網絡行為特征，進行分布式并行信息處理的算法數學模型。

這種網絡依靠系統的復雜程度，通過調整內部大量節點之間相互連接的關系，從而達到處理信息的目的。

人工神經網絡具有自學習和自適應的能力，可以通過預先提供的一批相互對應的輸入－輸出數據，分析掌握兩者之間潛在的規律，最終根據這些規律，用新的輸入數據來推算輸出結果，這種學習分析的過程被稱為“訓練”。

（引自《環球科學》2007年第一期《神經語言：老鼠胡須下的秘密》）概念由大量處理單元互聯組成的非線性、自適應信息處理系統。

它是在現代神經科學研究成果的基礎上提出的，試圖通過模擬大腦神經網絡處理、記憶信息的方式進行信息處理。人工神經網絡具有四個基本特征：（1）非線性非線性關系是自然界的普遍特性。

大腦的智慧就是一種非線性現象。人工神經元處于激活或抑制二種不同的狀態，這種行為在數學上表現為一種非線性關系。具有閾值的神經元構成的網絡具有更好的性能，可以提高容錯性和存儲容量。

（2）非局限性一個神經網絡通常由多個神經元廣泛連接而成。一個系統的整體行為不僅取決于單個神經元的特征，而且可能主要由單元之間的相互作用、相互連接所決定。通過單元之間的大量連接模擬大腦的非局限性。

聯想記憶是非局限性的典型例子。（3）非常定性人工神經網絡具有自適應、自組織、自學習能力。神經網絡不但處理的信息可以有各種變化，而且在處理信息的同時，非線性動力系統本身也在不斷變化。

經常采用迭代過程描寫動力系統的演化過程。（4）非凸性一個系統的演化方向，在一定條件下將取決于某個特定的狀態函數。例如能量函數，它的極值相應于系統比較穩定的狀態。

非凸性是指這種函數有多個極值，故系統具有多個較穩定的平衡態，這將導致系統演化的多樣性。人工神經網絡中，神經元處理單元可表示不同的對象，例如特征、字母、概念，或者一些有意義的抽象模式。

網絡中處理單元的類型分為三類：輸入單元、輸出單元和隱單元。輸入單元接受外部世界的信號與數據；輸出單元實現系統處理結果的輸出；隱單元是處在輸入和輸出單元之間，不能由系統外部觀察的單元。

神經元間的連接權值反映了單元間的連接強度，信息的表示和處理體現在網絡處理單元的連接關系中。

人工神經網絡是一種非程序化、適應性、大腦風格的信息處理，其本質是通過網絡的變換和動力學行為得到一種并行分布式的信息處理功能，并在不同程度和層次上模仿人腦神經系統的信息處理功能。

它是涉及神經科學、思維科學、人工智能、計算機科學等多個領域的交叉學科。

人工神經網絡是并行分布式系統，采用了與傳統人工智能和信息處理技術完全不同的機理，克服了傳統的基于邏輯符號的人工智能在處理直覺、非結構化信息方面的缺陷，具有自適應、自組織和實時學習的特點。

歷史沿革1943年，心理學家W.S.McCulloch和數理邏輯學家W.Pitts建立了神經網絡和數學模型，稱為MP模型。

他們通過MP模型提出了神經元的形式化數學描述和網絡結構方法，證明了單個神經元能執行邏輯功能，從而開創了人工神經網絡研究的時代。1949年，心理學家提出了突觸聯系強度可變的設想。

60年代，人工神經網絡的到了進一步發展，更完善的神經網絡模型被提出，其中包括感知器和自適應線性元件等。

M.Minsky等仔細分析了以感知器為代表的神經網絡系統的功能及局限后，于1969年出版了《Perceptron》一書，指出感知器不能解決高階謂詞問題。

他們的論點極大地影響了神經網絡的研究，加之當時串行計算機和人工智能所取得的成就，掩蓋了發展新型計算機和人工智能新途徑的必要性和迫切性，使人工神經網絡的研究處于低潮。

在此期間，一些人工神經網絡的研究者仍然致力于這一研究，提出了適應諧振理論（ART網）、自組織映射、認知機網絡，同時進行了神經網絡數學理論的研究。以上研究為神經網絡的研究和發展奠定了基礎。

1982年，美國加州工學院物理學家J.J.Hopfield提出了Hopfield神經網格模型，引入了“計算能量”概念，給出了網絡穩定性判斷。

1984年，他又提出了連續時間Hopfield神經網絡模型，為神經計算機的研究做了開拓性的工作，開創了神經網絡用于聯想記憶和優化計算的新途徑，有力地推動了神經網絡的研究，1985年，又有學者提出了波耳茲曼模型，在學習中采用統計熱力學模擬退火技術，保證整個系統趨于全局穩定點。

1986年進行認知微觀結構地研究，提出了并行分布處理的理論。

人工神經網絡的研究受到了各個發達國家的重視，美國國會通過決議將1990年1月5日開始的十年定為“腦的十年”，國際研究組織號召它的成員國將“腦的十年”變為全球行為。

在日本的“真實世界計算（RWC）”項目中，人工智能的研究成了一個重要的組成部分。基本內容人工神經網絡模型主要考慮網絡連接的拓撲結構、神經元的特征、學習規則等。

目前，已有近40種神經網絡模型，其中有反傳網絡、感知器、自組織映射、Hopfield網絡、波耳茲曼機、適應諧振理論等。

根據連接的拓撲結構，神經網絡模型可以分為：（1）前向網絡網絡中各個神經元接受前一級的輸入，并輸出到下一級，網絡中沒有反饋，可以用一個有向無環路圖表示。

這種網絡實現信號從輸入空間到輸出空間的變換，它的信息處理能力來自于簡單非線性函數的多次復合。網絡結構簡單，易于實現。反傳網絡是一種典型的前向網絡。

（2）反饋網絡網絡內神經元間有反饋，可以用一個無向的完備圖表示。這種神經網絡的信息處理是狀態的變換，可以用動力學系統理論處理。系統的穩定性與聯想記憶功能有密切關系。

Hopfield網絡、波耳茲曼機均屬于這種類型。學習是神經網絡研究的一個重要內容，它的適應性是通過學習實現的。根據環境的變化，對權值進行調整，改善系統的行為。

由Hebb提出的Hebb學習規則為神經網絡的學習算法奠定了基礎。Hebb規則認為學習過程最終發生在神經元之間的突觸部位，突觸的聯系強度隨著突觸前后神經元的活動而變化。

在此基礎上，人們提出了各種學習規則和算法，以適應不同網絡模型的需要。

有效的學習算法，使得神經網絡能夠通過連接權值的調整，構造客觀世界的內在表示，形成具有特色的信息處理方法，信息存儲和處理體現在網絡的連接中。

根據學習環境不同，神經網絡的學習方式可分為監督學習和非監督學習。

在監督學習中，將訓練樣本的數據加到網絡輸入端，同時將相應的期望輸出與網絡輸出相比較，得到誤差信號，以此控制權值連接強度的調整，經多次訓練后收斂到一個確定的權值。

當樣本情況發生變化時，經學習可以修改權值以適應新的環境。使用監督學習的神經網絡模型有反傳網絡、感知器等。非監督學習時，事先不給定標準樣本，直接將網絡置于環境之中，學習階段與工作階段成為一體。

此時，學習規律的變化服從連接權值的演變方程。非監督學習最簡單的例子是Hebb學習規則。競爭學習規則是一個更復雜的非監督學習的例子，它是根據已建立的聚類進行權值調整。

自組織映射、適應諧振理論網絡等都是與競爭學習有關的典型模型。

研究神經網絡的非線性動力學性質，主要采用動力學系統理論、非線性規劃理論和統計理論，來分析神經網絡的演化過程和吸引子的性質，探索神經網絡的協同行為和集體計算功能，了解神經信息處理機制。

為了探討神經網絡在整體性和模糊性方面處理信息的可能，混沌理論的概念和方法將會發揮作用。混沌是一個相當難以精確定義的數學概念。

一般而言，“混沌”是指由確定性方程描述的動力學系統中表現出的非確定性行為，或稱之為確定的隨機性。

“確定性”是因為它由內在的原因而不是外來的噪聲或干擾所產生，而“隨機性”是指其不規則的、不能預測的行為，只可能用統計的方法描述。

混沌動力學系統的主要特征是其狀態對初始條件的靈敏依賴性，混沌反映其內在的隨機性。

混沌理論是指描述具有混沌行為的非線性動力學系統的基本理論、概念、方法，它把動力學系統的復雜行為理解為其自身與其在同外界進行物質、能量和信息交換過程中內在的有結構的行為，而不是外來的和偶然的行為，混沌狀態是一種定態。

混沌動力學系統的定態包括：靜止、平穩量、周期性、準同期性和混沌解。混沌軌線是整體上穩定與局部不穩定相結合的結果，稱之為奇異吸引子。

一個奇異吸引子有如下一些特征：（1）奇異吸引子是一個吸引子，但它既不是不動點，也不是周期解；（2）奇異吸引子是不可分割的，即不能分為兩個以及兩個以上的吸引子；（3）它對初始值十分敏感，不同的初始值會導致極不相同的行為。

發展趨勢人工神經網絡特有的非線性適應性信息處理能力，克服了傳統人工智能方法對于直覺，如模式、語音識別、非結構化信息處理方面的缺陷，使之在神經專家系統、模式識別、智能控制、組合優化、預測等領域得到成功應用。

人工神經網絡與其它傳統方法相結合，將推動人工智能和信息處理技術不斷發展。

近年來，人工神經網絡正向模擬人類認知的道路上更加深入發展，與模糊系統、遺傳算法、進化機制等結合，形成計算智能，成為人工智能的一個重要方向，將在實際應用中得到發展。

將信息幾何應用于人工神經網絡的研究，為人工神經網絡的理論研究開辟了新的途徑。神經計算機的研究發展很快，已有產品進入市場。光電結合的神經計算機為人工神經網絡的發展提供了良好條件。

簡述人工神經網絡受到哪些生物神經網絡的啟發

人工神經網絡最初是為了嘗試利用人腦的架構來執行傳統算法幾乎沒有成功的任務。對人類中樞神經系統的觀察啟發了人工神經網絡這個概念。

在人工神經網絡中，簡單的人工節點，稱作神經元（neurons），連接在一起形成一個類似生物神經網絡的網狀結構。

人工神經?網絡基于一組稱為人工神經元的連接單元或節點，它們對生物大腦中的神經元進行松散建模。每個連接，就像生物大腦中的突觸一樣，可以向其他神經元傳輸信號。

人工神經元接收信號然后對其進行處理，并可以向與其相連的神經元發送信號。連接處的“信號”是一個實數，每個神經元的輸出由其輸入總和的某個非線性函數計算。連接稱為邊。

神經元和邊緣通常具有權重隨著學習的進行而調整。權重會增加或減少連接處的信號強度。神經元可能有一個閾值，這樣只有當聚合信號超過該閾值時才會發送信號。通常，神經元聚合成層。

不同的層可以對其輸入執行不同的轉換。信號從第一層（輸入層）傳輸到最后一層（輸出層），可能在多次遍歷層之后。

現代神經網絡是一種非線性統計性數據建模工具，神經網絡通常是通過一個基于數學統計學類型的學習方法（LearningMethod）得以優化，所以也是數學統計學方法的一種實際應用，通過統計學的標準數學方法我們能夠得到大量的可以用函數來表達的局部結構空間；另一方面在人工智能學的人工感知領域，我們通過數學統計學的應用可以來做人工感知方面的決定問題（也就是說通過統計學的方法，人工神經網絡能夠類似人一樣具有簡單的決定能力和簡單的判斷能力），這種方法比起正式的邏輯學推理演算更具有優勢。

和其他機器學習方法一樣，神經網絡已經被用于解決各種各樣的問題，例如機器視覺和語音識別。這些問題都是很難被傳統基于規則的編程所解決的。

構成1、結構（Architecture）結構指定了網絡中的變量和它們的拓撲關系。

例如，神經網絡中的變量可以是神經元連接的權重（weights）和神經元的激勵值（activitiesoftheneurons）。

2、激勵函數（ActivationRule）大部分神經網絡模型具有一個短時間尺度的動力學規則，來定義神經元如何根據其他神經元的活動來改變自己的激勵值。

一般激勵函數依賴于網絡中的權重（即該網絡的參數）。3、學習規則（LearningRule）學習規則指定了網絡中的權重如何隨著時間推進而調整。這一般被看做是一種長時間尺度的動力學規則。

一般情況下，學習規則依賴于神經元的激勵值。它也可能依賴于監督者提供的目標值和當前權重的值。例如，用于手寫識別的一個神經網絡，有一組輸入神經元。輸入神經元會被輸入圖像的數據所激發。

在激勵值被加權并通過一個函數（由網絡的設計者確定）后，這些神經元的激勵值被傳遞到其他神經元。這個過程不斷重復，直到輸出神經元被激發。最后，輸出神經元的激勵值決定了識別出來的是哪個字母。

誰能通俗易懂的講講什么是人工神經網絡

想象一個黑箱子，你給它輸入（樣本），它給你輸出（實際輸出），但是輸出和你想要的結果有偏差，于是你事先告訴它你想要的結果（期望輸出），它做一些調整（調整內部權值和閾值）以適應你的期望，如此反復，黑箱子就摸透了你的這些樣本的規律，于是在來一些沒有期望輸出的樣本就能預測輸出了，但是這些樣本必須是屬于一類問題的，如果換了一類就必須重新訓練它，這個黑箱子是神經網絡，有很多有層次有連接的神經元構成。

?

總結

以上是生活随笔為你收集整理的人工神经网络原理及应用,人工神经网络详解图的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。