柚子快報激活碼778899分享：人工智能 數(shù)學(xué)建?！旧窠?jīng)網(wǎng)絡(luò)】

http://yzkb.51969.com/

一、神經(jīng)網(wǎng)絡(luò)簡介

機(jī)器學(xué)習(xí)與神經(jīng)網(wǎng)絡(luò)

機(jī)器學(xué)習(xí)是一類實現(xiàn)人工智能的方法總稱，讓計算機(jī)模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為神經(jīng)網(wǎng)絡(luò)是實現(xiàn)機(jī)器學(xué)習(xí)的一種模型實現(xiàn)機(jī)器學(xué)習(xí)的模型還有支持向量機(jī)，決策樹，樸素貝葉斯分類器等

神經(jīng)網(wǎng)絡(luò)能用來做什么

已知7人的身高和體重，以及是否達(dá)到8歲的數(shù)據(jù)現(xiàn)在又來了個人，身高128cm， 體重24kg如何判斷此人是否達(dá)到8歲?

什么叫做神經(jīng)網(wǎng)絡(luò)

有現(xiàn)成的一組數(shù)據(jù)，既有其特征(自變量x，身高體重)也有其標(biāo)簽(因變量y，是否8歲了)找出特征和標(biāo)簽之間的“關(guān)系”(建立神經(jīng)網(wǎng)絡(luò)模型)從而利用該“關(guān)系”，把另一組特征對應(yīng)的標(biāo)簽給求出來神經(jīng)網(wǎng)絡(luò)由多層的神經(jīng)元(節(jié)點)構(gòu)成，不同層之間的神經(jīng)元通過權(quán)重連接隱藏層和輸出層的神經(jīng)元中有激活函數(shù)，收到的數(shù)據(jù)作為自變量，計算出結(jié)果計算出的結(jié)果與權(quán)重相乘后累加傳遞到下一層，或輸出最終結(jié)果

二、適用賽題

預(yù)測類問題

預(yù)測未來的結(jié)果，一般為回歸問題，即輸出值y是連續(xù)的美賽2022年C題比特幣和黃金投資策略，LSTM（長短時記憶網(wǎng)絡(luò)）進(jìn)行預(yù)測短時交通流量預(yù)測（小波神經(jīng)網(wǎng)絡(luò)的時間序列）電力負(fù)荷預(yù)測（Elman神經(jīng)網(wǎng)絡(luò)，具有延時記憶，適合動態(tài)建模）

分類問題

對現(xiàn)有的對象進(jìn)行分類，一般為離散問題，即輸出值y是有限個離散值美賽2021年C題黃蜂傳播規(guī)律和目擊準(zhǔn)確性，卷積神經(jīng)網(wǎng)進(jìn)行圖像識別人體腫瘤診斷（LVQ神經(jīng)網(wǎng)絡(luò)，無需數(shù)據(jù)預(yù)處理，微適合模式識別和優(yōu)化）柴油機(jī)故障判斷（SOM神經(jīng)網(wǎng)絡(luò)，適合需要聚類的問題）

評價類問題

嘉陵江水質(zhì)評價（模糊神經(jīng)網(wǎng)絡(luò)），高?？蒲心芰υu價（離散Hopfield神經(jīng)網(wǎng)絡(luò)）本質(zhì)上與預(yù)測和分類相同，只不過題目問的是“評價結(jié)果”而已

先學(xué)會最基礎(chǔ)的神經(jīng)網(wǎng)絡(luò)原理，遇到題目后再去翻書現(xiàn)學(xué)現(xiàn)用

注意事項

神經(jīng)網(wǎng)絡(luò)基本模型+其他模型=沃茲基胡碩德模型

需要針對具體問題量身定做，而不是把神經(jīng)網(wǎng)絡(luò)當(dāng)做萬能模版不懂別亂用，否則將喜獲成功參賽獎近些年數(shù)模競賽中，神經(jīng)網(wǎng)絡(luò)等啟發(fā)式算法出現(xiàn)了嚴(yán)重的濫用

舉個例子：計算1+1=？

正常做法：由數(shù)學(xué)公理可知，結(jié)果為2舍本逐末：基于蟻群算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)求得近似解為1.9987

不是不能用，而是不要濫用?。?！

三、原理講解

注：因為在MATLAB中神經(jīng)網(wǎng)絡(luò)一般不需要自己寫代碼，MATLAB有自帶的工具箱，可以構(gòu)建神經(jīng)網(wǎng)絡(luò)，所以這里只對神經(jīng)網(wǎng)絡(luò)的原理做一些介紹。

還是以剛剛的問題為例子：景區(qū)規(guī)定8周歲以下兒童可半價票，如何根據(jù)一個人的身高和體重，判斷其是否可以買半價票?

生物學(xué)的神經(jīng)網(wǎng)絡(luò)

神經(jīng)元樹突收到輸入信號信號刺激細(xì)胞核，達(dá)到閾值后會產(chǎn)生輸出輸出就是進(jìn)一步的信號，傳到下一個神經(jīng)元

感知機(jī)模型：最簡單的神經(jīng)網(wǎng)絡(luò)

輸入層：輸入身高x1和體重x2激活函數(shù)：綜合判斷輸入信號是否達(dá)到閾值輸出層：激活函數(shù)的函數(shù)值就是輸出值y

只有輸入層和輸出層的神經(jīng)網(wǎng)絡(luò)，稱為感知機(jī)

問題：如何綜合考慮身高(x1)和體重(x2)，判斷是否達(dá)到了8周歲(閾值b)

結(jié)果只能有“未達(dá)到”和“達(dá)到”需要的函數(shù)值只有0和1，可用階躍函數(shù)作為激活函數(shù)

其他的激活函數(shù)

怎樣實現(xiàn)“綜合考慮”?

線性求和Σwixi(權(quán)重wi代表變量xi的重要性)求和意味著身高和體重(即所有變量)都考慮到了

如何根據(jù)“綜合考慮”的結(jié)果進(jìn)行判斷？

當(dāng)設(shè)線性求和的結(jié)果足夠大，與閾值的差值作為激活函數(shù)的自變量t =?Σwixi - b

wi是第i個變量的權(quán)重，區(qū)分不同變量對結(jié)果的影響程度輸入數(shù)據(jù)后，權(quán)重和閾值決定了輸出結(jié)果

輸出結(jié)果

可能結(jié)果：t = Σwixi - b ≥ 0 ? f(t) = 1 ? “綜合考慮”身高和體重超過了“閾值”感知機(jī)輸出值為1，則判定此人達(dá)到了8周歲閾值b看作數(shù)值固定為-1的節(jié)點(即x3 = -1)的權(quán)重w3

神經(jīng)網(wǎng)絡(luò)的核心，就在于如何確定權(quán)重，以確保輸出正確答案

基本模型：

xi為第i個已知的參數(shù)y為待求的輸出值該模型還需確定權(quán)值wi

問題轉(zhuǎn)化：權(quán)值wi該怎么設(shè)定

模型初始化時，wi隨便設(shè)置個初始值學(xué)習(xí)：從已知數(shù)據(jù)中學(xué)得模型參數(shù)（確定權(quán)重wi）

本質(zhì)：不斷地更改權(quán)重wi，使得模型求出的預(yù)測值盡可能地接近真實值

Step1：模型初始化，人為設(shè)置權(quán)重wi初始值Step2：搜集多個人的身高x1、體重x2和是否達(dá)到8周歲y的數(shù)據(jù)Step3：將搜集到的x1和x2代入模型，求得估計值yStep4：將模型求的估計值y與搜集到的實際值y比較，差別越小越好Step5：直到滿足終止條件，否則繼續(xù)對權(quán)重wi進(jìn)行優(yōu)化，重復(fù)Step3到5終止條件：估計值和實際值的差值小到一定程度為止

問題轉(zhuǎn)換：Step5中，如何對權(quán)重wi進(jìn)行優(yōu)化？

本示例以差值作為的模型好壞的評估指標(biāo)，更常見的有均方誤差、平方絕對誤差等

總結(jié)：景區(qū)規(guī)定8周歲的兒童以下可買半價票。但兒童往往沒有身份證，難以準(zhǔn)確判斷年齡，如何根據(jù)一個人的身高和體重，判斷其是否可以買半價票?

本題感知機(jī)：

激活函數(shù)f的表達(dá)式已知，身高x1和體重x2已知，需要確定權(quán)重wi根據(jù)搜集到的訓(xùn)練數(shù)據(jù)集，不斷優(yōu)化權(quán)重wi直到達(dá)到終止條件后模型就建好了

問題：既然單層的感知機(jī)能解決問題，為什么常見的神經(jīng)網(wǎng)絡(luò)都是多層的?

更復(fù)雜的情況

感知機(jī)只擁有輸出層進(jìn)行激活函數(shù)處理，若問題是線性可分的，則感知機(jī)一定會收斂非線性可分問題:異或問題，感知機(jī)無法收斂

總結(jié)

MATLAB和GitHub上都有現(xiàn)成的工具包，無需原創(chuàng)代碼再復(fù)雜的神經(jīng)網(wǎng)絡(luò)，思路都可總結(jié)為以下三點：

搜集數(shù)據(jù)集(xi, y)，將xi代入初始的神經(jīng)網(wǎng)絡(luò)模型，計算估計值yy根據(jù)yy與y的差異不斷更改權(quán)重wi，使其誤差盡可能的小(梯度下降)大量數(shù)據(jù)訓(xùn)練后，再輸入新的數(shù)據(jù)x，模型就可以求出y用于分類/預(yù)測/評價了

數(shù)據(jù)集是題目給的，或者自己搜集的，決定了整個模型的生死記得做好數(shù)據(jù)預(yù)處理（處理缺失值、異常值）

模型的泛化能力：確保模型真的能用

如何證明你建立的神經(jīng)網(wǎng)絡(luò)模型是靠譜的?

留出法：將搜集到的數(shù)據(jù)劃分為訓(xùn)練集、驗證集和測試集訓(xùn)練集進(jìn)行學(xué)習(xí)、訓(xùn)練參數(shù)（權(quán)重）驗證集來檢驗性能（學(xué)習(xí)率等），以調(diào)整超參數(shù)或及時停止訓(xùn)練測試集給出客觀的評價（此外還有交叉驗證法、自助法）

可能遇到的問題

過擬合：把特殊當(dāng)一般（見過的天鵝都是白的，就以為天鵝只有白色的）欠擬合：一般性質(zhì)都沒學(xué)好（“后浪”里講述的都是年輕人，就以為年輕人都是后浪）

過擬合是因為“死記硬背”，欠擬合是因為“啥都不會”

過擬合的原因

數(shù)據(jù)集有噪聲（缺失值、異常值，無用特征等等）訓(xùn)練集的數(shù)據(jù)量不足（訓(xùn)練集的分布與總體樣本的不一致）訓(xùn)練模型過度，導(dǎo)致模型非常復(fù)雜（完全擬合了訓(xùn)練集、無法接受新數(shù)據(jù)）

過擬合的解決方法

盡量尋找更多的數(shù)據(jù)集，并做好預(yù)處理去除無用的特征（判斷一個人是否達(dá)到8歲，與他鞋子的顏色無關(guān)）早停策略：在即將過擬合的時候立刻停止訓(xùn)練正則化策略：損失函數(shù)中加入懲罰項來降低模型復(fù)雜度，特征越多懲罰越大

欠擬合

與過擬合相反，是由于訓(xùn)練不足造成的，可在模型中增加特征來增大網(wǎng)絡(luò)復(fù)雜度

本篇幫大家快速了解神經(jīng)網(wǎng)絡(luò)的基本思想，避開了大量數(shù)學(xué)推理證明。對于做數(shù)模競賽，先理解本篇講的概念，然后學(xué)會使用MATLAB實現(xiàn)BP神經(jīng)網(wǎng)絡(luò)(不需要過于深究原理)，等比賽時遇到賽題再去翻書查資料。機(jī)器學(xué)習(xí)/神經(jīng)網(wǎng)絡(luò)/深度學(xué)習(xí)背后的水很深，立志深耕該領(lǐng)域的話做好脫發(fā)的準(zhǔn)備。

柚子快報激活碼778899分享：人工智能 數(shù)學(xué)建模【神經(jīng)網(wǎng)絡(luò)】

http://yzkb.51969.com/

相關(guān)閱讀