交通運(yùn)輸系統(tǒng)工程 課件 第10章 神經(jīng)網(wǎng)絡(luò)與遺傳算法

交通運(yùn)輸系統(tǒng)工程交通運(yùn)輸與教育平臺(tái)第1章系統(tǒng)概述1.1

系統(tǒng)的概念、特性及分類1.2

系統(tǒng)思想的形成與發(fā)展1.3

系統(tǒng)科學(xué)的學(xué)科體系第2章系統(tǒng)工程理論2.1

系統(tǒng)工程的概念、研究?jī)?nèi)容及特點(diǎn)2.2

系統(tǒng)工程發(fā)展概況2.3

系統(tǒng)工程方法論2.4

系統(tǒng)工程的理論基礎(chǔ)第3章交通運(yùn)輸系統(tǒng)3.1

交通運(yùn)輸?shù)母拍罴胺诸?.2

交通運(yùn)輸系統(tǒng)的組成與特點(diǎn)3.3

交通運(yùn)輸系統(tǒng)工程的研究?jī)?nèi)容3.4

我國(guó)交通運(yùn)輸?shù)默F(xiàn)狀及發(fā)展前景第4章運(yùn)輸系統(tǒng)分析4.1系統(tǒng)分析的基礎(chǔ)理論4.2系統(tǒng)的特性分析4.3系統(tǒng)結(jié)構(gòu)模型化技術(shù)第5章系統(tǒng)模型與仿真5.1系統(tǒng)建模及仿真概述5.2系統(tǒng)動(dòng)力學(xué)的建模5.3系統(tǒng)動(dòng)力學(xué)仿真計(jì)算5.4延遲第6章運(yùn)輸系統(tǒng)預(yù)測(cè)6.1系統(tǒng)預(yù)測(cè)基本概念6.2定性預(yù)測(cè)方法6.3定量預(yù)測(cè)方法交通運(yùn)輸與教育平臺(tái)第7章運(yùn)輸系統(tǒng)網(wǎng)絡(luò)優(yōu)化7.1運(yùn)輸網(wǎng)絡(luò)的最短路和最大流7.2網(wǎng)絡(luò)圖的組成及繪制7.3網(wǎng)絡(luò)圖時(shí)間參數(shù)7.4網(wǎng)絡(luò)圖優(yōu)化分析第8章運(yùn)輸系統(tǒng)綜合評(píng)價(jià)8.1運(yùn)輸系統(tǒng)綜合評(píng)價(jià)概述8.2運(yùn)輸系統(tǒng)的經(jīng)濟(jì)評(píng)價(jià)8.3常用的系統(tǒng)綜合評(píng)價(jià)方法第9章運(yùn)輸系統(tǒng)決策9.1運(yùn)輸系統(tǒng)決策分析概述9.2不確定型運(yùn)輸系統(tǒng)決策分析9.3風(fēng)險(xiǎn)型運(yùn)輸系統(tǒng)決策分析9.4信息的價(jià)值9.5效用理論及其應(yīng)用第10章神經(jīng)網(wǎng)絡(luò)與遺傳算法10.1神經(jīng)網(wǎng)絡(luò)概述10.2遺傳算法第11章運(yùn)輸系統(tǒng)工程應(yīng)用案例11.1地鐵換乘樞紐的擁擠評(píng)價(jià)11.2道路交通檢測(cè)數(shù)據(jù)的聯(lián)合卡爾曼濾波11.3城市軌道交通定價(jià)模型交通運(yùn)輸與教育平臺(tái)交通運(yùn)輸與教育平臺(tái)10.1神經(jīng)網(wǎng)絡(luò)概述

10.2遺傳算法

第10章神經(jīng)網(wǎng)絡(luò)與遺傳算法

交通運(yùn)輸與教育平臺(tái)10.1.1神經(jīng)網(wǎng)絡(luò)模型

人工神經(jīng)網(wǎng)絡(luò)也簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)，或稱作連接模型，它是一種模仿動(dòng)物神經(jīng)網(wǎng)絡(luò)行為特征，進(jìn)行分布式并行信息處理的數(shù)學(xué)模型。這種網(wǎng)絡(luò)依靠系統(tǒng)的復(fù)雜程度，通過調(diào)整內(nèi)部大量節(jié)點(diǎn)之間相互連接的關(guān)系，從而達(dá)到處理信息的目的。反向傳播算法是一種按照誤差反向傳播算法訓(xùn)練的多層前饋網(wǎng)絡(luò)，也是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一，其主要特點(diǎn)是信號(hào)向前傳遞和誤差反向傳播。交通運(yùn)輸與教育平臺(tái)

BP神經(jīng)網(wǎng)絡(luò)由輸入層、隱含層以及輸出層三部分構(gòu)成

輸入層的神經(jīng)元負(fù)責(zé)接受外界發(fā)來的各種信息，并將信息傳遞給中間層神經(jīng)元，中間隱含層神經(jīng)元負(fù)責(zé)將接受到的信息進(jìn)行處理變換。

交通運(yùn)輸與教育平臺(tái)非線性BP神經(jīng)網(wǎng)絡(luò)模型：

對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行構(gòu)建，以確定BP神經(jīng)網(wǎng)絡(luò)的輸入層、隱含層以及輸出層的神經(jīng)元數(shù)目，同時(shí)確認(rèn)節(jié)點(diǎn)間的傳遞函數(shù)、訓(xùn)練函數(shù)、輸出函數(shù)等;

對(duì)建立的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練，從而確定BP神經(jīng)網(wǎng)絡(luò)的迭代次數(shù)、目標(biāo)等;

利用已訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)。交通運(yùn)輸與教育平臺(tái)10.1.2神經(jīng)網(wǎng)絡(luò)數(shù)理基礎(chǔ)

(１)單輸入神經(jīng)元。胞體對(duì)應(yīng)于累加器和傳遞函數(shù)，神經(jīng)元輸出y代表軸突的輸出信號(hào)。交通運(yùn)輸與教育平臺(tái)(２)傳遞函數(shù)。傳遞函數(shù)在神經(jīng)元中的作用就是將累加器的輸出按照指定的函數(shù)關(guān)系得到一個(gè)新的映射輸出，進(jìn)而完成人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。對(duì)數(shù)S型傳遞函數(shù)具有單調(diào)遞增特性，其反函數(shù)也具有單調(diào)遞增特性，可以將輸出映射到0到1之間。優(yōu)點(diǎn)是能夠把輸出值限定在0到1之間，其缺點(diǎn)是容易飽和。交通運(yùn)輸與教育平臺(tái)

對(duì)數(shù)S型傳遞函數(shù)特性圖如圖10-4所示。交通運(yùn)輸與教育平臺(tái)

神經(jīng)網(wǎng)絡(luò)常用的傳遞函數(shù)見表10-1。傳遞函數(shù)函數(shù)關(guān)系式MATLAB函數(shù)圖例硬限幅函數(shù)

hardlim

對(duì)稱硬限幅函數(shù)

hardlim

神經(jīng)網(wǎng)絡(luò)常用的傳遞函數(shù)

表10-1交通運(yùn)輸與教育平臺(tái)

神經(jīng)網(wǎng)絡(luò)常用的傳遞函數(shù)傳遞函數(shù)函數(shù)關(guān)系式MATLAB函數(shù)圖例對(duì)數(shù)S型函數(shù)

Logsig

正切S型函數(shù)

tansig續(xù)上表交通運(yùn)輸與教育平臺(tái)神經(jīng)網(wǎng)絡(luò)常用的傳遞函數(shù)傳遞函數(shù)函數(shù)關(guān)系式MATLAB函數(shù)圖例線性函數(shù)

purelin

競(jìng)爭(zhēng)函數(shù)y=1，所有最大n的神經(jīng)元；y=0，所有的其他神經(jīng)元

compet續(xù)上表交通運(yùn)輸與教育平臺(tái)

神經(jīng)網(wǎng)絡(luò)常用的傳遞函數(shù)傳遞函數(shù)函數(shù)關(guān)系式MATLAB函數(shù)圖例飽和線性函數(shù)

satlin

對(duì)稱飽和線性函數(shù)satlins續(xù)上表交通運(yùn)輸與教育平臺(tái)

神經(jīng)網(wǎng)絡(luò)常用的傳遞函數(shù)傳遞函數(shù)函數(shù)關(guān)系式MATLAB函數(shù)圖例正線性函數(shù)

poslin

符號(hào)函數(shù)Sgn(sign)續(xù)上表交通運(yùn)輸與教育平臺(tái)

(3)多輸入神經(jīng)元。

若神經(jīng)元具有Ｒ個(gè)輸入，則它的輸入x1，x2，…，xR，分別對(duì)應(yīng)著權(quán)值矩陣Ｗ中的權(quán)值，如圖10-5所示。多輸入神經(jīng)元模型有偏置ｂ。它將與所有輸入的加權(quán)和累加，然后形成凈輸入ｎ。最后再將它送入傳遞函數(shù)ｆ中，得到輸出量ｙ。

交通運(yùn)輸與教育平臺(tái)10.1.3神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與算法

輸入層的作用是負(fù)責(zé)接受來自外界的信息，并傳遞給下一層神經(jīng)元；

隱含層是網(wǎng)絡(luò)結(jié)構(gòu)的中間部分，它的主要作用是對(duì)信息進(jìn)行處理和變換，根據(jù)實(shí)際問題的需求，中間層可以設(shè)計(jì)為單隱含層或多隱含層結(jié)構(gòu)。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖10-6所示。交通運(yùn)輸與教育平臺(tái)

10.1.3.1算法原理(1)計(jì)算神經(jīng)網(wǎng)絡(luò)前向傳播值。(2)計(jì)算神經(jīng)網(wǎng)絡(luò)敏感性的反向傳播值。(3)使用近似的梯度下降法來更新權(quán)值和偏置值。交通運(yùn)輸與教育平臺(tái)

10.1.3.2信息前向傳播

神經(jīng)網(wǎng)絡(luò)的凈輸入為

神經(jīng)網(wǎng)絡(luò)中，第m層的輸出為

當(dāng)m=1時(shí)，y1代表第1層神經(jīng)元的輸出信息1其輸入信息由輸入層決定，所以y1表示為

BP神經(jīng)網(wǎng)絡(luò)的輸出即為第M層神經(jīng)元的輸出yＭ，即交通運(yùn)輸與教育平臺(tái)

10.1.3.3誤差反向傳播（1）誤差函數(shù)。

（2）權(quán)值修正方法。

交通運(yùn)輸與教育平臺(tái)10.1.3.4算例【例題10-1】利用三層BP神經(jīng)網(wǎng)絡(luò)來完成非線性函數(shù)的逼近任務(wù)，其中隱含層神經(jīng)元個(gè)數(shù)為10個(gè)，見表10-2。

輸入與輸出數(shù)據(jù)表

表10-2交通運(yùn)輸與教育平臺(tái)【例題10-2】某市2007年到2024年的公路貨運(yùn)量見表10-3，單位為億t，構(gòu)建一個(gè)BP神經(jīng)網(wǎng)絡(luò)，利用歷史數(shù)據(jù)值預(yù)測(cè)該市2025年的公路貨運(yùn)量，并給出預(yù)測(cè)圖。交通運(yùn)輸與教育平臺(tái)10.1神經(jīng)網(wǎng)絡(luò)概述

10.2遺傳算法

第10章神經(jīng)網(wǎng)絡(luò)與遺傳算法

交通運(yùn)輸與教育平臺(tái)10.2.1遺傳算法的特點(diǎn)遺傳算法：

美國(guó)密歇根大學(xué)JohnHolland教授提出的通過模擬自然進(jìn)化過程搜索最優(yōu)解的方法。基本思想：將能成為染色體的數(shù)串進(jìn)行編，然后再對(duì)這些數(shù)串進(jìn)化成個(gè)體的過程進(jìn)行模擬，將適應(yīng)性比較好的數(shù)串進(jìn)行有組織的、隨機(jī)的信息交換，然后再重新組合起來。屬于一種隨機(jī)優(yōu)化的算法，它利用現(xiàn)有信息來搜索那些有希望改善并進(jìn)化的串。交通運(yùn)輸與教育平臺(tái)

10.2.1遺傳算法的特點(diǎn)

10.2.1.1遺傳算法的優(yōu)點(diǎn)

(１)對(duì)可行解要求比較寬泛。(２)具有群體搜索特性。(３)不需要輔助信息，它只通過適應(yīng)度的值來評(píng)估個(gè)體，以此為基礎(chǔ)再進(jìn)行遺傳操作。(４)不僅具有明確的搜索方向。而且還具有內(nèi)在啟發(fā)式的隨機(jī)搜索特性。(５)具有固定的并行性和計(jì)算能力，又有很好的可擴(kuò)展性，能和別的技術(shù)混合使用。

10.2.1.2遺傳算法的局限性

(１)不存在規(guī)范的編碼，且編碼表示時(shí)可能不準(zhǔn)確，使得遺傳算法中單一的編碼不能全面表示優(yōu)化問題中的約束。(２)遺傳算法的效率要低于一些傳統(tǒng)的優(yōu)化算法，容易過早收斂，無法對(duì)其精度、可信度和計(jì)算的復(fù)雜度等各方面進(jìn)行定量的分析。交通運(yùn)輸與教育平臺(tái)

10.2.2遺傳算法的基本原理10.2.2.1染色體編碼

(１)應(yīng)用遺傳算法時(shí)首先要解決的問題就是如何進(jìn)行編碼，即把一個(gè)問題的可行解從其解的空間轉(zhuǎn)換到遺傳算法所能處理的搜索空間，傳統(tǒng)的編碼方式是二進(jìn)制編碼。(２)對(duì)染色體編碼，就會(huì)有相對(duì)應(yīng)的解碼。以二進(jìn)制染色體編碼的解碼方法為例：交通運(yùn)輸與教育平臺(tái)

10.2.2.2個(gè)體適應(yīng)度值評(píng)估

遺傳算法按個(gè)體適應(yīng)度成正比的概率來決定當(dāng)前群體中各個(gè)體遺傳到下一代群體中的機(jī)會(huì)多少。(1)直接將目標(biāo)函數(shù)轉(zhuǎn)換為適應(yīng)度函數(shù)。

(2)求最小值.交通運(yùn)輸與教育平臺(tái)

10.2.2.3

遺傳算子

(1)選擇算子。選擇壓力反映了最好個(gè)體被選擇的程度，選擇壓力越大，最好個(gè)體被選擇的可能性就越大，不同的選擇策略將導(dǎo)致不同的選擇壓力。不同的選擇過程，導(dǎo)致了不同的基于適應(yīng)值比例的選擇方法。

確定性選擇確定性選擇根據(jù)計(jì)算出來的選擇概率，計(jì)算每個(gè)個(gè)體的期望數(shù)為交通運(yùn)輸與教育平臺(tái)

輪盤賭選擇輪盤賭選擇與確定性選擇的不同之處在于：種群中的每個(gè)個(gè)體在輪盤賭選擇策略下都有被選擇的機(jī)會(huì)，而在確定性選擇策略下，具有較小適應(yīng)值的個(gè)體將被剝奪生存的權(quán)利。

隨機(jī)遍歷抽樣構(gòu)造一個(gè)輪盤，輪盤被劃分為N個(gè)扇形，每個(gè)扇形的面積與它表示的個(gè)體的期望個(gè)數(shù)成比例。

Boltzmann選擇交通運(yùn)輸與教育平臺(tái)(2)交叉算子。①點(diǎn)式雜交點(diǎn)式雜交分為單點(diǎn)雜交和多點(diǎn)雜交。單點(diǎn)雜交：只有一個(gè)交叉點(diǎn)，任意挑選兩個(gè)經(jīng)過選擇操作后種群中個(gè)體作為交叉對(duì)象，交叉點(diǎn)位置隨機(jī)產(chǎn)生，兩個(gè)個(gè)體在交叉點(diǎn)位置互換部分基因碼，形成兩個(gè)子個(gè)體，如圖10-14所示。圖10-14單點(diǎn)雜交設(shè)示意圖交通運(yùn)輸與教育平臺(tái)多點(diǎn)雜交：設(shè)表示問題解的進(jìn)制串長(zhǎng)為L(zhǎng)在1和L-1之間隨機(jī)地選擇多個(gè)雜交點(diǎn)，然后在保持第一個(gè)雜交點(diǎn)左邊的對(duì)應(yīng)子串不交換的情形下間隔地交換兩個(gè)父體在雜交點(diǎn)之間的對(duì)應(yīng)子串，生成兩個(gè)后代。例如：給定兩個(gè)父體為假設(shè)所選擇的兩個(gè)雜交點(diǎn)分別為6和13，那么經(jīng)兩點(diǎn)雜交后，所得到的兩個(gè)后代為：交通運(yùn)輸與教育平臺(tái)

(3)變異算子。個(gè)體上的某些基因用其他的等位基因來替換，變異運(yùn)算使用基本變異算子或均勻變異算子，如圖10-15所示。圖10-15變異操作示意圖交通運(yùn)輸與教育平臺(tái)遺傳算法基本步驟：（1）首先選擇編碼策略，建立初始種群，形成編碼后的個(gè)體空間；（2）計(jì)算當(dāng)前種群中每個(gè)個(gè)體的適應(yīng)度函數(shù)值，并判斷是否終止；（3）如未終止，計(jì)算每個(gè)個(gè)體適應(yīng)度函數(shù)值之和，并求出個(gè)體適應(yīng)度值及其比例，進(jìn)行選擇操作；（4）按照給定的交叉概率，進(jìn)行染色體交叉操作；（5）按照給定的變異概率，進(jìn)行染色體變異操作；（6）經(jīng)染色體進(jìn)行選擇、交叉、變異后形成新的個(gè)體后，返回第

步將新個(gè)體重新進(jìn)行適應(yīng)度值評(píng)估，直至滿足終止條件，輸出最優(yōu)解。10.2.2.4基本遺傳算法運(yùn)行參數(shù)交通運(yùn)輸與教育平臺(tái)遺傳算法的基本流程如圖10-16所示。

圖10-16遺傳算法的基本流程交通運(yùn)輸與教育平臺(tái)10.2.3遺傳算法的計(jì)算

考慮下面的優(yōu)化問題:該目標(biāo)函數(shù)有許多局部最優(yōu)解，其三維圖形如圖10-17所示.圖10-17目標(biāo)函數(shù)的三維圖形交通運(yùn)輸與教育平臺(tái)10.2.3.2個(gè)體的編碼

假設(shè)表示變量xj的位串長(zhǎng)度用lj表示，則lj可取為滿足下列不等式的最小正整數(shù)m:將xj的二進(jìn)制表示轉(zhuǎn)換為十進(jìn)制表示可按下式計(jì)算對(duì)于上面的優(yōu)化，假定所要求的精度為小數(shù)點(diǎn)后4位：

可知表示變量x1的二進(jìn)制位串的長(zhǎng)度為l1=18交通運(yùn)輸與教育平臺(tái)可知表示變量x2的二進(jìn)制位串的長(zhǎng)度為l2=15。

計(jì)算出變量x1和x2的二進(jìn)制位串長(zhǎng)度l1和l2后，便可以得到表示問題可能解(x1,x2)的二進(jìn)制位串的長(zhǎng)度l=l1+l2=18+15=33，其中，前18位表示變量x1，后15位表示變量x2。例如，給定下33位二進(jìn)制串那么，前18位所表示變量x1的值為交通運(yùn)輸與教育平臺(tái)而后15位所表示變量x2的值為：所以，二進(jìn)制串0100010010111110010100010所表示問題的可能解為交通運(yùn)輸與教育平臺(tái)10.2.3.2產(chǎn)生初始種群

假定初始種群的規(guī)模為N=20，隨機(jī)產(chǎn)生初始種群如下:交通運(yùn)輸與教育平臺(tái)10.2.3.3計(jì)算適應(yīng)值

(１)將該染色體轉(zhuǎn)換為所表示的問題可能解x=(x1，x2)；(２)計(jì)算個(gè)體x=(x1，x2)的適應(yīng)值eval(x1，x2)交通運(yùn)輸與教育平臺(tái)10.2.3.4父體選擇

父體選擇可采用輪盤賭選擇，其實(shí)現(xiàn)過程如下：(１)計(jì)算種群中所有染色體適應(yīng)值之和。(２)計(jì)算每個(gè)染色體的選擇概率。(３)計(jì)算每個(gè)染色體的累計(jì)概率。(４)轉(zhuǎn)動(dòng)輪盤N次，從中選出N個(gè)染色體。交通運(yùn)輸與教育平臺(tái)10.2.3.5遺傳算子

(１)雜交算子。使用單點(diǎn)雜交，對(duì)兩個(gè)父體進(jìn)行雜交，雜交后產(chǎn)生兩個(gè)后代個(gè)體。對(duì)本例而言，假定pc=0.25，所產(chǎn)生的20個(gè)隨機(jī)數(shù)分別為這意味著v2’,v11’,v13’,v18’

被選擇進(jìn)行雜交。隨機(jī)地對(duì)這4個(gè)染色體配對(duì)如v2’,v11’