CN117175588B 基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測方法及裝置 （邯鄲欣和電力建設(shè)有限公司）

基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測方法及裝置本發(fā)明提供一種基于時(shí)空相關(guān)性的用電負(fù)可解釋時(shí)空注意力轉(zhuǎn)換器對多層時(shí)空模型進(jìn)行2H.Zhao,Y.Wu,L.MaandS.Pan.SpatialandTemporalAtEnabledTransformerNetworkMultivariateShort-TermResidenti文.3基于不同用電節(jié)點(diǎn)的歷史用電負(fù)荷數(shù)據(jù)和歷史環(huán)境數(shù)據(jù)進(jìn)行時(shí)空②對于s豐s'和(1vsr,vsp)Ee，當(dāng)且僅當(dāng)(vsrrvsx)Ee；此外當(dāng)且僅當(dāng);;所述假設(shè)2表示基于先驗(yàn)知識(shí)的空間因果關(guān)基于可解釋時(shí)空注意力轉(zhuǎn)換器對所述多層時(shí)空模型進(jìn)行特征提;其中，n"是n"的自注意，是從Rpxd1到Rpdz的映射，具有的注意權(quán)矩陣w(o)=(w"),w",w"))的三元組，nf")作為空間特征矩陣，對應(yīng)于被假設(shè)2中因果約,Mr為解碼器掩碼；Mr中的上對角元素是4i<j，且所述時(shí)間注意網(wǎng)絡(luò)的第i行僅由n"的第j行向量組成；,,通過VSN2(-)的變量選擇權(quán)重來評(píng)估變量返回的重要性；基于所述用電負(fù)荷時(shí)空特征、目標(biāo)用電節(jié)點(diǎn)的實(shí)時(shí)用電負(fù)荷數(shù)據(jù)按照時(shí)間對不同用電節(jié)點(diǎn)的歷史用電負(fù)荷數(shù)據(jù)和歷史環(huán)境數(shù)據(jù)基于不同用電節(jié)點(diǎn)的歷史用電負(fù)荷數(shù)據(jù)和歷史環(huán)境數(shù)據(jù)之間的影基于各個(gè)集群之間的影響關(guān)系構(gòu)建時(shí)間因果假設(shè)關(guān)系和空間因果假基于自注意模塊對所述時(shí)間因果假設(shè)關(guān)系和所述空間因果假設(shè)關(guān)5基于所述空間因果注意網(wǎng)絡(luò)將所述多層時(shí)空模型轉(zhuǎn)換基于所述時(shí)間注意網(wǎng)絡(luò)對各個(gè)空間特征矩陣進(jìn)行壓縮，得到多個(gè)空基于所述空間依賴性對比模塊在所述時(shí)空特征矩陣中添加空間因果先驗(yàn)4.根據(jù)權(quán)利要求1所述的基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測方法，其特征在于，所述STEF_DHNet模型包括依次連接的第一卷積層、第二卷積層、扁平化模塊、L個(gè)全連接層和基于所述第一卷積層和所述第二卷積層對所述目標(biāo)用電節(jié)點(diǎn)的實(shí)時(shí)用電負(fù)荷數(shù)據(jù)進(jìn)對所述目標(biāo)用電節(jié)點(diǎn)的實(shí)時(shí)環(huán)境數(shù)據(jù)進(jìn)行網(wǎng)格化，并與所述用電負(fù)荷基于所述LSTM層對所述預(yù)測特征和所述用電負(fù)荷時(shí)空特征進(jìn)行預(yù)測，得基于所述目標(biāo)用電節(jié)點(diǎn)的歷史用電負(fù)荷數(shù)據(jù)和歷史環(huán)境數(shù)據(jù)構(gòu)建以平均絕對誤差為損失函數(shù)，基于所述訓(xùn)練集、所述驗(yàn)證集和所述測試集對STEF_基于所述訓(xùn)練集和策略網(wǎng)絡(luò)生成對抗樣本；其中，所述策略網(wǎng)絡(luò)基于獎(jiǎng)勵(lì)函數(shù)、所述訓(xùn)練集和所述對抗樣本對STEF_DHNet模型進(jìn)行在訓(xùn)練過程中，基于測試集和給定的時(shí)間長度更新STEF_DHNe所述目標(biāo)用電節(jié)點(diǎn)的歷史用電負(fù)荷數(shù)據(jù)和歷史環(huán)境數(shù)據(jù)構(gòu)建訓(xùn)練集、驗(yàn)證集和測試集包6對所述目標(biāo)用電節(jié)點(diǎn)的歷史用電負(fù)荷數(shù)據(jù)和歷史環(huán)境數(shù)據(jù)進(jìn)行數(shù)對所述平滑數(shù)據(jù)添加時(shí)間信息，并將同一時(shí)刻的歷史用電負(fù)荷對各條樣本數(shù)據(jù)進(jìn)行特征提取，將提取到的特征添加到對應(yīng)的樣時(shí)空建模模塊，用于基于不同用電節(jié)點(diǎn)的歷史用電負(fù)④對于s豐s'和(1vsr,vsp)Ee，當(dāng)且僅當(dāng)(vsrrvsx)Ee；此外當(dāng)且僅當(dāng);;所述假設(shè)2表示基于先驗(yàn)知識(shí)的空間因果關(guān)特征提取模塊，用于基于可解釋時(shí)空注意力轉(zhuǎn)換器對所述多;其中，n"是n"的自注意，是從Rpxd1到Rpdz的映射，具有的注意權(quán)矩陣7w(o)=(w"),w",w"))的三元組，nf")作為空間特征矩陣，對應(yīng)于被假設(shè)2中因果約,Mr為解碼器掩碼；Mr中的上對角元素是i<j，且所述時(shí)間注意網(wǎng)絡(luò)的第i行僅由n"的第j行向量組成；,,行向量，?與n"均通過空間因果注意網(wǎng)絡(luò)得到，n?的注意權(quán)值用于解釋和量化空間通過VSN2(-)的變量選擇權(quán)重來評(píng)估變量返回的重要性；8[0002]用電負(fù)荷預(yù)測是電力系統(tǒng)規(guī)劃的重要組成部分，也是電9[0021]基于第一卷積層和第二卷積層對目標(biāo)用電節(jié)點(diǎn)的實(shí)時(shí)用電負(fù)荷數(shù)據(jù)進(jìn)行特征提[0032]在訓(xùn)練過程中，基于測試集和給定的時(shí)間長度更新STEF_DH[0045]圖1是本發(fā)明一實(shí)施例提供的基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測方法的實(shí)現(xiàn)流程[0046]圖2是本發(fā)明一實(shí)施例提供的基于可解釋時(shí)空注意力轉(zhuǎn)換器進(jìn)行特征提取和先驗(yàn)[0049]圖5是本發(fā)明另一實(shí)施例提供的基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測方法的實(shí)現(xiàn)流程[0050]圖6是本發(fā)明一實(shí)施例提供的基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測裝置的結(jié)構(gòu)示意[0057]參見圖1，其示出了本發(fā)明實(shí)施例提供的基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測方法的本實(shí)施例中通過多層時(shí)空模型表征用電負(fù)荷數(shù)據(jù)和環(huán)境數(shù)據(jù)的時(shí)空因果關(guān)[0064]步驟102，基于可解釋時(shí)空注意力轉(zhuǎn)換器對多層時(shí)空模型進(jìn)行特征提取和先驗(yàn)知[0068]有研究表明，與傳統(tǒng)的機(jī)器學(xué)習(xí)技術(shù)相比，基于網(wǎng)格系統(tǒng)的深度神經(jīng)網(wǎng)絡(luò)(DeepNeuralNetworks,DNN)可以獲得更好的結(jié)果。精心設(shè)計(jì)合適的深度神經(jīng)網(wǎng)絡(luò)架構(gòu)是非常獲未來用電負(fù)荷與近時(shí)間點(diǎn)之間的相關(guān)性，使用空間視圖通過局部CNN了解局部空間相關(guān)[0070]該模型利用CNN和LSTM層的強(qiáng)度來進(jìn)行預(yù)測。該模型旨在捕獲用電負(fù)荷數(shù)據(jù)的空[0079]多層網(wǎng)絡(luò)是一種有用的工具，用于對具有層次結(jié)構(gòu)的變[0080]利用多層網(wǎng)絡(luò)對時(shí)空變量進(jìn)行表征學(xué)習(xí)。例如，在某個(gè)場景中，用電節(jié)點(diǎn)包括C={P,P,P3}，C2={B}，CZ={D}和CZ={B,B2,B3,BZ}。定義一個(gè)節(jié)點(diǎn)[0085]②對于s豐s'和，當(dāng)且僅當(dāng)(vsrrvsx)Ee。此外當(dāng)[0087]假設(shè)2（空間因果關(guān)系如果(s,s')e{(1,3),(1,4),(2,4),(4,3)}。否[0088]假設(shè)2具體定義了基于先驗(yàn)知識(shí)的空間因果關(guān)系。有向邊需要對一種情況進(jìn)行估v少了多層網(wǎng)絡(luò)上時(shí)空數(shù)據(jù)的特征。注意使用兩個(gè)矩陣QeRxd和，。[0093]從注意權(quán)重中識(shí)別或控制訓(xùn)練特征的一個(gè)特征。設(shè)aij為(A)y，vi和v'分別為V和三個(gè)矩陣在同一序列中有不同的表示。設(shè)xeRtd'為輸入序列，則自關(guān)注中的特征由，[0103]空間因果注意網(wǎng)絡(luò)是一種根據(jù)已知的空間因果關(guān)系嵌入觀察變量集合的自注嵌入特征表示所有站點(diǎn)在固定時(shí)間內(nèi)的聚合信息，其空間因果關(guān)系由空間掩蔽矩陣MS反[0108]它是H(")的自注意，它是從Rxdu到Rpdz的映射，具有dxd:的注意權(quán)矩陣域信息矩陣轉(zhuǎn)換為單個(gè)向量來進(jìn)行壓縮。的下標(biāo)用于區(qū)分它與其他相同形式的函,Mr為解碼器掩碼。Mr中的上對角元素是[0118]時(shí)間注意網(wǎng)絡(luò)使用VSN的空間坍縮特征，導(dǎo)致由假設(shè)2引起的空間因n?與n"均通過空間因果注意網(wǎng)絡(luò)得到，它將時(shí)間信息和空間信息融合在一[0125]引入一種使用前饋網(wǎng)絡(luò)(FFN)層的全局和局部上下文向量的新型解碼器架構(gòu)。解[0138]分位數(shù)輸出層是FFN層，返回分位數(shù)水平q上的超前k步預(yù)測，a(k)eR，設(shè)計(jì)的解碼器可以通過避免導(dǎo)致偏差預(yù)測的誤差積累來[0151]STEF_DHNet模型融合了CNN和LSTM層的優(yōu)勢來進(jìn)行預(yù)測，同時(shí)還考慮了外部因素[0153]基于第一卷積層和第二卷積層對目標(biāo)用電節(jié)點(diǎn)的實(shí)時(shí)用電負(fù)荷數(shù)據(jù)進(jìn)行特征提參數(shù)向量o:表示為：為L×W×H×K的張量，為了包含外部因素，沿著最后一個(gè)軸將D:-r與外部因素張量民-i連每個(gè)區(qū)域使用了M個(gè)外部因素。在下一步中，只有[0180]使用平均絕對誤差（MAE每次平均的均方根誤差（RMSE）和平均絕對百分比誤中從完整的節(jié)點(diǎn)集中動(dòng)態(tài)地選擇一個(gè)表現(xiàn)出時(shí)空依賴性的節(jié)點(diǎn)子[0200]是敵對的狀態(tài)從時(shí)間段t-t到t。表示所有訓(xùn)練樣本的時(shí)間步長集合。Lar(-)表示用戶指定的對抗訓(xùn)練損失函數(shù)，它可以包括常用的度[0202]從一組n時(shí)空分布數(shù)據(jù)源中選擇最優(yōu)節(jié)點(diǎn)子集的問題表述為組合優(yōu)化問題。問題。生成Ω序列。[0216]將不同層的隱藏狀態(tài)連接并傳遞到兩個(gè)多層感知(MLP)中，以獲得最終的節(jié)點(diǎn)嵌[0223]為了更新消息信息的上下文節(jié)點(diǎn)嵌入，采用多頭關(guān)注法計(jì)算新的上下文節(jié)點(diǎn)嵌[0227]q=weu'ek;=WH':，jF-"進(jìn)行屏蔽。[0236]具體來說，首先根據(jù)求解得到對抗節(jié)點(diǎn)指標(biāo)I:的集合，其中率分布中抽取一個(gè)隨機(jī)變量來計(jì)算用于進(jìn)行對抗性訓(xùn)用上標(biāo)(p)和(b)分別與策略網(wǎng)絡(luò)選擇器和基線選擇器對齊。這樣，利用平衡獎(jiǎng)勵(lì)函數(shù)代的對抗性示例表示為：為步長，為從策略網(wǎng)絡(luò)中獲得的最終節(jié)點(diǎn)選擇指標(biāo)，Lsg(-)為均方誤差損失函數(shù)。這意味著當(dāng)前的時(shí)空預(yù)測模型是使用從前一個(gè)模型中提取的知識(shí)來訓(xùn)練的。通過這種方[0263]其中α是控制從教師模型轉(zhuǎn)移的知識(shí)數(shù)量的參數(shù)。注意，在第一個(gè)訓(xùn)練時(shí)期，Lsg(-)函數(shù)被直接用作對抗訓(xùn)練損失。[0266]在訓(xùn)練過程中，基于測試集和給定的時(shí)間長度更新STEF_DH的非線性關(guān)系。利用CNN和LSTM層的強(qiáng)度來進(jìn)行預(yù)測，有效地結(jié)合了外部因素的真實(shí)復(fù)雜的執(zhí)行順序應(yīng)以其功能和內(nèi)在邏輯確定，而不應(yīng)對本發(fā)明實(shí)施例的實(shí)施過程構(gòu)成任何限[0307]圖6示出了本發(fā)明實(shí)施例提供的基于時(shí)空相關(guān)性的用電負(fù)荷預(yù)測裝置的結(jié)構(gòu)示意[0324]基于第一卷積層和第二卷積層對目標(biāo)用電節(jié)點(diǎn)的實(shí)時(shí)用電負(fù)荷數(shù)據(jù)進(jìn)行特征提