CN116206214B 一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方法、系統、設備及介質 （西安電子科技大學）

WeibinLi.LightweightLandslDetectionMethodBasedConvolutionAndDoubleSelf-A一種基于輕量化卷積神經網絡和雙注意力一種基于輕量化卷積神經網絡和雙注意力Ournetworkframework學習框架隨機生成一個張量，將其送入Ournetworkframework網絡模將卷積神經網絡的優勢和自注意力機制的優勢2所述Fused_MBConv模塊包括一個3*3升維卷積以及一個1*1降維卷積，將Fused首先構建一個1*1的標準卷積層，將其輸出特征圖送入步長為1的Fused_MBConv模塊中，該次使用不進行升維，Fused_MBConv模塊循環兩次，將其輸出特征送入步長為2的步驟5：使用深度學習框架隨機生成一個張量，將其送入到步驟2得到的Ournetwork2.根據權利要求1所述的一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方33.根據權利要求1所述的一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方4.根據權利要求1所述的一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方精確率Precision作為評判網絡性能的評價指標，準確率Accuracy為分類正確的樣本占樣代表所有預測為正樣本中實際為正樣本的概率；Precision和Recall是一對矛盾的度量，Precision高時，Recall偏低；而Recall高時，Precision偏低；在需要兼顧Precision和其中TP表示正樣本預測正確的個數，FP負樣本預測錯誤的個步驟5中所述張量的維度尺寸大小為步驟1中統一調整數據集尺寸大小之后影像的維5.根據權利要求2所述的一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方融合移動翻轉瓶頸卷積模塊：該模塊由3*3升維卷積和1*1降維卷積組成，并將Fused_4雙注意力機制模塊：該模塊由空間維度的窗口多頭自注意力機制和通空間窗口多頭自注意力機制模塊：雙注意力機制模通道組自注意力機制模塊：雙注意力機制模塊中通道維度部分，利用通處理器，用于執行所述計算機程序時實現權利要求1_5任一項所述的一種基于輕量化所述計算機可讀存儲介質存儲有計算機程序，所述計算機程序被處現權利要求1_5任一項所述的一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方5[0003]目前應用在滑坡檢測上的圖像分類方法大多是基于目前比較成熟的常用網絡的改進，比如DawenYu等人提出基于注意力機制的方法對衛星遙感影像進行滑坡檢測(JiS,YuD,ShenC,etal.Landslidedetectionfromanopensatelliteimageryanddigitalelevationmodeldatasetusingattentionboostedconvolutionalneural檢測(SameenMI,PradhanB.Landslidedetectionusingresidualnetworksandthefusionofspectralandtopographicinformation[J].IEEEAccess,2019,PP(99):[0008]2021年4月發表的EfficientNetV2(TanM,LeQ.Efficientnetv2:Smallermodelsandfastertraining[C]//Internationalconferenceonmachinelearning.PMLR,2021:6Ournetworkframework網絡模型是將卷積神經網絡的優勢和自注意力機制的優勢結合起[0018]步驟1.1：獲取滑坡遙感影像[0021]步驟1.4：將步驟1.3中得到的訓練集按一定比例分別劃分為新的訓練集和驗證練集的數據均調整為統一大小224*224或7雙注意力機制、特征轉換操作以及1*1卷積組成，并將輸入特征圖與最終輸出特征圖進行shortcut鏈接，使用PatchEmbed模塊調整特征圖通道的大小，并將特征圖展平為適合DualAttentionBlock[0029]所述步驟3的具體方法為：將步驟1.6中得到的訓練集送入到步驟2搭建的Our[0030]所述步驟4的具體方法為：將步驟1Precision作為評判網絡性能的評價指標，準確率Accuracy為分類正確的樣本占樣本總數有預測為正樣本中實際為正樣本的概率；Precision和Recall是一對矛盾的度量，Precision高時，Recall偏低；而Recall高時，Precision偏低；在需要兼顧Precision和8[0037]步驟5中所述張量的維度尺寸大小為步驟1中統一調整數據集尺寸大小之后影像[0039]本發明還提供了一種基于輕量化卷積神經網絡和雙注意[0041]融合移動翻轉瓶頸卷積模塊：該模塊由3*3升維卷積和1*1降維卷積組成，并將[0046]本發明還提供了一種基于輕量化卷積神經網絡和雙注意夠實現一種基于輕量化卷積神經網絡和雙注意力的自動識9結合PDC模塊中的雙注意力機制以增加網絡模型空間感知的全局性，以此來提高滑坡識別所提升，同時模型復雜度、參數量、推理時間、訓練時間均有所降低。本發明在[0058]下面以一種基于輕量化卷積神經網絡和雙注意力的自動識別滑坡方法作為實施[0059]步驟1：對寧夏高分二號衛星遙感影像進行預處理，獲取寧夏滑坡遙感影像數據集；本發明主要針對滑坡遙感數據集和滑坡隱患點(即尚未發生滑坡，但有發生滑坡的趨[0067]如圖1所示，步驟2.1：利用pytorch深度學習框架分別構建Fused_MBConv模塊、維卷積，將Fused_MBConv模塊的特征輸入與特征輸出進行跳躍連接(ShortcutConnection)；MBConv模塊包括一個1*1升維卷積、一個3*3深度可分離卷積、一個SE(Squeeze_and_Excitation)注意力機制以及一個1*1降維卷積，將MBConv模塊的特征輸入操作以及1*1卷積組成，并將輸入特征圖與最終輸出特征圖進行shortcut鏈接，使用PatchEmbed模塊調整特征圖通道的大小，并將特征圖展平為適合DualAttentionBlock的回率Recall代表實際的正樣本中預測為正樣本的概率；精確率Precision代表所有預測為正樣本中實際為正樣本的概率；Precision和Recall是一對矛盾的度量，Precision高時，到的Ournetworkframework網絡模型中，計算FLOPs(用來衡量模型的復雜度)、參數量[0082]如圖1所示，基于輕量化卷積神經網絡和雙注意力機制的滑坡識別的網絡模型整[0084]由于MBConv模塊在淺層使用，會導致訓練速度變慢，因此在淺層網絡中使用將Fused_MBConv模塊的輸入特征圖與輸出特征圖進義的。為此，本發明設計了結合卷積神經網絡與Transformer的輕量化網絡模型Our輸出特征圖進行跳躍連接作為PDC模塊的輸[0088]本發明中構建的Ournetworkframework網絡模型，該網絡模型由Fused_MBConv滑坡識別的輕量化卷積神經網絡，同時結合PDC模塊中的雙注意力機制以增加網絡模型空意力機制模塊，從空間維度和通道維度分別進行自注意力機制，實現全局建模，Our[0090]本發明還提供了一種基于輕量化卷積神經網絡和雙注意[0093]雙注意力機制(DualAttention)模塊(見附圖2)：該模塊由空間維度的窗口多頭[0094]空間窗口多頭自注意力機制(SpatialWindowMultiheadSelf_attention)模塊[0095]通道組自注意力機制(Cha[0098]使用兩個輕量化網絡模型MobileNetV3、ShuffleNetV2，近年來比較主流的EfficientNetV2網絡模型以及近年來經典的卷積神經網絡模型ResNet101和DenseNet169，6.98比ShuffleNetV2高5.5型相比，Params、FLOPs、推理時間和運行時間