CN118692055B 用于自動駕駛可遷移式對抗攻擊的樣本生成方法及裝置 （天津大學）

A,2022.07.12A,2023.08.04A,2023.10.03A,2024.03.08用于自動駕駛可遷移式對抗攻擊的樣本生本公開提供了一種用于自動駕駛可遷移式的特征混合塊對原始樣本圖像的干凈特征和對抗特征進行混合處理，得到待更新對抗樣本圖用基于梯度的優化算法對待更新對抗樣本圖像2利用干擾塊對原始樣本圖像中補丁位置進行利用目標識別模型中的特征混合塊對所述原始樣本圖像的干凈特征和對抗特征進行利用基于梯度的優化算法對所述待更新對抗樣所述利用所述目標識別模型中的特征混合塊對所述原始樣本圖像的干凈特征和對抗在所述目標識別模型中的所述特征混合塊處于工作狀態的情況所述利用基于梯度的優化算法對所述待更新對抗樣本圖像中的所述干擾塊進行更新，在所述目標識別模型中的所述特征混合塊處于工作狀態的情況在所述目標識別模型中的多個所述特征混合塊均不處于工3’ft為在第t次迭代過程中與所述待更新對抗樣本圖像對應的混合特征，fe為在所述第所述補丁位置是將所述原始樣本圖像輸入訓練后的自注意力機制混合處理模塊，用于利用目標識別模型中的特征混合塊對的損失函數處理所述原始樣本圖像和所述對抗樣本圖更新模塊，用于利用基于梯度的優化算法對所述待更新對抗樣本混合處理子模塊用于在所述目標識別模型中的所述特征混合塊處于工作狀態的情況更新子模塊用于在所述目標識別模型中的所述特征混合塊處于工4塊是具有噪聲的圖像，補丁位置是將原始樣本圖像輸入訓練后的自注意力機制模型得到從對抗樣本圖像中特征提取得到的，目標識別模型是基于損失函數值訓練識別模型得到5后的識別模型的待調整模型參數；利用基于梯度的優化算法對待調整模型參數進行微調，到微調模型參數包括：在目標識別模型中的多個特征混合塊均不處于工作狀態的情況’[0018]本公開的第二方面提供了一種用于自動駕駛可遷移式對于利用目標識別模型中的特征混合塊對原始樣本圖像的干凈特征和對抗特征進行混合處從對抗樣本圖像中特征提取得到的，目標識別模型是基于損失函數值訓練識別模型得到6[0026]圖1示意性示出了根據本公開實施例的用于自動駕駛可遷移式對抗攻擊的樣本生[0027]圖2示意性示出了根據本公開實施例的用于自動駕駛可遷移式對抗攻擊的樣本生[0028]圖3示意性示出了根據本公開實施例利用干擾塊對原始樣本圖像中補丁位置進行[0029]圖4示意性示出了根據本公開實施例可遷移式對抗攻擊的樣本生成過程的示意[0030]圖5示意性示出了根據本公開實施例的用于自動駕駛可遷移式對抗攻擊的樣本生[0031]圖6示意性示出了根據本公開實施例的適于實現自動駕駛可遷移式對抗攻擊的樣7統均為用戶提供相應的操作入口，供用戶選擇同意或者拒絕自動化決策結果；若用戶選擇業水平的人員進行決策的活動。[0039]圖1示意性示出了根據本公開實施例的用于自動駕駛可遷移式對抗攻擊的樣本生[0040]如圖1所示，根據該實施例的應用場景100可以包括汽車101、網絡102和服務器[0042]汽車101可以是具有顯示屏并且支持網頁瀏覽的各種電子設備，包括但不限于智8對抗攻擊的樣本生成裝置一般可以設置于服務器103中。本公開實施例所提供的用于自動駕駛可遷移式對抗攻擊的樣本生成也可以由不同于服務器103且能夠與汽車101和/或服務移式對抗攻擊的樣本生成也可以設置于不同于服務器103且能夠與汽車101和/或服務器[0046]圖2示意性示出了根據本公開實施例的用于自動駕駛可遷移式對抗攻擊的樣本生[0047]如圖2所示，該實施例的用于自動駕駛可遷移式對抗攻擊的樣本生成方法包括操失函數值是基于識別模型的損失函數處理原始樣本圖像和對9[0075]si=[ps·H/HS,ps·(H+HS/HS)]，sj=[ps·w/ws,ps·(w+ws/w5s)]，pS為預設[0077]圖3示意性示出了根據本公開實施例利用干擾塊對原始樣本圖像中補丁位置進行[0078]如圖3所示，首先通過在原始樣本圖像上尋找最佳的目標掩碼位置來提高對抗性過生成的類別注意力圖確定目標掩碼位置。對原始樣本圖像中目標掩碼位置進行掩碼處后的識別模型的待調整模型參數；利用基于梯度的優化算法對待調整模型參數進行微調，[0088]θt可以為在第t次迭代過程中的模型參數，可以f為重新定義后的損失函數。到微調模型參數包括：在目標識別模型中的多個特征混合塊均不處于工作狀態的情況[0090]根據本公開的實施例，干凈特征是通過目標識別模型對原始樣本圖像進行存儲[0093]R-(1-)-f"tr-h.（7）t次迭代過程中與待更新對抗樣本圖像對應的混合特征，fc為在第t次以概率p重新激活特征混合塊，基于梯度的優化算法可以Adam(adaptivemoment[0101]圖4示意性示出了根據本公開實施例可遷移式對抗攻擊的樣本生成過程的示意[0102]如圖4所示，利用干擾塊對原始樣本圖像中補丁位置進行處理，得到對抗樣本圖[0114]圖5示意性示出了根據本公開實施例的用于自動駕駛可遷移式對抗攻擊的樣本生[0116]處理模塊510用于利用干擾塊對原始樣本圖像中補丁位置進行處理，得到對抗樣[0117]混合處理模塊520用于利用目標識別模型中的特征混合塊對原始樣本圖像的干凈和對抗樣本圖像得到的。在一實施例中，混合處理模塊520可以用于執行前文描述的操作[0118]更新模塊530用于利用基于梯度的優化算法對待更新對抗樣本圖像中的干擾塊進個特征混合塊分別位于目標識別模型的不同的結訓練模塊用于基于損失函數值訓練識別模型，得到訓練后的識別模型的待調整模型參數。微調模塊用于利用基于梯度的優化算法對待調整模型參數進行微調，得到微調模型參數。駕駛可遷移式對抗攻擊的樣本生成裝置部分的描述具體參考自動駕駛可遷移式對抗攻擊者，這些模塊中的一個或多個模塊的至少部分功能可以與其他模塊的至少部分功能相結塊510、混合處理模塊520和更新模塊530中的至少一個可以至少被部分地實現為計算機程[0128]圖6示意性示出了根據本公開實施例的適于實現自動駕駛可遷移式對抗攻擊的樣例的方法流程的不同動作的單一處理單元或602以及RAM603通過總線604彼此相連。處理器601通過執行ROM602和/或RAM603中的程ROM602和RAM603以外的一個或多個存儲器中。處理器601也可以通過執行存儲在所述一個或多個存儲器中的程序來執行根據本公開實施例的方法605的以下部件中的一項或多項：包括鍵盤、鼠標等的輸入部分606；包括諸如陰極射線管其上讀出的計算機程序根據需要被安裝入存以是任何包含或存儲程序的有形介質，該程序可以被指令執行系統、裝置或者器件使用或者與其結合使用。例如，根據本公開的實施例，計算機可讀存儲介質可以包括上文描述的ROM602和/或RAM603和/或ROM602和RAM603以外的一個或多個存儲器。包含用于執行流程圖所示的方法的程序代碼。當計算機程序產品在計算機系統中運行時，該程序代碼用于使計算機系統實現本公開實施例所提供的自動駕駛可遷移式對抗攻擊的[0135]在該計算機程序被處理器601執行時執行本公開實施例的系統/裝置中限定的上的編程語言、和/或匯編/機器語言來實施這些計算程序。程序設計語言包括但不限于諸如[0140]本領域技術人員可以理解，本公開的各個實施例和/或權利要求中記載的特征可不脫離本公開精神和教