CN115883053B 基于聯邦機器學習的模型訓練方法和裝置 （支付寶(杭州)信息技術有限公司）

本說明書實施例提供了基于聯邦機器學習少一個云服務器參與基于聯邦機器學習的模型度發送給云服務器；第一客戶端執行下一輪訓2于聯邦機器學習的模型訓練，該方法應用于所述至少兩個客戶端中的任意一個第一客戶第一客戶端將本輪訓練得到的梯度與該第一客戶端對應的掩第一客戶端得到由該第一客戶端生成的、對應所述所有j表征參與所述模型訓練的所有客戶端中除了第一客戶端之外的第j個客戶端；該方法進一步包括：第一客戶端生成該第一客戶端對應的同態加密密收轉發服務器發來的所述所有客戶端中其他每一個客戶端對應的公相應地，在所述第一客戶端得到由該第一客戶端生成的、相應地，所述第一客戶端得到由所述其他每一個客戶端生成所述第一客戶端接收轉發服務器發來的其他每一個客戶端生成的、3第一客戶端利用該第一客戶端對應的同態加密密鑰對中的6.基于聯邦機器學習的模型訓練方法，至少兩個客戶在每一輪訓練中，云服務器將最新得到的全局模型下發給參與基云服務器接收每一個客戶端發來的加密后的全局模型的發來的加密后的全局模型的梯度是利用權利要求1至57.基于聯邦機器學習的模型訓練裝置，至少兩于聯邦機器學習的模型訓練，該裝置應用于所述至少兩個客戶端中的任意一個第一客戶梯度獲取模塊，配置為在每一輪訓練中，利用本地的私有數據訓練出進一步包括：掩碼獲取模塊；掩碼獲取模塊被配置為得到該裝置所在所述加密模塊在進行加密時被配置為執行：將本輪訓練得到的梯度與得到由所在的第一客戶端生成的、對應所述所有客戶端中其他每一表征參與所述模型訓練的所有客戶端中除了第一客戶端之外的第8.基于聯邦機器學習的模型訓練裝置，至少兩個客全局模型下發模塊，配置為在每一輪訓練中，將最新得到的全局模4梯度接收模塊，配置為在每一輪訓練中，接收每一個客戶端發來的梯度聚合模塊，配置為在每一輪訓練中，將接收到的各個加密后的全局模56j征第一客戶端，vj表征參與所述模型訓練的所有客戶端中除了第一客戶端之外的第j個客端接收轉發服務器發來的所述所有客戶端中其他每一個客戶端對應的公7[0049]本說明書各個實施例提供的方法及裝置，能夠單獨或者組合后實現如下有益效8端對應的掩碼，從而可以保證計算出的掩碼的數值范圍不會超過協議所能承載的最大數[0056]圖2是本說明書一個實施例中由客戶端執行的基于聯邦機器學習的模型訓練方法[0057]圖3是本說明書一個實施例中第一客戶端得到該第一客戶端對應的掩碼的方法流[0058]圖4是本說明書一個實施例中由云服務器執行的基于聯邦機器學習的模型訓練方[0059]圖5是本說明書一個實施例中由客戶端及云服務器配合實現的基于聯邦機器學習[0060]圖6是本說明書一個實施例中應用于客戶端中的基于聯邦機器學習的模型訓練裝[0061]圖7是本說明書一個實施例中應用于客戶端中的基于聯邦機器學習的模型訓練裝[0062]圖8是本說明書一個實施例中應用于云服務器中的基于聯邦機器學習的模型訓練9[0069]圖2是本說明書一個實施例中客戶端執行的基于聯邦機器學習的模型訓練方法的[0075]本說明書實施例的方法可以應用于基于聯邦機器學習進行模型訓練的各種業務[0083]為了滿足該安全性，客戶端不能將自己訓練出的梯度的原文直接發送給云服務j表征參與所述模型訓練的所有客戶端中除了第一客戶端之外的[0093]參與基于聯邦機器學習的模型訓練方法的所有客戶端都會執行上述步驟301的處[0096]為了讓參與模型訓練的每一個客戶端都得到其他各個客戶端生成的對應于該每客戶端中其他每一個客戶端對應的公鑰；與s(v1[0116]圖4是本說明書一個實施例中云服務器執行的基于聯邦機器學習的模型訓練方法器學習的模型訓練方法。圖5是本說明書一個實施例中由客戶端及云服務器配合實現的基[0125]步驟503：每一個客戶端將該客戶端對應的同態加密密鑰對中的公鑰發送給云服使得每一個客戶端都得到了參與模型訓練的所有客戶端對應的公[0127]步驟507：第一客戶端生成對應所有客戶端中其他每一個客戶端的各個子掩碼s執行的處理就是參與模型訓練的每一個客戶[0130]步驟511：云服務器將所有客戶端發來的對應于第i個客[0137]步驟523：第一客戶端計算加密后的梯度y(u)=x(u)+洋1p(u,v),然后將y(u)模型訓練的所有客戶端對應的所有掩碼的和小[0150]加密模塊603在進行加密時被配置為執行：將本輪訓練得到的梯度與該第一客戶j表征參與所述模型訓練的所有客戶端中除了第一客戶端之外的第j個客戶端；[0159]在圖7所示的本說明書裝置的實施例中，掩碼獲取模塊[0163]利用該第一客戶端對應的同態加密密鑰對中的私鑰，對各個加密后的子掩碼s[0169]全局模型更新模塊804，配置為在每一輪訓練中，利用聚合后的梯度更新全局模[0171]本說明書一個實施例提供了一種計算機可讀存儲介質，