CN116340641B 基于顯式和隱式興趣特征的智能新聞推 薦方法和系統 （齊魯工業大學(山東省科學院)）

基于顯式和隱式興趣特征的智能新聞推薦本發明公開了一種基于顯式和隱式興趣特為現有的新聞推薦方法無法識別顯式和隱式興于顯式和隱式興趣特征的新聞推薦模型構建單2構建基于顯式和隱式興趣特征的新聞推薦模型，以新構建點擊率預測器模塊，首先利用門控網絡選擇即點擊率，將所有候選新聞依據點擊率大小由高到低進行排序，將Top_K條新聞推薦給用基于顯式和隱式興趣特征的智能新聞推薦方法，其特征在于，所述首先，針對數據集中每一個單詞構建單詞映射表，并將表中表示；在詞嵌入層將每一個新聞標題T＝[w1,w2,...,wN]轉換成向量表示，記為x＝[x1,所述基于顯式和隱式興趣特征的新聞推薦模型的構建過程具構建顯式興趣編碼器：為了生成用戶的顯式興趣特征，顯示興趣編碼器利用3qk和Wv皆為可學習的參數，ri表示第i個新聞特征向量，qi表示第i個新聞的之后，再使用加性注意力機制和按位相乘運算計算key向量與query向量的交互信息，然后，通過點積運算和線性層處理key向量和value2kN]；pp構建隱式興趣編碼器，隱式興趣編碼器旨在從用戶瀏覽記錄中推測用戶的隱式興趣，4為了從歷史新聞序列的關鍵詞向量中推測隱式興趣，首先從新聞推薦數據集中使用然后通過一個可學習的映射矩陣M過濾可能的關鍵詞，再通過計算可能的關鍵詞在全局關ppppp構建門控網絡：其被設計用來選擇重要的特pgbp為顯式興趣特g構建基于候選新聞的注意力網絡，其被設計用來將候選5Q構建預測模塊，其將由新聞編碼器生成的候選新聞的新聞特征向量n和最終的用戶特j=UT-n;新聞給用戶。預處理新聞數據集：預處理新聞數據集中的每一條新聞文本，去構建訓練正例：使用用戶瀏覽記錄中的歷史新聞序列和交互行為序列中標簽為1的新構建訓練負例：使用用戶瀏覽記錄中的歷史新聞序列和交互行為序列中標簽為0的新其中，i.,是在同一點擊序列中的第j個負樣優化訓練模型：選擇使用Adam優化函數作為本模型的6訓練數據集構建單元，首先在線上新聞網站獲得用原始數據獲取單元，負責下載網絡上已經公開的新聞原始數據預處理單元，負責預處理新聞數據集中的每一條新聞文本基于顯式和隱式興趣特征的新聞推薦模型構建單元，用于新聞編碼模塊構建單元，負責在訓練數據集中訓練基于Glove詞向量模型的新聞特征TF_IDF算法模塊構建單元，負責利用TF_IDF算法抽取用戶瀏覽記錄中的新聞關鍵詞，隱式興趣編碼模塊構建單元，負責利用多層感知圖神經網絡模塊構建單元，負責利用圖神經網絡傳播和聚合初始隱式興趣特征向量，隱式興趣解碼模塊構建單元，負責利用多層點擊率預測器模塊構建單元，首先利用門控網絡78[0003]本發明的技術任務是提供一種基于顯式和隱式興趣特征的智能新聞推薦方法和9[0017]i=q(x)[0018]h=f(uk+u)[0024]構建顯式興趣編碼器：為了生成用戶的顯式興趣特征，顯示興趣編碼器利用[0025]首先，Fastformer將輸入的新聞特征向量通過三種參數不共享的線性層轉換成]pp關鍵詞向量矩陣H中的分布概率可以得到可能的關鍵詞向量矩陣，即初始隱式興趣特征向ppppppggg[0069]構建預測模塊：其將由新聞編碼器生成的候選新聞的新聞特征向量n和最終的用[0070]j-u'-n;[0076]構建訓練正例：使用用戶瀏覽記錄中的歷史新聞序列和交互行為序列中標簽為1[0077]構建訓練負例：使用用戶瀏覽記錄中的歷史新聞序列和交互行為序列中標簽為0[0079]所述的新聞推薦模型構建完成后通過訓練數據集進行新聞推薦模型的訓練與優[0093]新聞編碼模塊構建單元，負責在訓練數據集中訓練基于Glove詞向量模型的新聞[0098]隱式興趣解碼模塊構建單元，負責利用多層感知機解碼更新的隱式興趣特征向上述的基于顯式和隱式興趣特征的智能新聞[0109](二)本發明首先通過TF_IDF方法對用戶瀏覽記錄中的新聞內容進行關鍵詞特征候選新聞的注意力融合用戶特征向量和候選新聞的新聞特征向量，從而提升推薦的準確[0120]參照說明書附圖和具體實施例對本發明的基于顯式和隱式興趣特征的智能新聞題向量中提取新聞標題的主要特征，并生成新聞特征向量；顯式興趣編碼器負責利用IDF算法模塊負責從用戶瀏覽記錄中抽取新聞內容的關鍵詞，然后利用詞嵌入層生成關鍵[0135]舉例：對步驟S101中展示的新聞實例，構建的正例數據形式化為：(N29038,N15201,N8018,N32012,N30859,N26552,N25930)。其中最后一個編號為被用戶點擊的新聞[0137]舉例：對步驟S101中展示的新聞實例，構建的負例數據形式化為：(N29038,N15201,N8018,N32012,N30859,N26552,N17825)。其中最后一個編號為未被用戶點擊的新[0143]i=q(x)h=f(u+u)h=f(u+u)[0147]self.f1＝nn.Linear(in_features＝config.word_embedding_dim,out_[0155]self.f2＝nn.Linear(in_features＝config.hidden_dim,out_features=[0159]首先，Fastformer將輸入的新聞特征向量通過三種參數不共享的線性層轉換成]pp[0179]h＝self.fastformer(history_embedding.view(batch_size,_1,self.news_model.transform()為稀疏矩陣轉換的方法。關鍵詞向量矩陣H中的分布概率可以得到可能的關鍵詞向量矩陣，即初始隱式興趣特征向pp[0200]temp＝torch.matmul(c.reshape(_1,self.word_embedding_dim),[0201]t＝torch.matmul(temp,self.pretrained_concept_embedding.transpose(0,[0202]personalized_concept_vector＝torch.matmul(concept_weight,ppppggggg[0242]其中，torch.bmm為點積運算，user_vector為[0251]loss＝torch.stack([x[0]fo中，libFM出自文獻《Factorizationmachineswithlibfm》，DKN出自文獻《DKN:Deep[0269]新聞編碼模塊構建單元，負責在訓練數據集中訓