CN118939766B 基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的處理方法和裝置 （北京深勢科技有限公司）

基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的本發(fā)明實(shí)施例涉及一種基于自適應(yīng)檢索增務(wù)的LLM模型作為第一模型；將問題文本輸入第整模式為第一模式時(shí)直接將當(dāng)前答案文本作為模式時(shí)進(jìn)行多輪檢索增強(qiáng)和答案文本調(diào)整得到2接收第一問題文本；并將預(yù)設(shè)的用于處理智能問答任務(wù)的LLM模型作為對應(yīng)的第一模將所述第一問題文本輸入所述第一模型的所述第一答案文本生成指令接口進(jìn)行處理答案文本輸入所述第一模型的所述答案質(zhì)量評估指令接口進(jìn)行處理得到對應(yīng)的第一質(zhì)量根據(jù)所述第一復(fù)雜度評估結(jié)果和所述第一質(zhì)量評估結(jié)果進(jìn)行文本調(diào)整模式確認(rèn)得到當(dāng)所述第一調(diào)整模式為第一模式時(shí)，將所述第一答案文本作為對應(yīng)的調(diào)整后答案文第一知識庫和所述第一模型進(jìn)行單輪檢索增強(qiáng)和答案文本調(diào)整處理得到對應(yīng)的所述調(diào)整第一知識庫和所述第一模型進(jìn)行多輪檢索增強(qiáng)和答案文本調(diào)整處理得到對應(yīng)的所述調(diào)整其中，所述第一答案文本生成指令接口用于將接口當(dāng)次輸入所述第二答案文本生成指令接口用于將接口當(dāng)次輸入的問題文本和知識文本集作為所述問題復(fù)雜度評估指令接口用于將接口當(dāng)次輸入的問題文本作為對應(yīng)的當(dāng)前問題所述答案質(zhì)量評估指令接口用于將接口當(dāng)次輸入的問題文本和答案文本作為對應(yīng)的3所述第一知識庫包括多個(gè)第一知識記錄；所述第一知識記錄包括第一知識文本和第一所述根據(jù)所述第一復(fù)雜度評估結(jié)果和所述第一質(zhì)量評估結(jié)果進(jìn)行文本調(diào)整模式確認(rèn)所述根據(jù)所述第一問題文本、所述第一答案文本、所述第一知識庫和參考RAG機(jī)制處理原理，對所述第一編碼向量與所述第一知識庫的各個(gè)所述第一知識似度超過預(yù)設(shè)的相似度閾值的所述第一文本向量對應(yīng)的所述第一知識文本作為對應(yīng)的第對應(yīng)的第一檢索文本序列；并將所述第一檢索文本序列中排在序列頭部的第一數(shù)量K的所述第一檢索文本提取出來組成對應(yīng)的第一知識文本集；所述第一數(shù)量K為一個(gè)預(yù)設(shè)的正整將所述第一問題文本和所述第一知識文本集輸入所述第一模型的所述第二答案文本所述根據(jù)所述第一問題文本、所述第一答案文本、所述第一知識庫和步驟61，將所述第一答案文本作為對應(yīng)的當(dāng)前答案文本步驟62，由所述第一問題文本和所述當(dāng)前答案文本組成述第二組合文本進(jìn)行詞嵌入編碼得到對應(yīng)的所述第二相似度從高到低的順序?qū)λ兴龅诙z索文本進(jìn)行排序得到對應(yīng)的第二檢索文本序列；并將所述第二檢索文本序列中排在序列頭部的所述第一數(shù)量K的所述第二檢索4步驟64，將所述第一問題文本和所述第二知識文本集步驟66，將所述第一問題文本和所述第三答案文本輸入步驟67，對所述第一計(jì)數(shù)器是否超過預(yù)設(shè)的計(jì)數(shù)器步驟68，對所述第二質(zhì)量評估結(jié)果是否為高進(jìn)行識別；2.根據(jù)權(quán)利要求1所述的基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的處理方法，其特征所述第一模型已經(jīng)完成模型預(yù)訓(xùn)練和模型微調(diào)；3.一種用于執(zhí)行權(quán)利要求1_2任一項(xiàng)所述的基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的所述問題接收模塊用于接收第一問題文本；并將預(yù)設(shè)的用于處理智能問答任務(wù)的LLM所述答案生成與評估模塊用于將所述第一問題文本輸入所述第一模型的所述第一答所述第一問題文本和所述第一答案文本輸入所述第一模型的所述答案質(zhì)量評估指令接口所述調(diào)整模式確認(rèn)模塊用于根據(jù)所述第一復(fù)雜度評估結(jié)果和所述第一質(zhì)量評估結(jié)果所述第一答案調(diào)整模塊用于當(dāng)所述第一調(diào)整模式為第一模式時(shí)，所述第二答案調(diào)整模塊用于當(dāng)所述第一調(diào)整模式為第二模式時(shí)，根據(jù)5所述第三答案調(diào)整模塊用于當(dāng)所述第一調(diào)整模式為第二模式時(shí)，根據(jù)所述答案顯示模塊用于對得到的所述調(diào)整后答案文本進(jìn)所述處理器用于與所述存儲器耦合，讀取并執(zhí)行所述存儲器中的5.一種計(jì)算機(jī)可讀存儲介質(zhì)，其特征在于6識領(lǐng)域覆蓋面較高的大問答數(shù)據(jù)集對LLM模型進(jìn)行模型預(yù)訓(xùn)練(pretraining)，再基于一模型能基于自身模型參數(shù)對用戶輸入的問題文本進(jìn)行對應(yīng)的答案文本生成處理。但受預(yù)/微調(diào)訓(xùn)練數(shù)據(jù)集的知識領(lǐng)域廣度和深度限制，此時(shí)的LLM模型產(chǎn)生幻覺(illusion)問題的[0003]有學(xué)者為降低LLM模型的幻覺概率提出了檢索增強(qiáng)生成(Retrievalaugmentedgeneration，RAG)機(jī)制，其具體實(shí)時(shí)細(xì)節(jié)可通過技術(shù)文獻(xiàn)《Retrieval_Augmented制是指在LLM模型每次進(jìn)行答案文本生成之前都先在外部知識庫中對與問題文本相似的知操作則無疑會降低LLM模型的平均處理效率；2)常規(guī)的檢索增強(qiáng)操作只會基于問題文本對的參考上下文的匹配度也會發(fā)生偏差、LLM模型生成的答案文本的準(zhǔn)確度也無法得到有效7操作提高答案準(zhǔn)確度；本發(fā)明在每輪檢索增強(qiáng)操作時(shí)以問題文本+前次答案文本作為依據(jù)進(jìn)行知識檢索，因?yàn)槌Ｒ?guī)情況下LLM模型生成的答案文本的邏輯性與專業(yè)性都會高于非專[0007]接收第一問題文本；并將預(yù)設(shè)的用于處理智能問答任務(wù)的LLM模型作為對應(yīng)的第[0008]將所述第一問題文本輸入所述第一模型的所述第一答案文本生成指令接口進(jìn)行第一答案文本輸入所述第一模型的所述答案質(zhì)量評估指令接口進(jìn)行處理得到對應(yīng)的第一[0009]根據(jù)所述第一復(fù)雜度評估結(jié)果和所述第一質(zhì)量評估結(jié)果進(jìn)行文本調(diào)整模式確認(rèn)所述第一知識庫和所述第一模型進(jìn)行單輪檢索增強(qiáng)和答案文本調(diào)整處理得到對應(yīng)的所述所述第一知識庫和所述第一模型進(jìn)行多輪檢索增強(qiáng)和答案文本調(diào)整處理得到對應(yīng)的所述[0017]所述第一答案文本生成指令接口用于將接口當(dāng)次輸入的問題文本作為對應(yīng)的當(dāng)[0018]所述第二答案文本生成指令接口用于將接口當(dāng)次輸入的問題文本和知識文本集8[0019]所述問題復(fù)雜度評估指令接口用于將接口當(dāng)次輸入的問題文本作為對應(yīng)的當(dāng)前[0020]所述答案質(zhì)量評估指令接口用于將接口當(dāng)次輸入的問題文本和答案文本作為對[0028]參考RAG機(jī)制處理原理，對所述第一編碼向量與所述第一知識庫的各個(gè)所述第一一相似度超過預(yù)設(shè)的相似度閾值的所述第一文本向量對應(yīng)的所述第一知識文本作為對應(yīng)得到對應(yīng)的第一檢索文本序列；并將所述第一檢索文本序列中排在序列頭部的第一數(shù)量K的所述第一檢索文本提取出來組成對應(yīng)的第一知識文本集；所述第一數(shù)量K為一個(gè)預(yù)設(shè)的9[0029]將所述第一問題文本和所述第一知識文本集輸入所述第一模型的所述第二答案對所述第二組合文本進(jìn)行詞嵌入編碼得到對應(yīng)的所述相似度閾值的所述第一文本向量對應(yīng)的所述第一知識文本作為對應(yīng)的第二檢索文本；并按所述第二相似度從高到低的順序?qū)λ兴龅诙z索文本進(jìn)行排序得到對應(yīng)的第二檢索文本序列；并將所述第二檢索文本序列中排在序列頭部的所述第一數(shù)量K的所述第二[0042]本發(fā)明實(shí)施例第二方面提供了一種用于實(shí)現(xiàn)上述第一方面所述的基于自適應(yīng)檢[0044]所述答案生成與評估模塊用于將所述第一問題文本輸入所述第一模型的所述第所述第一模型的所述問題復(fù)雜度評估指令接口進(jìn)行處理得到對應(yīng)的第一復(fù)雜度評估結(jié)果；并將所述第一問題文本和所述第一答案文本輸入所述第一模型的所述答案質(zhì)量評估指令[0045]所述調(diào)整模式確認(rèn)模塊用于根據(jù)所述第一復(fù)雜度評估結(jié)果和所述第一質(zhì)量評估結(jié)果進(jìn)行文本調(diào)整模式確認(rèn)得到對應(yīng)的第一調(diào)整模式；所述第一調(diào)整模式包括第一模式、令接口)，其中，第一答案文本生成指令接口用于根據(jù)輸入的問題文本生成對應(yīng)的答案文問題復(fù)雜度評估指令接口和答案質(zhì)量評估指令接口對問題文本的問題復(fù)雜度以及初次答實(shí)施例在每輪檢索增強(qiáng)操作時(shí)以問題文本+前次答案文本(在單輪檢索增強(qiáng)操作或多輪檢一輪時(shí)前次答案文本為前一輪得到的答案文本)作為依據(jù)進(jìn)行知識檢索，因?yàn)槌Ｒ?guī)情況下LLM模型生成的答案文本的邏輯性與專業(yè)性都會高于非專業(yè)提問人員輸入的問題文本，所[0055]圖1為本發(fā)明實(shí)施例一提供的一種基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的處理[0056]圖2為本發(fā)明實(shí)施例二提供的一種基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的處理圖1為本發(fā)明實(shí)施例一提供的一種基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的處理方法示意[0063]本發(fā)明實(shí)施例的第一答案文本生成指令接口用于將接口當(dāng)次輸入的問題文本作[0064]本發(fā)明實(shí)施例的第二答案文本生成指令接口用于將接口當(dāng)次輸入的問題文本和生成過程中的提示文本、根據(jù)當(dāng)前問題文本進(jìn)行答案文本生成處理并輸出對應(yīng)的答案文[0065]本發(fā)明實(shí)施例的問題復(fù)雜度評估指令接口用于將接口當(dāng)次輸入的問題文本作為[0066]本發(fā)明實(shí)施例的答案質(zhì)量評估指令接口用于將接口當(dāng)次輸入的問題文本和答案[0068]步驟2，將第一問題文本輸入第一模型的第一答案文本生成指令接口進(jìn)行處理得答案質(zhì)量評估指令接口進(jìn)行處理得到對應(yīng)的第一質(zhì)量評實(shí)施例的第一答案文本生成指令接口會將接口當(dāng)次輸入的第一答案文本作為對應(yīng)的當(dāng)前施例的問題復(fù)雜度評估指令接口會將接口當(dāng)次輸入的第一問題文本作為對應(yīng)的當(dāng)前問題本的問題復(fù)雜度進(jìn)行評估并輸出對應(yīng)的第一復(fù)雜度評估題文本進(jìn)行關(guān)鍵字提取得到對應(yīng)的當(dāng)前文本關(guān)鍵字集合；并將預(yù)先設(shè)置的知識主題樹上，與當(dāng)前文本關(guān)鍵字集合中各個(gè)關(guān)鍵字匹配度最高的知識主題節(jié)點(diǎn)標(biāo)記成對應(yīng)的關(guān)鍵字主[0075]這里提到的知識主題樹是一個(gè)用于存儲知識類別的主題數(shù)(subject后基于該適配檔來設(shè)置對應(yīng)的第一復(fù)雜度評估結(jié)果文本的答案質(zhì)量進(jìn)行評估并輸出對應(yīng)的第一質(zhì)量評前問題文本進(jìn)行答案文本可信度識別得到對應(yīng)的答案可信度時(shí)可基于多種方式來計(jì)算答語義完整度進(jìn)行識別得到對應(yīng)的答案語義完整度時(shí)可基于多種常規(guī)的語義完整性統(tǒng)計(jì)方和答案語義完整度對當(dāng)前答案文本的答案質(zhì)量進(jìn)行評估并輸出對應(yīng)的第一質(zhì)量評估結(jié)果檔來設(shè)置對應(yīng)的第一質(zhì)量評估結(jié)果(適配檔為[0083]步驟3，根據(jù)第一復(fù)雜度評估結(jié)果和第一質(zhì)量評估結(jié)果進(jìn)行文本調(diào)整模式確認(rèn)得識庫和第一模型進(jìn)行單輪檢索增強(qiáng)和答案文本調(diào)整處理得到對對第一組合文本進(jìn)行詞嵌入編碼得到對應(yīng)的第一檢索文本序列中排在序列頭部的第一數(shù)量K的第一檢索文本提取出來組成對應(yīng)的第一[0092]其中，相似度閾值為一個(gè)預(yù)先設(shè)置的相似度參數(shù)；第一數(shù)量K為一個(gè)預(yù)設(shè)的正整[0093]這里，RAG機(jī)制中與檢索增強(qiáng)相關(guān)的處理原理可參考技術(shù)文獻(xiàn)《Retrieval_前步驟332所示通過向量比對來對外部知識識庫和第一模型進(jìn)行多輪檢索增強(qiáng)和答案文本調(diào)整處理得到對在序列頭部的第一數(shù)量K的第二檢索文本提取出來組成對應(yīng)的第二知識文[0110]圖2為本發(fā)明實(shí)施例二提供的一種基于自適應(yīng)檢索增強(qiáng)機(jī)制調(diào)整答案文本的處理[0111]問題接收模塊201用于接收第一問題文本；并將預(yù)設(shè)的用于處理智能問答任務(wù)的[0112]答案生成與評估模塊202用于將第一問題文本輸入第一模型的第一答案文本生成[0113]調(diào)整模式確認(rèn)模塊203用于根據(jù)第一復(fù)雜度評估結(jié)果和第一質(zhì)量評估結(jié)果進(jìn)行文[0114]第一答案調(diào)整模塊204用于當(dāng)?shù)谝徽{(diào)整模式為第一模式時(shí)，將第一答案文本作為[0119]需要說明的是，應(yīng)理解以上裝置的各個(gè)模塊的劃分僅僅調(diào)度程序代碼的形式實(shí)現(xiàn)時(shí)，該處理元件可以是通用處理器，例如中央處理器(Central[0122]圖3為本發(fā)明實(shí)施例三提供的一種電子設(shè)備的結(jié)構(gòu)示意圖。該電子設(shè)備可以為實(shí)[0123]在圖3中提到的系統(tǒng)總線305可以是外設(shè)部件互連標(biāo)準(zhǔn)(PeripheralComponentInterconnect，PCI)總線或擴(kuò)展工業(yè)標(biāo)準(zhǔn)結(jié)構(gòu)(ExtendedIndustryStandard能包含隨機(jī)存取存儲器(RandomAccessMemory，RAM)，也可能還包括非易失性存儲器[0124]上述的處理器可以是通用處理器，包括中央處理器CPU、網(wǎng)絡(luò)處理器(Network令接口)，其中，第一答案文本生成指令接口用于根據(jù)輸入的問題文本生成對應(yīng)的答案文問題復(fù)雜度評估指令接口和答案質(zhì)量評估指令接口對問題文本的問題復(fù)雜度以及初次答實(shí)施例在每輪檢索增強(qiáng)操作