18種 RAG 技術(shù)剖析

接下來(lái)，我將深入剖析每種 RAG 技術(shù)的核心理念、實(shí)現(xiàn)細(xì)節(jié)以及各自的優(yōu)缺點(diǎn)，旨在幫助大家更全面地理解這些前沿方法。

1、簡(jiǎn)單RAG

1. 核心理念：直接將檢索到的相關(guān)文檔與生成模型進(jìn)行拼接后輸入，從而生成回答。
2. 優(yōu)點(diǎn)：實(shí)現(xiàn)簡(jiǎn)單、計(jì)算開(kāi)銷(xiāo)小，適合作為基線(xiàn)對(duì)比。
3. 缺點(diǎn)：在處理復(fù)雜語(yǔ)境或需要多輪推理的查詢(xún)時(shí)，直接拼接的信息可能不夠充分，容易遺漏細(xì)節(jié)。

2、語(yǔ)義切分（Semantic Chunking）

1. 核心理念：通過(guò)自然語(yǔ)言處理技術(shù)，將長(zhǎng)篇文檔按語(yǔ)義分塊，確保每個(gè)塊都是獨(dú)立且連貫的語(yǔ)義單元。
2. 優(yōu)點(diǎn)：提高了檢索系統(tǒng)在定位相關(guān)信息時(shí)的精度，有助于生成模型快速鎖定問(wèn)題核心。
3. 缺點(diǎn)：分塊策略需要根據(jù)文檔類(lèi)型進(jìn)行調(diào)優(yōu)，不同文檔結(jié)構(gòu)下可能需要不同的處理方式。

3、上下文增強(qiáng)檢索（Context Enriched Retrieval）

1. 核心理念：在傳統(tǒng)關(guān)鍵詞匹配的基礎(chǔ)上，加入文檔的額外背景信息或領(lǐng)域知識(shí)，使檢索結(jié)果更符合查詢(xún)語(yǔ)境。
2. 優(yōu)點(diǎn)：有效過(guò)濾噪音信息，提升答案的相關(guān)性和準(zhǔn)確性。
3. 缺點(diǎn)：需要額外的預(yù)處理步驟和上下文信息的構(gòu)建，增加了系統(tǒng)復(fù)雜性。

4、上下文切塊標(biāo)題（Contextual Chunk Headers）

1. 核心理念：利用文檔中每個(gè)切塊的標(biāo)題或小節(jié)名稱(chēng)作為檢索輔助信息。
2. 優(yōu)點(diǎn)：標(biāo)題能簡(jiǎn)明扼要地反映內(nèi)容核心，能快速引導(dǎo)模型關(guān)注重要信息。
3. 缺點(diǎn)：對(duì)于標(biāo)題不明顯或未提供標(biāo)題的文檔，效果可能不理想。

5、文檔增強(qiáng)（Document Augmentation）

1. 核心理念：在正式檢索前，對(duì)原始文檔進(jìn)行加工處理，如擴(kuò)充描述、補(bǔ)充背景信息或結(jié)構(gòu)化處理。
2. 優(yōu)點(diǎn)：增加了文檔的信息量，為后續(xù)檢索與生成過(guò)程提供更多上下文支持。
3. 缺點(diǎn)：增強(qiáng)過(guò)程需要額外計(jì)算資源，且處理不當(dāng)可能引入噪聲信息。

6、查詢(xún)轉(zhuǎn)換（Query Transformation）

1. 核心理念：通過(guò)對(duì)用戶(hù)原始查詢(xún)進(jìn)行改寫(xiě)和優(yōu)化，使其更符合文檔中信息的表述方式。
2. 優(yōu)點(diǎn)：能夠捕捉到查詢(xún)中的隱含意圖，降低因表述差異導(dǎo)致的匹配錯(cuò)誤。
3. 缺點(diǎn)：需要確保轉(zhuǎn)換后的查詢(xún)與原意保持一致，防止出現(xiàn)語(yǔ)義偏差。

7、重排序器（Re-Ranker）

1. 核心理念：在初步檢索之后，對(duì)得到的候選文檔進(jìn)行二次排序，確保最相關(guān)的信息位于前列。
2. 優(yōu)點(diǎn)：提高了最終傳遞給生成模型的信息質(zhì)量，減少了低相關(guān)度文檔的干擾。
3. 缺點(diǎn)：增加了系統(tǒng)的計(jì)算開(kāi)銷(xiāo)，需要設(shè)計(jì)高效的排序算法以保證響應(yīng)速度。

8、基于檢索的語(yǔ)義增強(qiáng)（Retrieval-based Semantic Enhancement）

1. 核心理念：利用語(yǔ)義特征對(duì)檢索結(jié)果進(jìn)行進(jìn)一步強(qiáng)化，幫助模型更準(zhǔn)確地理解文本含義。
2. 優(yōu)點(diǎn)：提升了檢索結(jié)果的語(yǔ)義一致性，適用于信息復(fù)雜或語(yǔ)義模糊的問(wèn)題。
3. 缺點(diǎn)：實(shí)現(xiàn)過(guò)程中對(duì)語(yǔ)義提取的依賴(lài)較高，需確保語(yǔ)義模型的準(zhǔn)確性。

9、上下文壓縮（Contextual Compression）

1. 核心理念：在傳遞信息給生成模型前，對(duì)大量檢索結(jié)果進(jìn)行精簡(jiǎn)摘要，保留關(guān)鍵信息。
2. 優(yōu)點(diǎn)：降低了輸入信息的冗余度，加快了生成模型的處理速度，同時(shí)保持必要的語(yǔ)義信息。
3. 缺點(diǎn)：摘要質(zhì)量直接影響最終答案的準(zhǔn)確性，壓縮過(guò)程需要精細(xì)調(diào)控以防信息丟失。

10、反饋循環(huán)（Feedback Loop）

1. 核心理念：將生成的初步答案反饋回檢索系統(tǒng)，進(jìn)行多輪迭代優(yōu)化。
2. 優(yōu)點(diǎn)：通過(guò)多次迭代不斷糾正偏差，能顯著提升回答的準(zhǔn)確性與完整性。
3. 缺點(diǎn)：多輪迭代會(huì)增加系統(tǒng)延時(shí)，對(duì)實(shí)時(shí)性要求較高的應(yīng)用場(chǎng)景可能不適用。

11、自適應(yīng) RAG（Adaptive RAG）

1. 核心理念：根據(jù)不同查詢(xún)的特性，動(dòng)態(tài)調(diào)整檢索與生成策略，實(shí)現(xiàn)更高的整體性能。
2. 優(yōu)點(diǎn)：實(shí)驗(yàn)結(jié)果顯示其在各種指標(biāo)上均表現(xiàn)優(yōu)異，得分達(dá)到0.86；能在多種場(chǎng)景下保持較高準(zhǔn)確率與響應(yīng)速度。
3. 缺點(diǎn)：實(shí)現(xiàn)上需要較多調(diào)試和參數(shù)優(yōu)化，但帶來(lái)的性能提升使得投入是值得的。

12、自我 RAG（Self RAG）

1. 核心理念：強(qiáng)調(diào)生成模型自身的自我糾錯(cuò)與自我增強(qiáng)機(jī)制，通過(guò)多次內(nèi)部迭代不斷完善答案。
2. 優(yōu)點(diǎn)：特別適合需要復(fù)雜邏輯推理和多輪交互的問(wèn)題，能逐步逼近真實(shí)答案。
3. 缺點(diǎn)：迭代次數(shù)較多可能導(dǎo)致響應(yīng)延遲，需要平衡準(zhǔn)確率與效率。

13、知識(shí)圖譜（Knowledge Graph）

1. 核心理念：將大量分散的信息以圖結(jié)構(gòu)組織起來(lái)，幫助模型快速理解實(shí)體間的關(guān)系和背景知識(shí)。
2. 優(yōu)點(diǎn)：特別適用于專(zhuān)業(yè)領(lǐng)域或結(jié)構(gòu)化知識(shí)密集型的問(wèn)題，能提高回答的邏輯性和權(quán)威性。
3. 缺點(diǎn)：構(gòu)建和維護(hù)知識(shí)圖譜需要大量數(shù)據(jù)支持和專(zhuān)業(yè)知識(shí)。

14、層次化索引（Hierarchical Indices）

1. 核心理念：利用文檔內(nèi)部固有的層次結(jié)構(gòu)（例如章節(jié)、段落）來(lái)構(gòu)建分級(jí)索引，提高大規(guī)模文檔檢索的效率。
2. 優(yōu)點(diǎn)：能大幅降低檢索時(shí)間，提升大文檔庫(kù)中的查找精度。
3. 缺點(diǎn)：對(duì)文檔結(jié)構(gòu)有一定依賴(lài)，結(jié)構(gòu)不明顯的文檔可能難以應(yīng)用。

15、HyDE

1. 核心理念：通過(guò)生成假設(shè)性答案，再利用該假設(shè)進(jìn)行反向檢索，從而獲得更豐富的上下文。
2. 優(yōu)點(diǎn)：能彌補(bǔ)直接檢索過(guò)程中可能遺漏的隱性信息，生成更加全面的答案。
3. 缺點(diǎn)：需要設(shè)計(jì)合理的假設(shè)生成和融合機(jī)制，否則可能引入噪聲信息。

16、Fusion

1. 核心理念：整合來(lái)自不同檢索方法的結(jié)果，形成一個(gè)融合后的信息集，再傳遞給生成模型。
2. 優(yōu)點(diǎn)：可以有效降低單一檢索方法的局限性，提供更加多樣和全面的信息。
3. 缺點(diǎn)：融合策略設(shè)計(jì)復(fù)雜，需要平衡各路信息的權(quán)重。

17、多模型融合（Multi Model）

1. 核心理念：同時(shí)采用多個(gè)生成模型，各自獨(dú)立生成答案后，再將它們進(jìn)行整合。
2. 優(yōu)點(diǎn)：能利用不同模型的長(zhǎng)處，彌補(bǔ)單一模型可能存在的信息盲區(qū)，提升整體回答的多樣性與準(zhǔn)確性。
3. 缺點(diǎn)：計(jì)算資源消耗較大，對(duì)系統(tǒng)并行處理能力要求較高。

18、Crag

1. 核心理念：通過(guò)上下文融合、反饋機(jī)制以及多步驟優(yōu)化，最大化利用檢索結(jié)果。
2. 優(yōu)點(diǎn)：具有較高的穩(wěn)定性和準(zhǔn)確性，能適應(yīng)復(fù)雜和多變的查詢(xún)場(chǎng)景。
3. 缺點(diǎn)：實(shí)現(xiàn)相對(duì)復(fù)雜，整體系統(tǒng)調(diào)試和優(yōu)化難度較大，雖然性能優(yōu)異，但未能在得分上超越 Adaptive RAG。

18種 RAG 實(shí)驗(yàn)總結(jié)

在實(shí)驗(yàn)過(guò)程中，我全面測(cè)試了上述18種 RAG 技術(shù)。每種技術(shù)在檢索精度、響應(yīng)效率以及實(shí)現(xiàn)難度上各有優(yōu)勢(shì)，但實(shí)驗(yàn)數(shù)據(jù)明確指出，Adaptive RAG 憑借其靈活的策略調(diào)整和出色的自適應(yīng)能力，以0.86的高分在綜合性能上拔得頭籌，成為最優(yōu)選擇。

通過(guò)此次實(shí)驗(yàn)，我不僅深入掌握了每種 RAG 技術(shù)的核心原理和實(shí)際應(yīng)用場(chǎng)景，還為在不同項(xiàng)目中挑選合適的技術(shù)方案積累了豐富經(jīng)驗(yàn)。展望未來(lái)，隨著生成模型和檢索技術(shù)的持續(xù)發(fā)展，RAG 方法將不斷演進(jìn)，為問(wèn)答系統(tǒng)帶來(lái)更高的智能化和效率提升。

文章轉(zhuǎn)載自：經(jīng)過(guò)18次嘗試后，我發(fā)現(xiàn)了最佳 RAG 技術(shù)

#你可能也喜歡這些API文章!

使用DeepSeek和Claude繪制出高質(zhì)量的SVG 圖片

Gemini Pro 2.5 入門(mén)：構(gòu)建一個(gè)簡(jiǎn)單的 AI 代理

大模型推理框架匯總

API設(shè)計(jì)的首要原則

每個(gè) API 團(tuán)隊(duì)都應(yīng)該知道的十大 API 安全威脅

Transformers Generate 功能介紹

跟大牛學(xué)LLM訓(xùn)練和使用技巧

DeepSpeed-Chat 模型與數(shù)據(jù)

安全好用的OpenApi