3.1 為什么是兩階段檢索?

? ? ? ?知識(shí)庫(kù)數(shù)據(jù)量大的場(chǎng)景下兩階段優(yōu)勢(shì)非常明顯，如果只用一階段embedding檢索，隨著數(shù)據(jù)量增大會(huì)出現(xiàn)檢索退化的問題，如下圖中綠線所示，二階段rerank重排后能實(shí)現(xiàn)準(zhǔn)確率穩(wěn)定增長(zhǎng)，即數(shù)據(jù)越多，效果越好。

  QAnything使用的檢索組件BCEmbedding（https://github.com/netease-youdao/BCEmbedding）有非常強(qiáng)悍的雙語(yǔ)和跨語(yǔ)種能力，能消除語(yǔ)義檢索里面的中英語(yǔ)言之間的差異，從而實(shí)現(xiàn)：

• 強(qiáng)大的雙語(yǔ)和跨語(yǔ)種語(yǔ)義表征能力【基于MTEB的語(yǔ)義表征評(píng)測(cè)指標(biāo)】。
• 基于LlamaIndex的RAG評(píng)測(cè)，表現(xiàn)SOTA【基于LlamaIndex的RAG評(píng)測(cè)指標(biāo)】。

一階段檢索（embedding）

• 更詳細(xì)的評(píng)測(cè)結(jié)果詳見Embedding模型指標(biāo)匯總（https://github.com/netease-youdao/BCEmbedding/blob/master/Docs/EvaluationSummary/embedding_eval_summary.md）。

二階段檢索（rerank）

• 更詳細(xì)的評(píng)測(cè)結(jié)果詳見Reranker模型指標(biāo)匯總（https://github.com/netease-youdao/BCEmbedding/blob/master/Docs/EvaluationSummary/reranker_eval_summary.md）

3.2 基于LlamaIndex的RAG評(píng)測(cè)（embedding and rerank）

NOTE:

• 在WithoutReranker列中，我們的bce-embedding-base_v1模型優(yōu)于所有其他embedding模型。
• 在固定embedding模型的情況下，我們的bce-reranker-base_v1模型達(dá)到了最佳表現(xiàn)。
• bce-embedding-base_v1和bce-reranker-base_v1的組合是SOTA。
• 如果想單獨(dú)使用embedding和rerank請(qǐng)參閱：BCEmbedding

3.3 LLM

? ? ? ? 開源版本QAnything的大模型基于通義千問，并在大量專業(yè)問答數(shù)據(jù)集上進(jìn)行微調(diào)；在千問的基礎(chǔ)上大大加強(qiáng)了問答的能力。如果需要商用請(qǐng)遵循千問的license，具體請(qǐng)參閱：通義千問（https://github.com/QwenLM/Qwen）

四、開始

?? 在線試用QAnything：https://qanything.ai/

4.1 必要條件

4.2 下載安裝

• step1: 下載本項(xiàng)目

git clone https://github.com/netease-youdao/QAnything.git

• step2: 下載模型并解壓到本項(xiàng)目根目錄下

cd QAnything

git lfs install

git clone https://www.modelscope.cn/netease-youdao/qanything_models.git



unzip qanything_models/models.zip   # in root directory of the current project

step3：更改配置

vim front_end/.env  # change 10.55.163.92 to your host

vim docker-compose.yaml # change CUDA_VISIBLE_DEVICES to your gpu device id

• step4: 啟動(dòng)服務(wù)

docker-compose up -d

安裝成功后，即可在瀏覽器輸入以下地址進(jìn)行體驗(yàn)。

• 前端地址: http://{your_host}:5052/qanything
• api地址: http://{your_host}:5052/api/

詳細(xì)API文檔請(qǐng)移步QAnything API 文檔(https://github.com/netease-youdao/QAnything/blob/master/docs/API.md)

參考文獻(xiàn)：

[1]?https://github.com/netease-youdao/QAnything/blob/master/README_zh.md

文章轉(zhuǎn)自微信公眾號(hào)@ArronAI

#你可能也喜歡這些API文章!

API網(wǎng)關(guān)如何發(fā)展：更輕、更智能、云原生

開發(fā)人員必須嘗試的7大AI API工具

5個(gè)優(yōu)秀API錯(cuò)誤消息的真實(shí)示例

掌握API建模：基本概念和實(shí)踐

程序員常用的API接口管理工具有哪些？

簡(jiǎn)化API縮寫：應(yīng)用程序編程接口終極指南

如何為你的項(xiàng)目挑選最佳API？完整選擇流程解讀

應(yīng)用程序開發(fā)蓬勃發(fā)展的必備開放API

.NET Core Web APi類庫(kù)如何內(nèi)嵌運(yùn)行和.NET Core Web API 中的異常處理