一、Prompt Engineering（提示工程）

什么是Prompt Engineering？Prompt Engineering，即提示工程，是指設計和優化輸入給大型語言模型（LLM）的文本提示（Prompt）的過程。這些提示旨在引導LLM生成符合期望的、高質量的輸出。它能夠根據特定任務需求優化輸入提示，引導大語言模型生成更準確、全面、符合格式要求的輸出，從而提升模型在多樣化應用場景中的性能和實用性。

Prompt Engineering的核心要素在于通過明確的指示、相關的上下文、具體的例子以及準確的輸入來精心設計提示，從而引導大語言模型生成符合預期的高質量輸出。

1. 指示（Instructions）：明確告訴模型需要執行的任務或生成的內容類型。這些指示應該清晰、具體，避免歧義。
2. 上下文（Context）：為模型提供與任務相關的背景信息。上下文可以幫助模型更好地理解任務，并生成更加準確和相關的輸出。
3. 例子（Examples）：通過給出具體示例來展示期望的輸出格式或風格。例子可以極大地提高模型的生成質量，因為它為模型提供了一個明確的參考框架。
4. 輸入（Input）：任務的具體數據或信息。這是模型生成輸出的基礎，輸入的質量直接影響到輸出的質量。
5. 輸出（Output）：雖然輸出不是Prompt Engineering的直接組成部分，但它是Prompt設計的最終目標。通過不斷優化Prompt，我們可以引導模型產生更加符合期望的輸出。

二、Function Calling（函數調用）

什么是Function Calling？在生成式AI的上下文中，函數調用通常指的是LLM在生成響應時，能夠識別并執行特定的函數或API調用，以獲取額外的信息或執行特定的任務。

函數調用增強了LLM的擴展性和實用性，使其能夠跨越語言模型的邊界，與數據庫、Web服務等外部系統無縫交互，從而提供更加全面和實時的信息。

Function Calling在智能助手和自動化流程中的應用場景中，LLM通過調用外部API或預設函數來集成多樣化服務與復雜操作，以滿足用戶請求并自動化執行流程。

• 在構建智能助手時，LLM可能需要根據用戶的請求調用外部服務（如天氣查詢API、數據庫查詢等），并將結果整合到其響應中。
• 在自動化流程中，LLM可以通過調用預設的函數來執行一系列復雜的操作，如數據處理、文件生成等。

以查詢天氣為例，以下是LLM調用外部天氣API的具體流程：

1. 用戶輸入：用戶向LLM詢問“今天北京的天氣怎么樣？”
2. 理解需求：LLM解析用戶輸入，識別出用戶的意圖是查詢天氣。
3. 決定是否使用工具：LLM判斷需要調用外部天氣API來獲取準確信息。
4. 準備調用信息：LLM生成調用天氣API所需的參數，如城市（北京）和日期（今天）。
5. 發送請求：LLM將調用信息封裝成HTTP請求，發送給天氣API。
6. 接收響應：天氣API返回當前北京的天氣信息給LLM。
7. 結合結果進行回復：LLM解析天氣信息，并生成易于理解的回復給用戶，如“今天北京天氣晴朗，溫度25°C，適宜外出。”

三、RAG（檢索增強生成）

什么是RAG？RAG（Retrieval Augmented Generation，檢索增強生成）是一種結合檢索和生成的技術，旨在提高LLM在生成響應時的準確性和信息量。它通過從外部知識庫中檢索相關信息，并將這些信息作為LLM生成響應的額外輸入。

1. 精準檢索：RAG通過信息檢索技術，從大規模的文檔集合或知識庫中檢索出與給定輸入最相關的信息。這種檢索方式比傳統的關鍵詞匹配更加精準，能夠捕捉到更豐富的上下文信息。
2. 高效檢索：RAG利用索引和檢索算法，如向量數據庫和查詢檢索器，快速地從文本數據中提取相關內容。這大大提高了信息檢索的效率，使得模型能夠在短時間內處理大量數據。

RAG在學術寫作與新聞摘要/報告生成中，助力LLM（大型語言模型）精準檢索最新可靠信息，確保內容權威性與時效性。

• 在學術寫作中，RAG可以幫助LLM從大量文獻中檢索相關引用和論據，從而生成更加權威和詳盡的論文。
• 在新聞摘要或報告生成中，RAG可以確保LLM生成的內容基于最新的、可靠的信息源。

以處理關于“最新科技趨勢”的新聞摘要為例，RAG新聞摘要/報告生成的示例流程：

1. 用戶輸入：用戶向RAG系統請求一份關于“最新科技趨勢”的新聞摘要。
2. 理解需求：RAG系統解析用戶輸入，識別出用戶的意圖是獲取關于最新科技趨勢的新聞摘要。
3. 準備檢索條件：RAG系統根據用戶請求，準備檢索條件，如關鍵詞“最新科技趨勢”、時間范圍（如最近一周）等。
4. 執行檢索：
   • RAG系統將這些檢索條件輸入到新聞檢索API中。
   • 檢索API從新聞數據庫中檢索出與“最新科技趨勢”相關的新聞文章。
   • 這些文章被返回給RAG系統，作為生成摘要的候選材料。
5. 信息篩選與融合：
   • RAG系統對檢索到的新聞文章進行篩選，去除重復、不相關或質量不高的內容。
   • 系統將篩選后的文章進行融合，提取關鍵信息點，如新技術名稱、應用場景、影響等。
6. 準備生成提示：
   • RAG系統基于篩選和融合后的信息，構建一個包含關鍵信息點的提示模版（Prompt）。
   • 這個模版將作為生成模型的輸入，指導模型生成新聞摘要。
7. 生成摘要：
   • RAG系統將提示模版輸入到生成模型中。
   • 生成模型根據提示模版中的信息，結合自身的語言生成能力，生成新聞摘要。
   • 生成的摘要既涵蓋了關鍵信息點，又保持了語言的流暢性和易讀性。

四、Fine-tuning（微調）

什么是Fine-tuning？Fine-Tuning是指使用特定領域的數據集對預訓練的大型語言模型進行進一步訓練的過程。通過微調，模型可以學習到特定領域的知識和模式，從而在相關任務上表現更好。

在預訓練模型的基礎上，針對特定任務或數據領域，通過在新任務的小規模標注數據集上進一步訓練和調整模型的部分或全部參數，使模型能夠更好地適應新任務，提高在新任務上的性能。

Fine-tuning在醫療和法律的應用場景中，能夠顯著提升LLM對專業術語和復雜情境的理解能力，從而輔助生成精確的專業建議、報告或解答。

• 在醫療領域，可以使用醫療領域的專業數據對LLM進行微調，以生成準確的醫療建議或診斷報告。?
• 在法律領域，通過微調可以使LLM更好地理解法律術語和案例法，從而輔助法律文書的撰寫或法律問題的解答。

文章轉自微信公眾號@架構師帶你玩轉AI

#你可能也喜歡這些API文章!

使用這些基本 REST API 最佳實踐構建出色的 API

如何使用API：初學者的分步教程

使用NestJS和Prisma構建REST API：身份驗證