如何提升預訓練LLMs:從零打造到微調優化的全攻略
【日積月累】
現成的預訓練模型無法完全滿足使用場景時,有三種常見解決方案可供選擇:Prompt Engineering(提示工程)、Retrieval-Augmented Generation(檢索增強生成)以及 Fine-tuning(微調)。 今天,我們將著重探討微調方法,幫助你快速掌握這一領域的核心技巧。
2025/02/25
用于集成大型語言模型的LLM API
【最佳API】
本文探討了最受歡迎的大型語言模型(LLM)及其在構建聊天機器人、自然語言搜索和其他基于LLM的產品方面的集成能力。我們將說明如何根據業務目標選擇合適的大型語言模型,并研究實際用例,包括AltexSoft的經驗。
2024/12/02
利用LLM增強你的API程序
【API使用場景】
本文重點介紹了使用 LLM 增強 API 程序的幾種方法。下次我們將介紹如何使用 API 在應用程序中啟用 AI 功能 — 利用 API 實現AI。
2024/11/29
一文讀懂LLM API應用開發基礎
【API開發】
本文為LLM開發入門指南,涵蓋LLM基礎名詞解釋、API申請、Python代碼調用測試以及提示詞工程(Prompt Engineering)。文章強調了理解Prompt的重要性,提供了設計有效Prompt的技巧,如添加分隔符、實現結構化輸出和提供示例,以提高LLM輸出的準確性和實用性。通過這些方法,可以將LLM更好地融入傳統開發工作流程中。
2024/11/24
多模態大模型微調實踐!PAI+LLaMA Factory搭建AI導游
【AI驅動】
如何微調大模型、高效搭建AI應用成為了開發者們廣泛關注的技術方向。阿里云人工智能平臺PAI,聯合開源低代碼大模型微調框架LLaMA Factory ,共同打造多模態大模型微調訓練最佳實踐,通過微調 Qwen2-VL 模型,快速搭建文旅領域知識問答機器人,帶您開啟AI創新與應用之旅。
2024/11/21
探索LLM推理全階段的JSON格式輸出限制方法
【AI驅動】
文章詳細討論了如何確保大型語言模型(LLMs)輸出結構化的JSON格式,這對于提高數據處理的自動化程度和系統的互操作性至關重要。
2024/11/21
Gorilla?LLM:連接海量API的大型語言模型
【AI驅動】
Gorilla LLM 是一個突破性的LLM,可以生成準確的 API 調用并適應文檔的實時變化。該模型為未來的LLM在與工具和系統交互方面變得更加可靠和多功能鋪平了道路。Gorilla LLM 是一款面向開發人員的強大新工具。它可以節省開發人員的時間和精力,并且可以幫助他們編寫更可靠的代碼。
2024/11/21
GPT-4?API平替?FrugalGPT性能媲美同時成本降低98%
【AI驅動】
研究者通過實驗表明,FrugalGPT 可以與最佳個體 LLM(例如 GPT-4) 的性能相媲美,成本降低高達 98%,或者在相同成本下將最佳個體 LLM 的準確性提高 4%。
2024/11/19
通過上下文檢索優化RAG的語境理解
【AI驅動】
無論你的模型(大型語言模型LLM)有多先進,如果上下文信息塊沒有提供正確的信息,模型將無法生成準確的答案。在本教程中,我們將探索一種稱為上下文檢索的技術,以提高你的RAG系統中上下文信息塊的質量。
2024/11/15
用LLM API的時候要顯示地指定上下文窗口嗎?
【API使用場景】
對于很多應用場景來說,指定上下文窗口可以顯著提升模型的生成質量。在與用戶進行多輪對話或長文本生成的過程中,合理的上下文窗口能夠幫助模型更準確地記住前文信息,使生成的文本具有連貫性。
2024/11/08
從 RAG 到財富:為什么檢索增強一代在 RAG 與微調之爭中獲勝?
【AI驅動】
您的人工智能計劃呢?您的數據團隊如何才能從LLM獲得價值?這就是 RAG vs. Fine-Tuning 這兩個有前途的 GenAI 開發和優化框架的用武之地。
2024/10/21
LLM 如何與聊天機器人中的 NLU 協同工作?
【AI驅動】
NLU 和 LLM 相結合,使聊天機器人能夠以更加個性化、知識豐富和準確的方式與人溝通。它們的綜合能力有助于客戶互動聊天機器人履行其在客戶服務、信息檢索和任務自動化方面的作用。
2024/10/21
LLM內容創作能力評估
【AI驅動】
我正在做一個項目,需要我找出最適合內容創作的 LLM。我查看了 lmsys 排行榜上的頂級模型,閱讀了其他人對這些模型的評價,查看了頂級 LLM 的模型卡,在沒有明確答案的情況下,我決定對所有這些 LLM 進行測試,以完成不同的內容創作任務。
2024/09/17
利用AI API增強您的應用程序
【學習各類API】
今天,我們將深入探討如何在應用程序中使用AI,特別是如何利用LLM來構建應用程序。我們還將討論在決定是構建自己的AI API還是使用第三方AI供應商API時需要考慮的關鍵因素。
2024/09/01
如何利用微調LLMs預測股票收益率
【AI驅動】
本文探討了微調大型語言模型(LLMs)以利用財務新聞流預測股票回報的方法,比較了編碼器和解碼器LLMs在不同文本表示方法下的性能,并發現聚合表示通常能提升投資組合表現,其中Mistral模型在多個投資宇宙中表現穩健,而基于LLMs的回報預測比傳統情感分析更能增強投資組合構建的效果。
2024/08/19