
OpenAI助手 API與聊天機器人集成 API:打造智能互動體驗
你也可以根據自己電腦的操作系統復制下面地址下載:
1. 蘋果系統:https://cdn.anythingllm.com/latest/AnythingLLMDesktop-Silicon.dmg
2. Windows: https://cdn.anythingllm.com/latest/AnythingLLMDesktop.exe
3. Linux:執行 curl -fsSL https://cdn.anythingllm.com/latest/installer.sh | sh 下載安裝。
下載完成后,點擊安裝包一路安裝就行。安裝完成后,點擊 AnythingLLM 圖標啟動服務。
02
Docker 安裝的 anythingllm 有些自己獨有的配置,如自定義頭像等功能,Docker 的安裝過程如下:
在終端執行如下命令拉取鏡像:
docker pull mintplexlabs/anythingllm
拉取完成后就啟動實例了,對于 macOS 和 Linux 系統用戶而言,執行如下命令啟動 Docker 容器:
export STORAGE_LOCATION=$HOME/anythingllm && \mkdir -p $STORAGE_LOCATION && \touch "$STORAGE_LOCATION/.env" && \docker run -d -p 3001:3001 \--cap-add SYS_ADMIN \-v ${STORAGE_LOCATION}:/app/server/storage \-v ${STORAGE_LOCATION}/.env:/app/server/.env \-e STORAGE_DIR="/app/server/storage" \mintplexlabs/anythingllm
對于 Windows 用戶,在 powershell/wsl 中執行如下命令:
$env:STORAGE_LOCATION="$HOME\Documents\anythingllm"; If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory};
If(!(Test-Path "$env:STORAGE_LOCATION\.env")) {New-Item "$env:STORAGE_LOCATION\.env" -ItemType File}; docker run -d -p 3001:3001
--cap-add SYS_ADMIN -v "$env:STORAGE_LOCATION
:/app/server/storage" -v "$env:STORAGE_LOCATION\.env:/app/server/.env"
-e STORAGE_DIR="/app/server/storage" `mintplexlabs/anythingllm;
執行成功后,在瀏覽器中打開 localhost:3001 使用 AnythingLLM。
如果有如下報錯:
docker: Error response from daemon: Mounts denied:
The path /Users/maming/software/anythingllm/.env is not shared from the host and is not known to Docker.
You can configure shared paths from Docker -> Preferences… -> Resources -> File Sharing.
See https://docs.docker.com/desktop/settings/mac/#file-sharing for more info.
則打開 Docker 桌面版,點擊設置 -> Resources -> File sharing -> 添加目錄 -> Apply & restart 后,再重新執行 Docker 命令啟動 AnythingLLM。
初次打開 AnythingLLM 時,歡迎頁面如下圖,點擊 “Get started”:
在 LLM Preference 中,根據自己的需求配置大語言模型。
以 DeepSeek 為例,點擊選擇 DeepSeek 后,然后去 https://platform.deepseek.com/api_keys 點擊創建 API key,復制 key 粘貼到下圖的 API key 輸入框中,再選擇對話模型為 deepseek-reasoner,即 R1。
由于 DeepSeek 官網 API 太卡,所以這里我以硅基流動作為默認配置,如果你不知道怎么操作的話,可以參考此文來創建硅基流動的 Key。
如果想使用硅基流動的服務,則需要選擇 Generic OpenAI,各選項值如下:
1. Base URL:https://api.siliconflow.cn/v1
2. API Key:需要你在 https://cloud.siliconflow.cn/account/ak 中創建一個 key
3. Chat Model Name:如果是 DeepSeek R1 的話,則為 deepseek-ai/DeepSeek-R1。你也可以在模型廣場 https://cloud.siliconflow.cn/models 中查看其他模型名稱。
4. Token context window:DeepSeek R1 上下文長度最大為 64k,所以這里直接寫 65536。
5. Max Tokens:查看硅基流動文檔知,deepseek-ai/DeepSeek-R1 最大 token 為 8192。
配置完成后,點擊向右箭頭的按鈕,進入下一步。
配置郵件地和用途,繼續下一步。
然后配置工作區名稱,比如我就叫 workspace,點擊下一步完成配置。
進入主頁面后,我們再進行一些通用設置,如修改主題色,修改展示語言為中文。
配置完成后,點擊自己的工作區,就可以開始對話啦。
接下來我們看看如何配置個人知識庫,建議是根據不同的功能創建不同的工作區,如我們可以為生活、寫作、讀書等創建不同的工作區。
注:本部分即上面視頻演示的部分。
點擊”新工作區”,輸入工作區名,比如我取名為“DeepSeek 教練”,用于幫助我們學習 DeepSeek 知識。
接著點擊上傳按鈕,上傳文件。
然后上傳我們的學習知識,PDF 以現在很火熱的清華大學《DeepSeek:從入門到精通》為例,點擊上傳就可以了。網址以 https://qileq.com/404/ 、 https://qileq.com/408/ 為例,點擊 “Fetch website” 就行了。
然后選中所有文檔,點擊 “Move to Workspace”,將文檔移動到工作區。
點擊 Save and Embed,等待數據向量化完成。
回到聊天區域,我們問個之前說過的一個好用的模板:“Deepseek 有什么好用的聊天模板嗎?”
誒,他的回答就是我們在之前的文章中說的。
末尾還會顯示引用來源,是不是很好用!
這里舉了個簡單例子幫我們測試整個流程,在實際使用的話,你可以將論文、課本、文章、英文資料等等都上傳到自己的工作區,然后針對性的提問,這樣能大大的提升效果!
AnythingLLM 還支持 Agent 功能,比如聯網搜索、生成圖表等,我們需要在設置的“代理技能”中
開啟這些功能,然后點擊保存就行了。
對于聯網搜索功能而言,還需要我們指定搜索引擎:圖簡單的話,就使用 DuckDuckGo,無需額外配置,配置好后點擊保存按鈕。
如果想要更準確的結果,則使用 Google 或 Bing,這兩者需要申請 API Key,其中 Google 每天有 100 次的免費查詢額度,Bing 每個月有 1000 次免費查詢額度。
在使用時需要我們指定對應的 @agent 才會生效,不過我在使用時,發現并不好用。
AnythingLLM 還對 Agent 做了些技能擴展,點擊設置 -> Community Hub -> Explore Trending 可查看這些擴展。
如生成 Google 和 Outlook 的日歷事件。
還可以增加更多斜線 / 命令。
如我們將 /flashcards 加入工作區后,只需要執行 /flashcards 即會根據工作區內容生成 flashcard,這種命令對學習英語還是蠻有用的。
同樣的,將 /translate 加入工作區后,只需要執行 /translate 即可翻譯內容。
就我的使用經驗來看,AnythingLLM 的功能還是很豐富的,但軟件偶爾會有些 bug,整體還是蠻好用的。
文章轉載自:DeepSeek + AnythingLLM 簡單三步搭建個人知識庫,現在的我強的可怕!