你也可以根據自己電腦的操作系統復制下面地址下載:

1. 蘋果系統:https://cdn.anythingllm.com/latest/AnythingLLMDesktop-Silicon.dmg

2. Windows: https://cdn.anythingllm.com/latest/AnythingLLMDesktop.exe

3. Linux:執行 curl -fsSL https://cdn.anythingllm.com/latest/installer.sh | sh 下載安裝。

下載完成后,點擊安裝包一路安裝就行。安裝完成后,點擊 AnythingLLM 圖標啟動服務。

02

Docker 安裝 AnythingLLM

Docker 安裝的 anythingllm 有些自己獨有的配置,如自定義頭像等功能,Docker 的安裝過程如下:

在終端執行如下命令拉取鏡像:

docker pull mintplexlabs/anythingllm

拉取完成后就啟動實例了,對于 macOS 和 Linux 系統用戶而言,執行如下命令啟動 Docker 容器:

export STORAGE_LOCATION=$HOME/anythingllm && \mkdir -p $STORAGE_LOCATION && \touch "$STORAGE_LOCATION/.env" && \docker run -d -p 3001:3001 \--cap-add SYS_ADMIN \-v ${STORAGE_LOCATION}:/app/server/storage \-v ${STORAGE_LOCATION}/.env:/app/server/.env \-e STORAGE_DIR="/app/server/storage" \mintplexlabs/anythingllm

對于 Windows 用戶,在 powershell/wsl 中執行如下命令:

$env:STORAGE_LOCATION="$HOME\Documents\anythingllm"; If(!(Test-Path $env:STORAGE_LOCATION)) {New-Item $env:STORAGE_LOCATION -ItemType Directory}; If(!(Test-Path "$env:STORAGE_LOCATION\.env")) {New-Item "$env:STORAGE_LOCATION\.env" -ItemType File}; docker run -d -p 3001:3001 --cap-add SYS_ADMIN -v "$env:STORAGE_LOCATION:/app/server/storage" -v "$env:STORAGE_LOCATION\.env:/app/server/.env" -e STORAGE_DIR="/app/server/storage" `mintplexlabs/anythingllm;

執行成功后,在瀏覽器中打開 localhost:3001 使用 AnythingLLM。

如果有如下報錯:

docker: Error response from daemon: Mounts denied:

The path /Users/maming/software/anythingllm/.env is not shared from the host and is not known to Docker.

You can configure shared paths from Docker -> Preferences… -> Resources -> File Sharing.

See https://docs.docker.com/desktop/settings/mac/#file-sharing for more info.

則打開 Docker 桌面版,點擊設置 -> Resources -> File sharing -> 添加目錄 -> Apply & restart 后,再重新執行 Docker 命令啟動 AnythingLLM。

配置 AnythingLLM

初次打開 AnythingLLM 時,歡迎頁面如下圖,點擊 “Get started”:

在 LLM Preference 中,根據自己的需求配置大語言模型。

以 DeepSeek 為例,點擊選擇 DeepSeek 后,然后去 https://platform.deepseek.com/api_keys 點擊創建 API key,復制 key 粘貼到下圖的 API key 輸入框中,再選擇對話模型為 deepseek-reasoner,即 R1。

由于 DeepSeek 官網 API 太卡,所以這里我以硅基流動作為默認配置,如果你不知道怎么操作的話,可以參考此文來創建硅基流動的 Key。

如果想使用硅基流動的服務,則需要選擇 Generic OpenAI,各選項值如下:

1. Base URL:https://api.siliconflow.cn/v1

2. API Key:需要你在 https://cloud.siliconflow.cn/account/ak 中創建一個 key

3. Chat Model Name:如果是 DeepSeek R1 的話,則為 deepseek-ai/DeepSeek-R1。你也可以在模型廣場 https://cloud.siliconflow.cn/models 中查看其他模型名稱。

4. Token context window:DeepSeek R1 上下文長度最大為 64k,所以這里直接寫 65536。

5. Max Tokens:查看硅基流動文檔知,deepseek-ai/DeepSeek-R1 最大 token 為 8192。

配置完成后,點擊向右箭頭的按鈕,進入下一步。

配置郵件地和用途,繼續下一步。

然后配置工作區名稱,比如我就叫 workspace,點擊下一步完成配置。

進入主頁面后,我們再進行一些通用設置,如修改主題色,修改展示語言為中文。

配置完成后,點擊自己的工作區,就可以開始對話啦。

創建知識庫

接下來我們看看如何配置個人知識庫,建議是根據不同的功能創建不同的工作區,如我們可以為生活、寫作、讀書等創建不同的工作區。

注:本部分即上面視頻演示的部分。

點擊”新工作區”,輸入工作區名,比如我取名為“DeepSeek 教練”,用于幫助我們學習 DeepSeek 知識。

接著點擊上傳按鈕,上傳文件。

然后上傳我們的學習知識,PDF 以現在很火熱的清華大學《DeepSeek:從入門到精通》為例,點擊上傳就可以了。網址以 https://qileq.com/404/ 、 https://qileq.com/408/ 為例,點擊 “Fetch website” 就行了。

然后選中所有文檔,點擊 “Move to Workspace”,將文檔移動到工作區。

點擊 Save and Embed,等待數據向量化完成。

回到聊天區域,我們問個之前說過的一個好用的模板:“Deepseek 有什么好用的聊天模板嗎?”

誒,他的回答就是我們在之前的文章中說的。

末尾還會顯示引用來源,是不是很好用!

這里舉了個簡單例子幫我們測試整個流程,在實際使用的話,你可以將論文、課本、文章、英文資料等等都上傳到自己的工作區,然后針對性的提問,這樣能大大的提升效果!

使用 Agent 功能

AnythingLLM 還支持 Agent 功能,比如聯網搜索、生成圖表等,我們需要在設置的“代理技能”中

開啟這些功能,然后點擊保存就行了。

對于聯網搜索功能而言,還需要我們指定搜索引擎:圖簡單的話,就使用 DuckDuckGo,無需額外配置,配置好后點擊保存按鈕。

如果想要更準確的結果,則使用 Google 或 Bing,這兩者需要申請 API Key,其中 Google 每天有 100 次的免費查詢額度,Bing 每個月有 1000 次免費查詢額度。

在使用時需要我們指定對應的 @agent 才會生效,不過我在使用時,發現并不好用。

AnythingLLM 還對 Agent 做了些技能擴展,點擊設置 -> Community Hub -> Explore Trending 可查看這些擴展。

如生成 Google 和 Outlook 的日歷事件。

還可以增加更多斜線 / 命令。

如我們將 /flashcards 加入工作區后,只需要執行 /flashcards 即會根據工作區內容生成 flashcard,這種命令對學習英語還是蠻有用的。

同樣的,將 /translate 加入工作區后,只需要執行 /translate 即可翻譯內容。

小結

就我的使用經驗來看,AnythingLLM 的功能還是很豐富的,但軟件偶爾會有些 bug,整體還是蠻好用的。

文章轉載自:DeepSeek + AnythingLLM 簡單三步搭建個人知識庫,現在的我強的可怕!

上一篇:

用Cherry Studio搭建個人知識庫:高效、實用,值得一試

下一篇:

Open WebUI:超好用的AI智能助手
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數據驅動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內容創意新穎性、情感共鳴力、商業轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費