三、環境準備

在開始部署模型之前，需要進行一系列的環境準備工作。這些步驟包括創建專有網絡 VPC 和交換機、配置安全組、創建 GPU 云服務器實例。

3.1、創建專有網絡 VPC 和交換機

您需要創建專有網絡 VPC 和交換機，為云服務器 ECS 實例構建云上的私有網絡。

1. 登錄專有網絡管理控制臺[1]。
2. 在頂部菜單欄，選擇華東 1（杭州）地域。
3. 在左側導航欄，單擊專有網絡。
4. 在專有網絡頁面，單擊創建專有網絡。
5. 在創建專有網絡頁面，配置 1 個專有網絡和 1 臺交換機。配置交換機時，請確保交換機所屬的可用區的 ECS 處于可用狀態。

3.2、創建安全組

您已經創建了專有網絡 VPC 和交換機。接下來您需要創建 1 個安全組，用于限制該專有網絡 VPC 下交換機的網絡流入和流出。

1. 登錄ECS 管理控制臺[2]。
2. 在左側導航欄，選擇網絡與安全>安全組。
3. 在頂部菜單欄，選擇華東 1（杭州）地域。
4. 在安全組頁面，單擊創建安全組。
5. 在創建安全組頁面，創建 1 個安全組。

3.3、創建 GPU 云服務器

您已經創建好專有網絡 VPC 和交換機等資源。接下來您需要創建 1 個 GPU 云服務器實例，用于部署應用程序。

1. 登錄ECS 管理控制臺[2]。
2. 在左側導航欄，選擇實例與鏡像 > 實例。
3. 在頂部菜單欄，選擇華東 1（杭州）地域。
4. 在實例頁面，單擊創建實例。
5. 下表中未說明的參數，在本方案中可使用默認值。

四、應用部署

接下來我們使用 Ollama 框架來部署 DeepSeek-R1 模型，使用 Open WebUI 調用模型服務。

4.1、登錄服務器

1. 登錄 ECS管理控制臺[2]。
2. 在左側導航欄，選擇實例與鏡像>實例。
3. 在頂部菜單欄，選擇華東1（杭州）地域。
4. 部署示例應用程序。

1. 在實例頁面，找到前面步驟中創建的 ECS 實例，查看IP 地址列，記錄公網 IP ，然后在其右側操作列，單擊遠程連接。
2. 在遠程連接對話框的通過 Workbench 遠程連接區域，單擊立即登錄，然后根據頁面提示登錄。

5. 輸入密碼并點擊確定按鈕，通過 Workbench 遠程連接至 ECS 控制臺。
6. 如圖所示 GPU 驅動尚未完成安裝，請等待 10-20 分鐘，安裝完成后實例將自動重啟。

4.1、部署 Ollama

1. 執行以下命令部署 Ollama 模型服務。

curl -fsSL https://help-static-aliyun-doc.aliyuncs.com/install-script/deepseek-r1-for-platforms/ollama_install.sh|sh

如下圖所示，說明 Ollama 部署完成。

2. 執行以下命令拉取模型。

ollama pull deepseek-r1:7b

3. 執行以下命令，運行模型，運行成功后，在鍵盤上敲擊兩次回車鍵。

ollama run deepseek-r1:7b &

4.2、部署 Open WebUI

1. 執行以下命令部署 Open WebUI 應用。

curl -fsSL https://help-static-aliyun-doc.aliyuncs.com/install-script/deepseek-r1-for-platforms/install.sh|sh

2. 部署完成后，可以看到控制臺中輸出Installation completed。

五、應用體驗

5.1、訪問示例應用

1. 在瀏覽器中訪問http://<ECS公網IP>:8080，訪問 Open WebUI。

說明

請將 <ECS公網IP> 更改為應用部署步驟記錄的公網 IP。

5.2、與模型對話

1. 在文本輸入框中可以進行對話交互。輸入問題你是誰？或者其他指令后，調用模型服務獲得相應的響應。

5.3、使用 Chatbox 客戶端配置 Ollama API 進行對話（可選）

1. 訪問 Chatbox 下載地址[5]下載并安裝客戶端，本方案以 macOS 為例。

2. 運行并配置 Ollama API ，單擊設置。

3. 下拉選擇模型提供方Ollama API，填寫 API 域名 http://<ECS公網IP>:11434，下拉選擇模型deepseek-r1:7b，最后單擊保存。

4. 在文本輸入框中可以進行對話交互。輸入問題你是誰？或者其他指令后，調用模型服務獲得相應的響應。

六、完成及清理

1. 釋放 1 臺 GPU 云服務器實例：登錄ECS 控制臺[2]，在實例頁面，找到目標實例，然后在操作列選擇>釋放，根據界面提示釋放實例。
2. 刪除 1 個安全組：登錄ECS 控制臺[2]，在安全組頁面，選擇目標安全組，然后在操作列單擊刪除。
3. 釋放 1 臺交換機：登錄專有網絡控制臺[4]，在交換機頁面，找到目標交換機，然后在操作列單擊刪除，按照界面提示釋放實例。
4. 釋放 1 個專有網絡 VPC：登錄專有網絡控制臺[1]，在專有網絡頁面，找到目標 VPC，然后在操作列單擊刪除，按照界面提示釋放實例。

文章轉載自：部署DeepSeek，你的GPU夠用嗎？

#你可能也喜歡這些API文章!

PixverseAI互動功能（HUG）在AI擁抱視頻生成中的應用

阿里云百煉平臺的全面解析

國家超算互聯網平臺 網址：探索高效計算的新時代

英偉達 A800：高性能計算與 AI 的先鋒

國家超算互聯網平臺上線：推動AI技術與應用的新時代

英偉達AI的未來：在馬來西亞的投資機會與策略

國家超算互聯網平臺：探索未來的AI算力

Deepgram API 價格：探索高效語音轉文字解決方案

Lovo AI API 文本轉語音：解鎖語音合成的無限可能

<sup id="q0jzg"></sup>