三、PAI Model Gallery 一鍵部署 Deep Seek-V3、Deep Seek-R

1. 進入 Model Gallery

https://pai.console.aliyun.com/?utm_content=g_1000401510

2. 在 Model Gallery 頁面的模型列表中,單擊找到并點擊需要部署的模型卡片,例如“DeepSeek-R1-Distill-Qwen-7B”模型,進入模型詳情頁面。

3. 單擊右上角部署:目前 DeepSeek-R1 支持采用 vLLM 加速部署;DeepSeek-V3 支持 vLLM 加速部署以及 Web 應用部署;DeepSeek-R1 蒸餾小模型支持采用 BladeLLM(阿里云 PAI 自研高性能推理框架)和 vLLM 加速部署。選擇部署方式和部署資源后,即可一鍵部署服務,生成一個 PAI-EAS 服務。

4. 使用推理服務。部署成功后,在服務頁面可以點擊“查看調用信息”獲取調用的 Endpoint 和 Token,想了解服務調用方式可以點擊預訓練模型鏈接,返回模型介紹頁查看調用方式說明。

上一篇:

微調碾壓RAG?大模型意圖識別工程化實踐

下一篇:

如何獲取字節火山deepseek系列-api完整教程,及使用方法
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數據驅動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內容創意新穎性、情感共鳴力、商業轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費