在測試數(shù)學能力的 AIME24 評測集上,以及評估代碼能力的 LiveCodeBench 中,千問 QwQ-32B 表現(xiàn)與 DeepSeek-R1-671B 相當,遠勝于 OpenAI-o1-mini 及相同尺寸的 R1 蒸餾模型。在由 Meta 首席科學家楊立昆領銜的“最難 LLMs 評測榜” LiveBench、谷歌等提出的指令遵循能力 IFEval 評測集、由加州大學伯克利分校等提出的評估準確調(diào)用函數(shù)或工具方面的 BFCL 測試中,千問 QwQ-32B 的得分均超越了 DeepSeek-R1-671B。

前置準備

  1. 首次使用云原生應用開發(fā)平臺 CAP[1] 會自動跳轉到訪問控制快速授權頁面,滾動到瀏覽器底部單擊確認授權,等待授權結束后單擊返回控制臺。

  2. 本教程在函數(shù)計算中創(chuàng)建的 GPU 函數(shù),函數(shù)運行使用的資源按照函數(shù)規(guī)格乘以執(zhí)行時長進行計量,如果無請求調(diào)用,則只收取閑置預留模式下預置的快照費用,CAP 中的極速模式通過預置實例快照實現(xiàn)毫秒級響應,其技術原理對應函數(shù)計算的閑置預留模式,適用于需要快速冷啟動的場景。建議您領取函數(shù)計算的試用額度 [2] 抵扣資源消耗,超出試用額度的部分將自動轉為按量計費,更多計費詳情,請參見計費概述 [3]。

方式一:應用模板部署

  1. 創(chuàng)建項目
    進入 CAP 控制臺 [4] 單擊基于模板創(chuàng)建開始創(chuàng)建。

    image

  2. 部署模板
    在搜索欄輸入 QWQ 進行搜索,單擊基于 Qwen-QwQ 推理模型構建 AI 聊天助手,進入模板詳情頁,單擊立即部署。

    image

    image

    選擇地域,目前支持 北京、上海、杭州,單擊部署項目,在項目資源預覽對話框中,您可以看到相關的計費項,詳情請見計費涉及的產(chǎn)品 [5]。單擊確認部署,部署過程大約持續(xù) 10 分鐘左右,狀態(tài)顯示已部署表示部署成功。

    說明:選擇地域時,一般是就近選擇地域信息,如果已經(jīng)開啟了 NAS 文件系統(tǒng),選擇手動配置模型存儲時,請選擇和文件系統(tǒng)相同的地域。如果您在測試調(diào)用的過程中遇到部署異常或模型拉取失敗,可能是當前地域的 GPU 顯卡資源不足,建議您更換地域進行重試。

    image

    image

  3. 驗證應用
    部署完畢后,點擊 Open-WebUI 服務,在訪問地址內(nèi)找到公網(wǎng)訪問單擊訪問。在 OpenWebUI 界面體驗 QwQ 模型進行對話。

    image

方式二:模型服務部署

使用 API 形式進行模型調(diào)用,接入線上業(yè)務應用。

  1. 創(chuàng)建空白項目
    進入 CAP 控制臺 [6] 單擊創(chuàng)建空白項目開始創(chuàng)建,并為項目命名。

    image

    image

  2. 選擇模型服務

    image

  3. 部署模型服務
    選擇模型 QwQ-32B-GGUF,目前僅支持杭州地域。

    image

    單擊資源配置,QwQ-32B-GGUF 推薦使用 Ada 系列,可直接使用默認配置。您可以根據(jù)業(yè)務訴求填寫需要的卡型及規(guī)格信息。

    image

    單擊預覽并部署,在服務資源預覽對話框中,您可以看到相關的計費項,詳情請見計費涉及的產(chǎn)品 [7]。單擊確認部署,該階段需下載模型,預計等待 10~30 分鐘即可完成。

    image

    image

  4. 驗證模型服務
    單擊調(diào)試,即可測試和驗證相關模型調(diào)用。

    image

    image

    在本地命令行窗口中驗證模型調(diào)用。

    image

  5. 第三方平臺 API 調(diào)用
    您可以選擇在 Chatbox [8] 等其他第三方平臺中驗證和應用模型調(diào)用,以下以 Chatbox 為例。

    image

    image

刪除項目

您可以使用以下步驟刪除應用,以降低產(chǎn)生的費用。進入項目詳情 > 點擊刪除,會進入到刪除確認對話框。

image

您可以看到要刪除的資源。默認情況下,云原生應用開發(fā)平臺 CAP 會刪除項目下的所有服務。如果您希望保留資源,可以取消勾選指定的服務,刪除項目時只會刪除勾選的服務。

image

勾選我已知曉:刪除該項目及選中的服務將立刻中斷其所服務的線上業(yè)務,并且不可恢復,同時將徹底刪除其所依賴的云產(chǎn)品資源,然后單擊確定刪除。

參考鏈接

原文轉載自:https://mp.weixin.qq.com/s/XrI02WSmKvV5od1Ery8HLQ

上一篇:

Cursor 和 Devbox 給我寫了個高仿蘋果官網(wǎng)

下一篇:

DeepSeek 全面指南,90% 的人都不知道的使用技巧
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數(shù)據(jù)驅(qū)動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費