欧美日韩在线国产,中文字幕在线大全免费视频,国产91av在线

訓練過程對比

培訓方法：

強化學習：與主要依賴監督學習的傳統模型不同，DeepSeek-R1 廣泛使用強化學習。訓練利用群體相對策略優化 (GRPO)，專注于準確性和格式獎勵，以增強推理能力，而無需大量標記數據。
提煉技術：為了使高性能模型的普及，DeepSeek 還發布了 R1 的提煉版本，參數范圍從 15 億到 700 億。這些模型基于 Qwen 和 Llama 等架構，表明復雜的推理可以封裝在更小、更高效的模型中。提煉過程涉及使用完整 DeepSeek-R1 生成的合成推理數據對這些較小的模型進行微調，從而以較低的計算成本保持高性能。

DeepSeek-R1-Zero 的訓練過程非常簡單：

從基礎模型開始
直接應用強化學習
根據準確性和格式使用簡單的獎勵

DeepSeek-R1 的訓練過程分為四個不同的階段：

使用數千個高質量示例進行初始監督微調
強化學習專注于推理任務
通過拒絕抽樣收集新的訓練數據
針對所有類型任務的最終強化學習

績效指標：

推理基準：DeepSeek-R1 在各種基準測試中都表現出了令人印象深刻的結果：
AIME 2024：通過率為 79.8%，而 OpenAI 的 o1-1217 的通過率為 79.2%。
MATH-500：取得了令人印象深刻的 97.3% 的成績，略高于 o1–1217 的 96.4%。
SWE-bench Verified：在編程任務中表現出色，展示了其編碼能力。
成本效益：DeepSeek-R1 的 API 定價為每百萬輸入令牌 0.14 美元（緩存命中），比 OpenAI 的 o1 等同類模型便宜得多。

局限性和未來工作

論文承認了幾個需要改進的領域：

該模型有時會遇到需要特定輸出格式的任務
軟件工程任務的性能可以提高
多語言環境中的語言混合存在挑戰
少量提示會持續降低表現

未來的工作將集中于解決這些限制并擴展模型在函數調用、多輪交互和復雜角色扮演場景等領域的功能。

部署和可訪問性

開源和許可：DeepSeek-R1 及其變體在 MIT 許可下發布，促進開源協作和商業使用，包括模型提煉。此舉對于促進創新和降低 AI 模型開發的準入門檻至關重要。
模型格式：
這兩種模型及其提煉版本均采用 GGML、GGUF、GPTQ 和 HF 等格式，從而可以靈活地在本地部署。

1. 通過 DeepSeek 聊天平臺進行網頁訪問：

DeepSeek 聊天平臺提供了用戶友好的界面，無需任何設置要求即可與 DeepSeek-R1 進行交互。

訪問步驟：
導航至DeepSeek 聊天平臺
注冊一個帳戶，如果已有帳戶，請登錄。
登錄后，選擇“深度思考”模式，即可體驗DeepSeek-R1的一步步推理能力。

DeepSeek 聊天平臺

2.通過DeepSeek API訪問：

對于編程訪問，DeepSeek 提供了與 OpenAI 格式兼容的 API，允許集成到各種應用程序中。

使用API的步驟：

a. 獲取 API 密鑰：

訪問DeepSeek API 平臺創建帳戶并生成您的唯一 API 密鑰。

b.配置您的環境：

將設置base_url為https://api.deepseek.com/v1
使用您的 API 密鑰進行身份驗證，通常通過 HTTP 標頭中的 Bearer Token 進行。

c. 進行 API 調用：

利用 API 發送提示并接收來自 DeepSeek-R1 的響應。
DeepSeek API 文檔中提供了詳細的文檔和示例。

DeepSeek API 調用示例

3. 在本地運行 DeepSeek-R1：

兩種型號（R1 和 R1-Zero）：

硬件要求：完整模型由于其大小而需要大量硬件。建議使用具有大量 VRAM 的 GPU（如 Nvidia RTX 3090 或更高版本）。對于 CPU 使用，您至少需要 48GB 的 RAM 和 250GB 的磁盤空間，盡管如果沒有 GPU 加速，性能會很慢。
精簡模型：對于資源密集程度較低的硬件的本地部署，DeepSeek 提供了精簡版本。這些模型的參數范圍從 1.5B 到 70B，因此適合硬件較差的系統。例如，對于 GGML/GGUF 格式，7B 模型可以在至少具有 6GB VRAM 的 GPU 上運行，或者在具有大約 4GB RAM 的 CPU 上運行。

本地運行的軟件工具：

Ollama :

您可以使用Ollama在本地提供模型: (Ollama 是一種在您的機器上本地運行開源 AI 模型的工具。在此處獲取：https://ollama.com/download )

接下來，您需要在本地提取并運行 DeepSeek R1 模型。

Ollama 提供不同尺寸的模型 — 基本上，更大的模型等于更智能的 AI，但需要更好的 GPU。以下是陣容：

1.5B 版本（最小）：

ollama run deepseek-r1:1.5b 



8B 版本：

ollama run deepseek-r1:8b 



14B 版本：

ollama run deepseek-r1:14b 



32B 版本：

ollama run deepseek-r1:32b 



70B 版本（最大/最智能）：

ollama run deepseek-r1:70b

要開始嘗試 DeepSeek-R1，建議從較小的模型開始，以熟悉設置并確保與硬件的兼容性。您可以通過打開終端并執行以下命令來啟動此過程：

ollama 運行 deepseek-r1:8b

圖片由 Reddit 提供

通過 Ollama 向本地下載的 DeepSeek-R1 發送請求：

Ollama 提供了一個 API 端點，用于以編程方式與 DeepSeek-R1 交互。在發出 API 請求之前，請確保 Ollama 服務器在本地運行。您可以通過運行以下命令來啟動服務器：

ollama serve

一旦服務器處于活動狀態，您就可以使用curl以下命令發送請求：

curl -X POST http://localhost:11434/api/generate -d '{

  "model": "deepseek-r1",

  "prompt": "Your question or prompt here"

}'

將其替換"Your question or prompt here"為您希望向模型提供的實際輸入。此命令向本地 Ollama 服務器發送 POST 請求，該服務器使用指定的 DeepSeek-R1 模型處理提示并返回生成的響應。

在本地運行/訪問模型的其他方法包括：

vLLM/SGLang：用于在本地提供模型。vllm serve deepseek-ai/DeepSeek-R1-Distill-Qwen-32B — tensor-parallel-size 2 — max-model-len 32768 — force-eager 等命令可用于精簡版本。