以上圖片來自X平臺Grok-2官方博客

語言與對話能力：更自然、更精準

Grok-2 曾作為 “sus-column-r” 出現在 LMSYS 排行榜中，在 Elo 評分上，其表現超過了許多知名模型。而在更多實際應用的測試中，Grok-2 的性能同樣令人驚艷。

具體來說，Grok-2 在以下方面表現尤為出色：

• 遵循指令的能力：模型能夠準確理解并執行復雜指令。
• 真實信息的輸出：在回答中更準確地呈現事實信息。
• 推理與工具使用：例如，模型能夠識別信息缺失、推導事件順序，并過濾掉無關內容。

這些能力得益于模型內部嚴格的測試流程。在開發中，AI 測評者會在真實任務場景下測試模型，并對模型的輸出進行評分，以不斷提升其表現。

基準測試中的亮眼成績

Grok-2 以及 Grok-2 Mini 在多項權威基準測試中都取得了優異成績。這些測試涵蓋了推理、閱讀理解、數學、科學以及編程領域。其中，Grok-2 的表現尤為突出，已經與業內其他前沿模型齊肩。

圖片來自X平臺Grok-2官方博客

1. 主要亮點包括：

• 科學知識（GPQA）：在研究生級別的科學測試中表現出色。
• 綜合知識（MMLU 和 MMLU-Pro）：在廣泛的知識領域中均表現優異。
• 數學推理（MATH）：能夠處理高難度的數學問題。

2. Grok-2 還在視覺相關任務中表現卓越，尤其是：

• 視覺數學推理（MathVista）：在基于視覺的數學問題中提供領先的解決方案。
• 文檔問答（DocVQA）：在基于文檔的復雜問題回答中表現出色。

第1步：安裝 Ollama

1. 訪問 Ollama 官網

•  打開瀏覽器，在地址欄輸入 https://ollama.com/。在官網頁面，根據你的操作系統（Windows 或 macOS），點擊對應版本的下載按鈕。

2. 下載并安裝 Ollama  

• 下載完成后，導航到你的下載文件夾，找到安裝文件。
• 雙擊安裝文件，按照提示完成安裝。
• 注意：安裝路徑通常為默認用戶目錄下的 .ollama 文件夾。如果需要更改模型存儲路徑，可以設置環境變量 OLLAMA_MODELS 來指定存儲位置。

3. 驗證安裝

• 打開終端（macOS 用戶：Command + 空格 -> Terminal，Windows 用戶：Win + R -> cmd），輸入以下命令驗證安裝：

ollama --version

• 如果顯示版本號，說明安裝成功。

第2步：安裝 Docker

1. 訪問 Docker 官網

• 打開瀏覽器，在地址欄輸入 https://www.docker.com/。

2. 選擇合適的版本  

• 根據你的操作系統，選擇對應的 Docker 客戶端版本下載。

3. 下載并安裝 Docker  

• 雙擊下載的安裝文件，按照安裝向導完成安裝。
• 安裝完成后，啟動 Docker。如果是第一次使用，需注冊一個 Docker 賬號。

4. 驗證安裝

• 打開終端，輸入以下命令確認 Docker 是否正常運行：

docker --version

• 如果顯示版本號，說明 Docker 安裝成功。

第3步：安裝 OpenWebUI

1. 訪問 OpenWebUI 官網

• 打開瀏覽器，訪問 https://openwebui.com/。

2. 獲取安裝命令  

• 在 GitHub 頁面中向下滾動，找到“Installation with Default Configuration”部分。
• 根據頁面指引，復制適合你的系統的安裝命令。
• 如果你已經安裝了Ollama，可以使用第一個安裝命令。

3. 執行安裝命令  

• 打開終端（macOS 用戶：Command + 空格 -> Terminal，Windows 用戶：Win + R -> cmd）。
• 將復制的命令粘貼到終端中，按回車開始安裝

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

• 注意：安裝時間可能需要 10-15 分鐘，具體取決于你的網絡狀況。

4. 打開 OpenWebUI 頁面

• 安裝完成后，在瀏覽器中輸入以下 URL 打開 OpenWebUI 界面（默認端口為 3000）：http://localhost:3000
• 按頁面提示完成注冊并登錄。

第4步：配置 Grok-2 Beta 模型 API

生成 Grok API 密鑰：

1. 訪問 Grok 官方網站

• 打開瀏覽器，輸入 https://x.ai/api。

2. 注冊賬號  

• 點擊“立即構建”按鈕，按照提示注冊一個賬號。
• 如果你已有 **X（Twitter）賬號**或 **Google 賬號**，可以直接登錄。

3. 生成 API 密鑰  

• 進入后臺后，點擊“Generate API Key”。
• 系統會自動生成一個 API 密鑰，復制該密鑰保存備用。

在 OpenWebUI 中配置 API 密鑰：

1. 進入管理頁面  

• 在 OpenWebUI 界面中，點擊右上角頭像。
• 在左側導航欄選擇 **Admin Settings**。

2. 配置 API 信息  

• 在 Connections 部分，找到 API Key 輸入框。
• 將剛剛復制的 API 密鑰粘貼進去。

3. 設置域名  

• 刪除默認域名，替換為正確的 Grok API 域名：https://api.x.ai/v1
• 確保域名輸入正確，否則可能導致 API 請求失敗。

4. 關閉其他 API 設置  

• 將 Ollama API 的選項關閉，保存設置。

第5步：驗證安裝與配置

1.查看模型列表  

• 返回 OpenWebUI 主界面，新建一個聊天窗口。
• 點擊左上角的大模型列表下拉菜單。

2. 驗證 Grok 模型  

• 如果安裝和配置成功，列表中會顯示 Grok Beta 和 Grok Vision Beta 兩個模型。
• 選擇模型后即可開始交互。

注意事項及提示

1. 網絡連接  

• 安裝 Docker 和 OpenWebUI 需要下載大量文件，確保網絡連接穩定。

3. API 使用限制  

• 每個 Grok 賬號默認擁有 25 美元的免費額度，注意控制使用量，避免超額。

4. 安全性  

• 確保 API 密鑰保密，避免泄露。

5. 版本更新  

• 定期檢查 Docker 和 OpenWebUI 的版本更新，以獲取最新功能和安全修復。

文章轉自微信公眾號@廢才俱樂部Club

#你可能也喜歡這些API文章!

企業工商數據API用哪種？

2024年創建社交媒體帖子的最佳圖像工具API

2024年小型企業的7個最佳短信應用API

用gin寫簡單的crud后端API接口

最新LangChain+GLM4開發AI應用程序系列（一）：快速入門篇

深度解析：臨床試驗數據庫CT.gov與API接口指南

2024年您產品必備的10大AI API推薦

GraphRAG：基于PolarDB+通義千問api+LangChain的知識圖譜定制實踐

使用Node.js、Express和MySQL構建REST API