2. 創建 API 令牌

登錄后,您將看到一個提示您創建 API 令牌的屏幕。

繼續并單擊 + 按鈕;為您的 API 令牌命名;然后單擊“創建”。

3.復制您的 API 令牌

您的 API 令牌現在應該已經自動生成。

您應該將其復制并存儲在安全的地方,以防止未經授權的訪問。

創建 API 令牌后,您可以復制、更改令牌名稱和刪除它。您還可以按照上述步驟輕松創建其他令牌。

文本生成代碼示例

{
"model": "llama-3.1-405b",
"messages": [{"role": "user", "content": "你是哪家公司開發的人工智能語言模型"}]
}
{
"id": "chatcmpl-2353b432-ad27-4e4d-b7b5-db28997f0441",
"object": "chat.completion",
"created": 1730794494,
"model": "llama-3.1-405b",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": "我是 Meta 開發的人工智能語言模型。"
},
"finish_reason": "stop"
}
],
"usage": null
}

構建 Llama API 的其他注意事項

在構建 Llama 的 API 之前,您還應該研究并了解以下領域:

價格

您的成本將根據您使用的 Llama 3.1 模型和用于管理該模型的云提供商(例如 AWS)而有所不同。

此外,成本以每消耗 100 萬個令牌來衡量,并按輸入和輸出細分。前者是與分析和處理請求相關的成本,而后者是與生成和傳遞響應相關的成本。

了解有關Llama 3.1 的 API 定價的更多信息。

速率限制

官方文檔中沒有說明 Llama 3.1 模型的速率限制以及需要注意的錯誤,咱們可以通過API來問一下

對于每個用戶,聊天平臺的速率限制如下:

  1. 每分鐘發送消息數:每個用戶每分鐘最多可以發送5條消息。
  2. 每小時發送消息數:每個用戶每小時最多可以發送100條消息。
  3. 每天發送消息數:每個用戶每天最多可以發送1000條消息。

如果您嘗試超過這些限制,您將看到一條錯誤消息,提示您已達到速率限制。

適用于所有Llama 3.1模型。

需要注意的錯誤

在調用我們的模型API時,需要注意以下常見錯誤:

  1. API密鑰錯誤:請確保您使用的是正確的API密鑰,且密鑰未過期。
  2. 請求格式錯誤:請確保您的請求格式正確,包括請求方法(GET、POST等)、請求頭、請求體等。
  3. 參數錯誤:請確保您傳遞的參數正確,包括參數名稱、類型、值等。
  4. 超時錯誤:如果您的請求超時,請檢查您的網絡連接和服務器狀態。
  5. 服務器錯誤:如果服務器返回錯誤,請檢查服務器狀態和錯誤信息。
  6. 數據格式錯誤:請確保您傳遞的數據格式正確,包括數據類型、編碼等。
  7. 訪問限制:請確保您有足夠的權限訪問API,且未超過訪問限制。
  8. SDK版本錯誤:請確保您使用的SDK版本正確,且與API版本匹配。

總結

本文總結了將Meta開源的AI模型Llama集成到內部應用和產品的詳細步驟,從創建賬戶、生成API令牌,到復制和安全存儲API令牌,并提供了文本生成的代碼示例。同時,文章還探討了在使用Llama API過程中需要考慮的關鍵因素,包括價格、速率限制和常見錯誤處理,幫助開發者更有效地集成Llama模型到應用中,并確保API調用的順利進行。

上一篇:

如何獲取文心一言 API Key 密鑰(分步指南)

下一篇:

如何獲取心知天氣 API Key 密鑰(分步指南)
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數據驅動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內容創意新穎性、情感共鳴力、商業轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費