一旦我們的圖表標準完成,我們就可以看到以折線圖形式呈現的結果圖表。這將使我們能夠直觀地了解用戶 AI API 使用趨勢。

線圖

或者,如果您正在尋找一種更簡單的方法來查看確切的數字,您可能希望以表格形式查看結果,您可以通過選擇圖表窗格左上角的表格視圖選擇器來實現。以下是上述數據以表格形式顯示的示例。

表格視圖

跟蹤唯一用戶或公司的使用情況

就像按 API 調用量查看使用數據一樣,我們將再次使用 Moesif 中的時間序列圖表,通過單擊屏幕左上角的 + 新建按鈕來分析按唯一用戶或公司劃分的使用情況。

同樣,我們將為想要探索的特定 AI API 路由添加一個過濾器,并可能向過濾器添加其他條件,例如 HTTP 動詞/方法、響應狀態代碼等。設置過濾器后,我們將指標下拉菜單設置為唯一值 > 唯一用戶或唯一值 > 唯一公司,具體取決于我們想要查看哪個指標。這意味著圖表上顯示的指標將是在設定的時間段內訪問我們 API 的唯一用戶或公司總數。以下是可能的示例:

獨立用戶

一旦我們的圖表標準完成,我們就可以在折線圖中看到結果,其中顯示了訪問 API 的唯一用戶或公司的數量。這將使我們能夠直觀地了解 AI API 使用趨勢。下圖顯示了過去七天每天的唯一用戶數量。

線圖

通過選擇表格視圖,我們可以將相同的數據以表格的形式查看,如果您想更輕松地查看精確的數字,這樣可以更容易地查看。

表格視圖

通過輸入/輸出令牌跟蹤使用情況

就像查看我們的其他示例一樣,為了分析輸入和輸出令牌的使用情況,我們將再次使用 Moesif 中的時間序列圖表,方法是單擊屏幕左上角的 + 新建按鈕。

這次,我們將為想要探索的特定 AI API 路由添加一個過濾器,并可能向過濾器添加其他標準,例如 HTTP 動詞/方法、響應狀態代碼等。與以前的圖表不同,此圖表將包含三個指標:一個用于輸入令牌,一個用于輸出令牌,一個用于總令牌。我們將單擊“指標”下拉菜單并選擇“選擇字段…”選項來添加我們的指標。從這里,我們將:

  1. 選擇代表所消耗的輸入令牌的 API 響應元素。這將是以下案例中的 response.body.generated_text.usage.prompt_tokens 字段。
  2. 將字段的聚合設置為“sum”。這將聚合使用情況并總結所有 API 調用的總使用情況。
  3. 單擊添加指標按鈕。
  4. 與輸入令牌一樣,選擇 API 響應中表示所用輸出令牌的字段,并將聚合設置為“總和”。
  5. 再次單擊添加指標按鈕,然后從選項中選擇輸入公式…。
  6. 在公式字段中,添加“a + b”。這將采用指標“a”(我們的輸入標記),將其添加到指標“b”(我們的輸出標記)并將它們相加。
  7. 或者,您可以通過單擊省略號并選中自定義名稱來為每個指標添加自定義名稱。

以下是一個示例,其中包括每個字段的自定義名稱:

自定義名稱

一旦我們的圖表標準完成,我們就可以在折線圖中看到結果,其中顯示了 API 用戶消耗的輸入令牌、輸出令牌和總令牌數。這將使我們能夠直觀地了解我們的 AI API 令牌使用趨勢。下圖顯示了過去七天使用的令牌數量。

輸出標記

與其他示例一樣,這些指標也可以以圖表形式查看,以便于閱讀準確的數字。

圖表視圖

至此,我們展示了在 Moesif 中跟蹤 AI API 使用情況的三種常見方法。當然,您可以進一步探索數據,并使用 Moesif 通過我們今天展示的精確指標將您的 API 貨幣化

結論

在當今世界,了解 API 的使用方式至關重要。通過跟蹤 AI API 的使用情況,您可以獲得有關成本管理、性能監控、用戶行為等方面的寶貴見解。這些見解可讓您做出數據驅動的決策、優化資源并為 AI 計劃取得成功做好準備。

原文鏈接:https://www.moesif.com/blog/technical/api-development/How-to-Track-the-Usage-of-AI-APIs-The-Ultimate-Guide/

上一篇:

智譜大模型有了首個免費API

下一篇:

基于自定義數據集微調LLama 2模型
#你可能也喜歡這些API文章!

我們有何不同?

API服務商零注冊

多API并行試用

數據驅動選型,提升決策效率

查看全部API→
??

熱門場景實測,選對API

#AI文本生成大模型API

對比大模型API的內容創意新穎性、情感共鳴力、商業轉化潛力

25個渠道
一鍵對比試用API 限時免費

#AI深度推理大模型API

對比大模型API的邏輯推理準確性、分析深度、可視化建議合理性

10個渠道
一鍵對比試用API 限時免費