增強(qiáng)的安全性

API 網(wǎng)關(guān)在 ChatGPT 中的主要作用之一是處理身份驗(yàn)證和授權(quán)。這包括驗(yàn)證插件用戶的身份,并確定他們是否具備訪問 API 的權(quán)限。OpenAI 可以使用各種身份驗(yàn)證機(jī)制,如 OAuthAPI 密鑰或自定義身份驗(yàn)證協(xié)議,并將用戶憑證傳遞給 API 網(wǎng)關(guān)。API 網(wǎng)關(guān)隨后進(jìn)行身份驗(yàn)證,以檢查用戶是否經(jīng)過驗(yàn)證,從而免去為每個(gè) API 編寫驗(yàn)證代碼的必要。

本質(zhì)上,API 網(wǎng)關(guān)作為一種安全措施,用于防止?jié)撛诘暮诳凸簟K梢韵拗铺囟愋偷恼埱?,例如阻止對特定路由的未?jīng)授權(quán)的 POST 請求,除非請求包含適當(dāng)?shù)臋?quán)限或特定標(biāo)頭。例如,一家公司可能有一個(gè)電子商務(wù) API,允許通過 ChatGPT 插件下訂單。API 網(wǎng)關(guān)配置為僅允許包含有效 API 密鑰的 POST 請求,這樣只有經(jīng)過授權(quán)的請求才能創(chuàng)建新訂單,未經(jīng)授權(quán)的請求將被阻止,從而防止惡意下達(dá)虛假訂單或操控系統(tǒng)。

高效限速

API 網(wǎng)關(guān)還負(fù)責(zé)處理速率限制,確保 ChatGPT 插件不會(huì)因大量請求而影響 API 的性能或?qū)е缕浔罎?。它可以限制客戶端在特定時(shí)間內(nèi)發(fā)出的請求數(shù)量,并阻止超過限制的請求。

高性能

性能是 API 網(wǎng)關(guān)提升 ChatGPT 插件效率的另一個(gè)方面。API 網(wǎng)關(guān)可以實(shí)施緩存,以存儲經(jīng)常請求的響應(yīng)并快速返回,而無需查詢實(shí)際 API。此外,API 網(wǎng)關(guān)還可以處理請求/響應(yīng)轉(zhuǎn)換,將傳入請求轉(zhuǎn)換為 API 可以理解的格式(例如將 REST 請求轉(zhuǎn)換為 GraphQL),并將響應(yīng)轉(zhuǎn)換為插件可以使用的格式。

持續(xù)監(jiān)控

盡管 OpenAI 表示 ChatGPT 不會(huì)利用通過 API 提交的數(shù)據(jù)來訓(xùn)練或改進(jìn)模型,但啟用可觀測性功能仍然至關(guān)重要。API 網(wǎng)關(guān)可以提供有關(guān) ChatGPT 插件使用情況的數(shù)據(jù),監(jiān)控插件發(fā)出的請求,以識別和解決潛在問題。

如何將 Apache APISIX 與 ChatGPT 插件一起使用

了解了 API 網(wǎng)關(guān)在構(gòu)建 ChatGPT 插件中的重要作用后,接下來介紹如何使用 Apache APISIX API 網(wǎng)關(guān)的簡單步驟。市場上還有許多其他 API 網(wǎng)關(guān),這篇文章也有助于確定哪一個(gè)最適合需求。

在撰寫本文時(shí),ChatGPT 已限制訪問,僅向 OpenAI 的 alpha 用戶開放。需要注冊 ChatGPT 插件候補(bǔ)名單,目前優(yōu)先考慮開發(fā)人員和 ChatGPT Plus 用戶。

  1. 在開發(fā)環(huán)境中安裝并運(yùn)行 Apache APISIX,無論是本地還是遠(yuǎn)程服務(wù)器(云端)。本地運(yùn)行時(shí),可以通過 http://localhost:9080 訪問 APISIX。
  2. 為每個(gè) API 端點(diǎn)配置路由和上游,可以通過請求 Admin API(在 http://localhost:9180 上運(yùn)行)或用戶友好的 UI 控制面板來完成。也可以導(dǎo)入現(xiàn)有的 OpenAPI 規(guī)范以自動(dòng)注冊路由和上游。
  3. 使用 APISIX 的插件啟用 API 網(wǎng)關(guān)功能,如身份驗(yàn)證、速率限制和可觀測性。
  4. 導(dǎo)出更新后的 OpenAPI 規(guī)范用于 ChatGPT,并進(jìn)行必要的修改。將此文件通過另一條路由放置在 APISIX 服務(wù)器中的某個(gè)位置,以便 ChatGPT 可以找到。例如,將規(guī)范編譯成一個(gè)提示,向 ChatGPT 解釋如何使用該 API 來增強(qiáng)其答案。提供詳細(xì)提示,包括每個(gè)可用終端節(jié)點(diǎn)的描述。例如,YAML/JSON 文件可以存放在 http://localhost:9080/openapi.yaml。
  5. 其他步驟,如定義清單文件、運(yùn)行插件和編寫描述,與官方 OpenAI 文檔中的步驟幾乎一致。在通過 ChatGPT UI 連接并運(yùn)行插件時(shí),確保域名地址指向 APISIX API Gateway。
  6. 最后,用戶通過 ChatGPT UI 啟用插件來提出新問題。如果 ChatGPT 決定需要從 API 中獲取信息,它將向 API 網(wǎng)關(guān)發(fā)出請求,并在嘗試響應(yīng)之前將其添加到上下文中。

ChatGPT 插件的 API 安全性總結(jié)

以下是保護(hù) ChatGPT 插件 API 的 API Gateway 產(chǎn)品摘要:

結(jié)論

將插件集成引入 ChatGPT 是 OpenAI 的一次重要升級,這標(biāo)志著 GPT 模型在面向用戶的 AI 領(lǐng)域的顯著變化。API Gateway 提供了一個(gè)高性能的接口,用于安全地公開 API,同時(shí)涵蓋了安全性、速率限制策略、身份驗(yàn)證方法和監(jiān)控等功能。沒有 API 網(wǎng)關(guān),ChatGPT 的集成將面臨更多挑戰(zhàn),客戶將需要自行管理身份驗(yàn)證、速率限制和其他相關(guān)功能。

原文鏈接:API Gateway For ChatGPT Plugins

上一篇:

如何免費(fèi)調(diào)用GPT API進(jìn)行自然語言處理

下一篇:

使用 Lunar.dev 管理 AI Agent的 API 消耗
#你可能也喜歡這些API文章!

我們有何不同?

API服務(wù)商零注冊

多API并行試用

數(shù)據(jù)驅(qū)動(dòng)選型,提升決策效率

查看全部API→
??

熱門場景實(shí)測,選對API

#AI文本生成大模型API

對比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力

25個(gè)渠道
一鍵對比試用API 限時(shí)免費(fèi)

#AI深度推理大模型API

對比大模型API的邏輯推理準(zhǔn)確性、分析深度、可視化建議合理性

10個(gè)渠道
一鍵對比試用API 限時(shí)免費(fèi)