“百度智能云千帆大模型”是百度智能云平臺(tái)上提供的一個(gè)大模型服務(wù)體系，它集成了多種先進(jìn)的預(yù)訓(xùn)練語(yǔ)言模型和AI技術(shù)，旨在為企業(yè)和個(gè)人開發(fā)者提供強(qiáng)大的人工智能解決方案。這些模型包括但不限于基于Llama2架構(gòu)的中文增強(qiáng)版本、ERNIE系列的旗艦級(jí)模型以及其他由百度自研或基于開源框架優(yōu)化的高性能模型。千帆平臺(tái)上的大模型不僅支持中英雙語(yǔ)，覆蓋廣泛的應(yīng)用場(chǎng)景如對(duì)話問(wèn)答、創(chuàng)作生成、代碼生成等，而且部分模型針對(duì)特定需求進(jìn)行了優(yōu)化，如壓縮加速、指令微調(diào)等，以適應(yīng)不同資源條件下的部署和使用需求。用戶可以通過(guò)千帆大模型平臺(tái)進(jìn)行模型的選擇、訓(xùn)練調(diào)優(yōu)及部署調(diào)用，以實(shí)現(xiàn)對(duì)復(fù)雜任務(wù)的支持和高效處理。

什么是API

API是一個(gè)軟件解決方案，作為中介，使兩個(gè)應(yīng)用程序能夠相互交互。以下一些特征讓API變得更加有用和有價(jià)值：

• 遵守REST和HTTP等易于訪問(wèn)、廣泛理解和開發(fā)人員友好的標(biāo)準(zhǔn)。
• API不僅僅是幾行代碼；這些是為移動(dòng)開發(fā)人員等特定受眾創(chuàng)建的。
• 這些有清晰的文檔和版本，以滿足用戶的期望。
• 更好的治理和安全性，以及監(jiān)控以管理性能和可擴(kuò)展性。

一、核心功能介紹

1.模型相關(guān)

對(duì)話Chat：支持創(chuàng)建chat，用于發(fā)起一次對(duì)話。

續(xù)寫Completions：支持創(chuàng)建completion，用于發(fā)起一次續(xù)寫請(qǐng)求，不支持多輪會(huì)話等。

自定義模型：平臺(tái)支持HuggingFace Transformer架構(gòu)的自定義大模型導(dǎo)入，將自定義模型發(fā)布為服務(wù)，并支持通過(guò)相關(guān)API調(diào)用該服務(wù)。

圖像Images：提供圖像相關(guān)API能力。

Token計(jì)算，根據(jù)輸入計(jì)算token數(shù)。

2.模型服務(wù)：提供創(chuàng)建服務(wù)、獲取服務(wù)詳情等API能力。

3.模型管理：提供獲取模型、模型版本詳情，獲取用戶/預(yù)置模型及將訓(xùn)練任務(wù)發(fā)布為模型等API能力。

4.模型調(diào)優(yōu)：提供創(chuàng)建訓(xùn)練任務(wù)、任務(wù)運(yùn)行、停止任務(wù)運(yùn)行及獲取任務(wù)運(yùn)行詳情等API能力。

5.數(shù)據(jù)管理：提供創(chuàng)建數(shù)據(jù)集等數(shù)據(jù)集管理、導(dǎo)入導(dǎo)出數(shù)據(jù)集任務(wù)、數(shù)據(jù)清洗任務(wù)管理等API能力。

6.Prompt工程：提供模板管理、Prompt優(yōu)化任務(wù)、評(píng)估等API能力。

7.插件應(yīng)用：提供知識(shí)庫(kù)、智慧圖問(wèn)、天氣等API能力。

二、如何申請(qǐng)千帆大模型API Key和Secret Key

進(jìn)入百度智能云 千帆大模型平臺(tái)。

點(diǎn)擊應(yīng)用接入，進(jìn)入應(yīng)用列表

點(diǎn)擊創(chuàng)建應(yīng)用

先記錄下這個(gè)秘鑰后面調(diào)用需要用到

 三、Python調(diào)用千帆大模型接口的主要步驟如下

接口文檔 地址：<https://cloud.baidu.com/doc/WENXINWORKSHOP/s/klqx7b1xf>

基本信息

請(qǐng)求地址： https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie_speed

請(qǐng)求方式： POST

根據(jù)不同鑒權(quán)方式，查看對(duì)應(yīng) Header 參數(shù)。

• 訪問(wèn)憑證 access\_token 鑒權(quán)

• 基于安全認(rèn)證 AK/SK 進(jìn)行簽名計(jì)算鑒權(quán)

Query 參數(shù)

只有訪問(wèn)憑證 access\_token 鑒權(quán)方式，需使用 Query 參數(shù)。

• 訪問(wèn)憑證 access\_token 鑒權(quán)

Body 參數(shù)

message 說(shuō)明

響應(yīng)說(shuō)明

部分參數(shù)如下。

響應(yīng)體參數(shù)

usage 說(shuō)明

注意 ：同步模式和流式模式，響應(yīng)參數(shù)返回不同，詳細(xì)內(nèi)容參考示例描述。

• 同步模式下，響應(yīng)參數(shù)為以上字段的完整 json 包。
• 流式模式下，各字段的響應(yīng)參數(shù)為 data: {響應(yīng)參數(shù)}。

代碼如下：

1 import requests
 2 import json
 3 import datetime
 4 
 5 class QIANFAN:
 6 
 7     _api_url = "https://aip.baidubce.com"
 8     
 9     def __init__(self, api_key, secret_key):
10         self.API_KEY = api_key
11         self.SECRET_KEY = secret_key
12 
13         url = self._api_url + "/oauth/2.0/token"
14         params = {"grant_type": "client_credentials", "client_id": self.API_KEY, "client_secret": self.SECRET_KEY}
15         result = self.http_request_v2(url, method="POST", params=params)
16         if 'access_token' in result:
17             self.access_token = result["access_token"]
18         else:
19             print(result)
20             exit()
21 
22         
23     def chat(self, model="ernie-lite-8k", message=None, **kwargs):
24         url = f"{self._api_url}/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/{model}?access_token={self.access_token}"
25 
26         payload = json.dumps({
27             "messages": [{"role": "user", "content": message}],
28             "temperature": 0.95,
29             "penalty_score": 1
30         })
31   
32         for key, value in kwargs.items():
33             payload[key] = value
34 
35         print(payload)
36         response = self.http_request_v2(url, method="POST", params=payload)
37         return response
38 
39     # 生成headers頭
40     def headers(self, params=None):
41         headers = {}
42         headers['Content-Type'] = 'application/json'
43         return headers
44         
45     def http_request_v2(self, url, method="GET", headers={}, params=None):
46         headers['User-Agent'] = 'Mozilla/5.0 \(Windows NT 6.1; WOW64\) AppleWebKit/537.36 \(KHTML, like Gecko\) Chrome/39.0.2171.71 Safari/537.36'
47         if method == "GET":
48             response = requests.get(url)
49         elif method == "POST":
50             # data = bytes(json.dumps(params), 'utf-8')
51             response = requests.post(url, data= params)
52         elif method == "DELETE":
53             response = requests.delete(url, data= data)
54             
55         result = response.json()
56         return result

調(diào)用方法如下：

示例
API_KEY = "PfHVN4v3GjjE3vV24FzZdGhB"
SECRET_KEY = "***chat_client = QIANFAN(API_KEY, SECRET_KEY)
print(vars(chat_client))

result = chat_client.chat(model='ernie_speed', message="1加1為什么等于2？")
print(result["result"])

以上就是使用Python語(yǔ)言調(diào)用千帆大模型的全部過(guò)程和代碼示例。

#你可能也喜歡這些API文章!

5 分鐘讀懂API技術(shù)架構(gòu)

一文快速了解如何調(diào)用天工API接口

API 安全策略和基礎(chǔ)指南