“百度智能云千帆大模型”是百度智能云平臺上提供的一個大模型服務體系，它集成了多種先進的預訓練語言模型和AI技術，旨在為企業和個人開發者提供強大的人工智能解決方案。這些模型包括但不限于基于Llama2架構的中文增強版本、ERNIE系列的旗艦級模型以及其他由百度自研或基于開源框架優化的高性能模型。千帆平臺上的大模型不僅支持中英雙語，覆蓋廣泛的應用場景如對話問答、創作生成、代碼生成等，而且部分模型針對特定需求進行了優化，如壓縮加速、指令微調等，以適應不同資源條件下的部署和使用需求。用戶可以通過千帆大模型平臺進行模型的選擇、訓練調優及部署調用，以實現對復雜任務的支持和高效處理。

什么是API

API是一個軟件解決方案，作為中介，使兩個應用程序能夠相互交互。以下一些特征讓API變得更加有用和有價值：

• 遵守REST和HTTP等易于訪問、廣泛理解和開發人員友好的標準。
• API不僅僅是幾行代碼；這些是為移動開發人員等特定受眾創建的。
• 這些有清晰的文檔和版本，以滿足用戶的期望。
• 更好的治理和安全性，以及監控以管理性能和可擴展性。

一、核心功能介紹

1.模型相關

對話Chat：支持創建chat，用于發起一次對話。

續寫Completions：支持創建completion，用于發起一次續寫請求，不支持多輪會話等。

自定義模型：平臺支持HuggingFace Transformer架構的自定義大模型導入，將自定義模型發布為服務，并支持通過相關API調用該服務。

圖像Images：提供圖像相關API能力。

Token計算，根據輸入計算token數。

2.模型服務：提供創建服務、獲取服務詳情等API能力。

3.模型管理：提供獲取模型、模型版本詳情，獲取用戶/預置模型及將訓練任務發布為模型等API能力。

4.模型調優：提供創建訓練任務、任務運行、停止任務運行及獲取任務運行詳情等API能力。

5.數據管理：提供創建數據集等數據集管理、導入導出數據集任務、數據清洗任務管理等API能力。

6.Prompt工程：提供模板管理、Prompt優化任務、評估等API能力。

7.插件應用：提供知識庫、智慧圖問、天氣等API能力。

二、如何申請千帆大模型API Key和Secret Key

進入百度智能云 千帆大模型平臺。

點擊應用接入，進入應用列表

點擊創建應用

先記錄下這個秘鑰后面調用需要用到

 三、Python調用千帆大模型接口的主要步驟如下

接口文檔 地址：<https://cloud.baidu.com/doc/WENXINWORKSHOP/s/klqx7b1xf>

基本信息

請求地址： https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie_speed

請求方式： POST

根據不同鑒權方式，查看對應 Header 參數。

• 訪問憑證 access\_token 鑒權

• 基于安全認證 AK/SK 進行簽名計算鑒權

Query 參數

只有訪問憑證 access\_token 鑒權方式，需使用 Query 參數。

• 訪問憑證 access\_token 鑒權

Body 參數

message 說明

響應說明

部分參數如下。

響應體參數

usage 說明

注意 ：同步模式和流式模式，響應參數返回不同，詳細內容參考示例描述。

• 同步模式下，響應參數為以上字段的完整 json 包。
• 流式模式下，各字段的響應參數為 data: {響應參數}。

代碼如下：

1 import requests
 2 import json
 3 import datetime
 4 
 5 class QIANFAN:
 6 
 7     _api_url = "https://aip.baidubce.com"
 8     
 9     def __init__(self, api_key, secret_key):
10         self.API_KEY = api_key
11         self.SECRET_KEY = secret_key
12 
13         url = self._api_url + "/oauth/2.0/token"
14         params = {"grant_type": "client_credentials", "client_id": self.API_KEY, "client_secret": self.SECRET_KEY}
15         result = self.http_request_v2(url, method="POST", params=params)
16         if 'access_token' in result:
17             self.access_token = result["access_token"]
18         else:
19             print(result)
20             exit()
21 
22         
23     def chat(self, model="ernie-lite-8k", message=None, **kwargs):
24         url = f"{self._api_url}/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/{model}?access_token={self.access_token}"
25 
26         payload = json.dumps({
27             "messages": [{"role": "user", "content": message}],
28             "temperature": 0.95,
29             "penalty_score": 1
30         })
31   
32         for key, value in kwargs.items():
33             payload[key] = value
34 
35         print(payload)
36         response = self.http_request_v2(url, method="POST", params=payload)
37         return response
38 
39     # 生成headers頭
40     def headers(self, params=None):
41         headers = {}
42         headers['Content-Type'] = 'application/json'
43         return headers
44         
45     def http_request_v2(self, url, method="GET", headers={}, params=None):
46         headers['User-Agent'] = 'Mozilla/5.0 \(Windows NT 6.1; WOW64\) AppleWebKit/537.36 \(KHTML, like Gecko\) Chrome/39.0.2171.71 Safari/537.36'
47         if method == "GET":
48             response = requests.get(url)
49         elif method == "POST":
50             # data = bytes(json.dumps(params), 'utf-8')
51             response = requests.post(url, data= params)
52         elif method == "DELETE":
53             response = requests.delete(url, data= data)
54             
55         result = response.json()
56         return result

調用方法如下：

示例
API_KEY = "PfHVN4v3GjjE3vV24FzZdGhB"
SECRET_KEY = "***chat_client = QIANFAN(API_KEY, SECRET_KEY)
print(vars(chat_client))

result = chat_client.chat(model='ernie_speed', message="1加1為什么等于2？")
print(result["result"])

以上就是使用Python語言調用千帆大模型的全部過程和代碼示例。

#你可能也喜歡這些API文章!

5 分鐘讀懂API技術架構

一文快速了解如何調用天工API接口

API 安全策略和基礎指南