LLMs工具學(xué)習(xí)方面的現(xiàn)有工作進(jìn)行全面調(diào)查.png)
一篇大模型Agent工具使用全面研究綜述
Moonshot的文本生成模型(指moonshot-v1)是一個(gè)訓(xùn)練有素的模型,專(zhuān)門(mén)用于理解自然語(yǔ)言和書(shū)面語(yǔ)言。它能夠根據(jù)輸入(prompt)生成文本輸出。文本生成模型可以用于多種任務(wù),包括但不限于內(nèi)容或代碼生成、摘要、對(duì)話、創(chuàng)意寫(xiě)作等。
當(dāng)前支持的模型有:
● moonshot-v1-8k: 它是一個(gè)長(zhǎng)度為 8k 的模型,適用于生成短文本。
● moonshot-v1-32k: 它是一個(gè)長(zhǎng)度為 32k 的模型,適用于生成長(zhǎng)文本。
● moonshot-v1-128k: 它是一個(gè)長(zhǎng)度為 128k 的模型,適用于生成超長(zhǎng)文本。
以上模型的區(qū)別在于它們的最大上下文長(zhǎng)度,這個(gè)長(zhǎng)度包括了輸入消息和生成的輸出,在效果上并沒(méi)有什么區(qū)別。大致來(lái)說(shuō),對(duì)于一段通常的中文文本,1 個(gè) Token 大約相當(dāng)于 1.5-2 個(gè)漢字。
需要注意的是,對(duì)于這個(gè)文本模型,Input 和 Output 的總和長(zhǎng)度不能超過(guò)模型的最大上下文長(zhǎng)度。
速率限制通過(guò)4種方式衡量:并發(fā)、RPM(每分鐘請(qǐng)求數(shù))、TPM(每分鐘 Token 數(shù))、TPD(每天 Token 數(shù))。
速率限制可能會(huì)在任何一種選項(xiàng)中達(dá)到,取決于哪個(gè)先發(fā)生。例如,你可能向 ChatCompletions 發(fā)送了 20 個(gè)請(qǐng)求,每個(gè)請(qǐng)求只有 100 個(gè) Token ,那么你就達(dá)到了限制(如果你的 RPM 限制是 20),即使你在這些 20 個(gè)請(qǐng)求中沒(méi)有發(fā)滿 200k 個(gè) Token (假設(shè)你的TPM限制是 200k)。
對(duì)網(wǎng)關(guān),出于方便考慮,會(huì)基于請(qǐng)求中的 max_tokens 參數(shù)來(lái)計(jì)算速率限制。這意味著,如果你的請(qǐng)求中包含了 max_tokens 參數(shù),會(huì)使用這個(gè)參數(shù)來(lái)計(jì)算速率限制。如果你的請(qǐng)求中沒(méi)有包含 max_tokens 參數(shù),則會(huì)使用默認(rèn)的 max_tokens 參數(shù)來(lái)計(jì)算速率限制。
而在計(jì)費(fèi)環(huán)節(jié)中,會(huì)基于你請(qǐng)求的 token 數(shù)量加上實(shí)際生成的 token 數(shù)量來(lái)計(jì)算費(fèi)用,了解計(jì)費(fèi)機(jī)制有助于優(yōu)化成本效益。
其他值得注意的重要事項(xiàng):速率限制是在用戶級(jí)別而非密鑰級(jí)別上實(shí)施的,意識(shí)到這一點(diǎn)有助于避免不必要的服務(wù)中斷。
如果您正在尋找強(qiáng)大且多功能的Kimi chat API(kimi人工智能api)解決方案,您會(huì)發(fā)現(xiàn)這五個(gè)免費(fèi) API 項(xiàng)目非常有趣。每個(gè)項(xiàng)目都滿足不同的需求,確保適合各種應(yīng)用程序。下面詳細(xì)介紹每個(gè)項(xiàng)目提供的功能:
無(wú)論您的重點(diǎn)是改善用戶交互、生成內(nèi)容還是分析數(shù)據(jù),這些 API 項(xiàng)目都提供了提升應(yīng)用程序所需的功能。深入了解并探索它們的功能,找到最適合您需求的解決方案!
免費(fèi) API項(xiàng)目擁有一系列旨在優(yōu)化用戶體驗(yàn)的功能:
可以通過(guò)冪簡(jiǎn)集成-API HUB快速找到大量AI技術(shù)相關(guān)API,心儀的API可以在登錄后添加到個(gè)人書(shū)簽,便于下次使用快速查找。
在API詳情頁(yè)了解了API的基礎(chǔ)信息后,可以在服務(wù)商官網(wǎng)進(jìn)行開(kāi)戶和充值。
我們?cè)?API Key 管理頁(yè)面點(diǎn)擊「新建」創(chuàng)建一個(gè)新的 API Key,在創(chuàng)建好之后會(huì)生成一個(gè) key,大家要保存好它,因?yàn)橹徽宫F(xiàn)一次,如果沒(méi)記住那就只能刪除并重建了:
Kimi API接口用量限制:
1. 首先安裝 openai 庫(kù)
pip3 install openai
pip3 show openai 可以查看 openai 的版本. openai 的版本要大于 1.0
openai版本低于1.0會(huì)報(bào)錯(cuò)
/usr/local/bin/python3 /Users/larryzheng/Desktop/kimi_chat.py
localhost:~ larryzheng$ /usr/local/bin/python3 /Users/larryzheng/Desktop/kimi_chat.py
Traceback (most recent call last):
File "/Users/larryzheng/Desktop/kimi_chat.py", line 1, in <module>
from openai import OpenAI
ImportError: cannot import name 'OpenAI' from 'openai' (/usr/local/lib/python3.7/site-packages/openai/__init__.py)
localhost:~ larryzheng$ /usr/local/bin/python3 /Users/larryzheng/Desktop/kimi_chat.py
Traceback (most recent call last):
File "/Users/larryzheng/Desktop/kimi_chat.py", line 1, in <module>
from openai import OpenAI
ImportError: cannot import name 'OpenAI' from 'openai' (/usr/local/lib/python3.7/site-packages/openai/__init__.py)
升級(jí)一下openai庫(kù)
pip3 install --upgrade openai
2. 以一個(gè)簡(jiǎn)單的示例為例,來(lái)演示如何利用Python編寫(xiě)一個(gè)單輪對(duì)話的API接口,創(chuàng)建一個(gè)kimi_chat.py文件,其中 api_key 替換成自己申請(qǐng)的密鑰。代碼如下:
from openai import OpenAI
client = OpenAI(
api_key="sk-*********",
base_url="https://api.moonshot.cn/v1",
)
completion = client.chat.completions.create(
model="moonshot-v1-8k",
messages=[
{
"role": "system",
"content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅長(zhǎng)中文和英文的對(duì)話。你會(huì)為用戶提供安全,有幫助,準(zhǔn)確的回答。同時(shí),你會(huì)拒絕一切涉及恐怖主義,種族歧視,黃色暴力等問(wèn)題的回答。Moonshot AI 為專(zhuān)有名詞,不可翻譯成其他語(yǔ)言。"
},
{
"role": "user",
"content": "幫我生成一篇關(guān)于怎么使用Kimi API接口文檔的文章"
},
],
temperature=0.3,
)
answer = completion.choices[0].message
print("*" * 30)
print(answer)
3. 啟動(dòng)API服務(wù)
使用如下命令啟動(dòng)API服務(wù):
python kimi_chat.py
4. 返回內(nèi)容格式如下:
{
"id": "cmpl-04ea926191a14749b7f2c7a48a68abc6",
"object": "chat.completion",
"created": 1698999496,
"model": "moonshot-v1-8k",
"choices": [
{
"index": 0,
"message": {
"role": "assistant",
"content": " 你好,李雷!1+1等于2。如果你有其他問(wèn)題,請(qǐng)隨時(shí)提問(wèn)!"
},
"finish_reason": "stop"
}
],
"usage": {
"prompt_tokens": 19,
"completion_tokens": 21,
"total_tokens": 40
}
}
返回參數(shù)比較多,只獲取content這個(gè)字段即可
answer = completion.choices[0].message.content
print("*" * 30)
print(answer)
返回結(jié)果如下:
當(dāng)然可以,以下是一篇關(guān)于如何使用Kimi API接口的示例文檔:
---
# 如何使用Kimi API接口
## 簡(jiǎn)介
Kimi API是一個(gè)強(qiáng)大的接口,為用戶提供了與Moonshot AI交互的能力。通過(guò)Kimi API,開(kāi)發(fā)者可以創(chuàng)建應(yīng)用程序,實(shí)現(xiàn)與Kimi的對(duì)話、信息檢索、數(shù)據(jù)分析等功能。
## 準(zhǔn)備工作
在開(kāi)始使用Kimi API之前,請(qǐng)確保您已經(jīng)完成了以下步驟:
1. **注冊(cè)賬戶**:訪問(wèn)Moonshot AI的官方網(wǎng)站,注冊(cè)一個(gè)開(kāi)發(fā)者賬戶。
2. **獲取API密鑰**:在您的賬戶中生成一個(gè)API密鑰,這將用于在您的請(qǐng)求中驗(yàn)證身份。
3. **閱讀文檔**:仔細(xì)閱讀Kimi API的官方文檔,了解支持的功能和使用限制。
## 基本使用
### 1. 初始化請(qǐng)求
要使用Kimi API,您需要發(fā)送HTTP請(qǐng)求到指定的端點(diǎn)。以下是一個(gè)基本的請(qǐng)求示例:
```http
POST /api/v1/kimi
Host: api.moonshot.ai
Authorization: Bearer YOUR_API_KEY
Content-Type: application/json
{
"query": "你好,Kimi!"
}
```
### 2. 發(fā)送查詢
在請(qǐng)求體中,您可以包含一個(gè)query
字段,其中包含您想要Kimi回答的問(wèn)題或指令。
### 3. 接收響應(yīng)
Kimi API將返回一個(gè)JSON格式的響應(yīng),其中包含Kimi的回答:
```json
{
"response": "你好!有什么可以幫助你的嗎?",
"status": "success"
}
```
## 高級(jí)功能
### 多語(yǔ)言支持
Kimi API支持多種語(yǔ)言的交互。您可以通過(guò)在請(qǐng)求中指定language
字段來(lái)獲取不同語(yǔ)言的回答:
```json
{
"query": "你好,Kimi!",
"language": "zh-CN"
}
```
### 上下文管理
Kimi API支持上下文管理,這意味著Kimi可以記住之前的對(duì)話內(nèi)容。這對(duì)于創(chuàng)建更自然、連貫的對(duì)話體驗(yàn)非常有用。
### 數(shù)據(jù)分析
Kimi API還可以提供數(shù)據(jù)分析功能,幫助您理解用戶查詢的模式和趨勢(shì)。
## 安全和限制
- **API密鑰**:請(qǐng)確保您的API密鑰安全,不要在公共代碼庫(kù)或不安全的地方共享。
- **請(qǐng)求限制**:Kimi API可能有請(qǐng)求頻率和數(shù)據(jù)量的限制,請(qǐng)遵守這些限制以避免服務(wù)中斷。
- **數(shù)據(jù)隱私**:請(qǐng)遵守?cái)?shù)據(jù)隱私法規(guī),確保用戶數(shù)據(jù)的安全和保密。
## 結(jié)論
Kimi API為開(kāi)發(fā)者提供了一個(gè)強(qiáng)大的工具,以創(chuàng)建智能、交互式的應(yīng)用程序。通過(guò)遵循本文檔的指南,您可以開(kāi)始探索Kimi API的功能,并將其集成到您的項(xiàng)目中。
---
請(qǐng)注意,以上文檔是一個(gè)示例,實(shí)際的API使用可能會(huì)有所不同。您應(yīng)該參考Moonshot AI提供的官方文檔來(lái)獲取最準(zhǔn)確和最新的信息。
5. 單輪對(duì)話的例子中語(yǔ)言模型將用戶信息列表作為輸入,并將模型生成的信息作為輸出返回。 我們也可以將模型輸出的結(jié)果繼續(xù)作為輸入的一部分以實(shí)現(xiàn)多輪對(duì)話。下面是一個(gè)簡(jiǎn)單的示例,如何利用Python編寫(xiě)一個(gè)多輪對(duì)話的Kimi chat API接口,代碼如下:
from openai import OpenAI
client = OpenAI(
api_key = "sk-********",
base_url = "https://api.moonshot.cn/v1",
)
history = [
{"role": "system", "content": "你是 Kimi,由 Moonshot AI 提供的人工智能助手,你更擅長(zhǎng)中文和英文的對(duì)話。你會(huì)為用戶提供安全,有幫助,準(zhǔn)確的回答。同時(shí),你會(huì)拒絕一切涉及恐怖主義,種族歧視,黃色暴力等問(wèn)題的回答。Moonshot AI 為專(zhuān)有名詞,不可翻譯成其他語(yǔ)言。"}
]
def chat(query, history):
history.append({
"role": "user",
"content": query
})
completion = client.chat.completions.create(
model="moonshot-v1-8k",
messages=history,
temperature=0.3,
)
result = completion.choices[0].message.content
history.append({
"role": "assistant",
"content": result
})
return result
print(chat("我想要在北京預(yù)訂一家意大利餐廳?", history))
print(chat("推薦一家評(píng)價(jià)好的", history))
返回結(jié)果如下:
在北京預(yù)訂一家意大利餐廳是個(gè)不錯(cuò)的選擇,因?yàn)楸本┯泻芏鄡?yōu)質(zhì)的意大利餐廳。以下是一些步驟和建議,幫助你預(yù)訂:
1. **確定預(yù)算和口味**:首先,確定你愿意為這頓飯花費(fèi)多少錢(qián),以及你偏愛(ài)的意大利菜式,比如披薩、意面、海鮮等。
2. **在線搜索**:使用搜索引擎或美食預(yù)訂平臺(tái),如大眾點(diǎn)評(píng)、美團(tuán)、餓了么等,搜索“北京 意大利餐廳”,這些平臺(tái)通常會(huì)有用戶評(píng)價(jià)和推薦。
3. **查看評(píng)價(jià)**:閱讀餐廳的評(píng)價(jià)和評(píng)論,這可以幫助你了解餐廳的口碑和食物質(zhì)量。
4. **預(yù)訂方式**:一些餐廳可能提供在線預(yù)訂服務(wù),你可以通過(guò)它們的官網(wǎng)或者第三方平臺(tái)進(jìn)行預(yù)訂。如果沒(méi)有在線服務(wù),你可以嘗試直接打電話預(yù)訂。
5. **注意位置**:選擇一家地理位置方便的餐廳,特別是如果你計(jì)劃在特定活動(dòng)或場(chǎng)合后用餐。
6. **預(yù)訂時(shí)間**:如果你有特定的用餐時(shí)間,提前預(yù)訂可以確保你得到想要的座位。
7. **特殊要求**:如果你有飲食限制或過(guò)敏,請(qǐng)?jiān)陬A(yù)訂時(shí)告知餐廳,以便他們能夠滿足你的需求。
8. **確認(rèn)預(yù)訂**:在預(yù)訂后,確保收到確認(rèn)信息,并且在用餐前再次確認(rèn)預(yù)訂細(xì)節(jié)。
如果你需要具體的餐廳推薦,我可以幫你查找一些北京的意大利餐廳信息。
在北京,有幾家意大利餐廳因其美食和服務(wù)而備受好評(píng)。以下是一些建議:
1. **意庫(kù)意大利餐廳**:位于朝陽(yáng)區(qū),以其正宗的意大利風(fēng)味和優(yōu)雅的環(huán)境而聞名。
2. **意大利農(nóng)場(chǎng)**:位于順義區(qū),提供新鮮食材制作的意大利菜肴,環(huán)境舒適,適合家庭聚餐。
3. **La Mezzaluna 半月堂**:位于朝陽(yáng)區(qū),以精致的意大利美食和優(yōu)雅的就餐環(huán)境著稱(chēng)。
4. **Mammamia意大利餐廳**:位于朝陽(yáng)區(qū),以其地道的意大利風(fēng)味和熱情的服務(wù)受到食客的喜愛(ài)。
5. **AROMA**:位于朝陽(yáng)區(qū),除了意大利菜,還提供其他地中海風(fēng)味的菜肴,環(huán)境現(xiàn)代而舒適。
6. **Galleria美食藝術(shù)館**:位于朝陽(yáng)區(qū),提供多種意大利傳統(tǒng)美食,環(huán)境優(yōu)雅,適合約會(huì)或商務(wù)用餐。
7. **BOTTEGA意庫(kù)**:位于朝陽(yáng)區(qū),以其高品質(zhì)的食材和創(chuàng)新的意大利菜式受到好評(píng)。
請(qǐng)注意,餐廳的評(píng)價(jià)和人氣可能會(huì)隨時(shí)間而變化,建議在預(yù)訂前查看最新的顧客評(píng)價(jià)和餐廳信息。你可以通過(guò)美食平臺(tái)或者餐廳的官方網(wǎng)站來(lái)獲取最新的預(yù)訂信息和顧客反饋。
周六晚上是餐廳的高峰時(shí)段,因此提前預(yù)訂是明智的選擇。以下是一些在北京預(yù)訂意大利餐廳時(shí)可能需要考慮的因素:
1. **提前預(yù)訂**:由于是周末晚上,很多餐廳可能會(huì)比較忙,所以最好提前幾天進(jìn)行預(yù)訂。
2. **選擇餐廳**:根據(jù)前述推薦,你可以選擇一家評(píng)價(jià)好的意大利餐廳。
3. **預(yù)訂方式**:可以通過(guò)餐廳的官方網(wǎng)站、電話或者通過(guò)第三方預(yù)訂平臺(tái)進(jìn)行預(yù)訂。
4. **特別要求**:在預(yù)訂時(shí),可以告知餐廳是兩位用餐,并且是周六晚上,如果有特別的座位要求(比如靠窗、安靜角落等),也可以一并提出。
5. **確認(rèn)預(yù)訂**:在預(yù)訂后,確保收到餐廳的確認(rèn)信息,并且在用餐前一天再次確認(rèn)預(yù)訂細(xì)節(jié)。
6. **注意著裝**:一些高端餐廳可能有著裝要求,提前了解并做好準(zhǔn)備。
7. **交通和停車(chē)**:考慮到餐廳的位置,提前規(guī)劃好交通方式,如果開(kāi)車(chē)前往,了解是否有停車(chē)服務(wù)。
8. **預(yù)訂時(shí)間**:確定你的用餐時(shí)間,一些餐廳可能對(duì)預(yù)訂時(shí)間有限制。
如果你需要具體的幫助來(lái)預(yù)訂,可以告訴我,我可以幫你查找一些具體的餐廳信息和聯(lián)系方式。
更多相關(guān)內(nèi)容推薦:
?Kimi 的 API Key 使用指南:從零到智能應(yīng)用的高效集成
Kimi搜索的URL格式:全面指南與應(yīng)用實(shí)例
Kimi Chat API入門(mén)指南:從注冊(cè)到實(shí)現(xiàn)智能對(duì)話
?Kimi API提供聯(lián)網(wǎng)搜索功能,僅10分鐘獲取1000個(gè)網(wǎng)頁(yè)信息
對(duì)比大模型API的內(nèi)容創(chuàng)意新穎性、情感共鳴力、商業(yè)轉(zhuǎn)化潛力
一鍵對(duì)比試用API 限時(shí)免費(fèi)