千帆大模型-百度智能云
專用API
【更新時間: 2024.06.25】
百度智能云千帆大模型平臺是面向企業開發者的一站式大模型開發及服務運行平臺。千帆不僅提供了包括文心一言底層模型和第三方開源大模型,還提供了各種AI開發工具和整套開發環境,方便客戶輕松使用和開發大模型應用。
|
瀏覽次數
787
采購人數
20
試用次數
15
試用
收藏
×
完成
取消
×
書簽名稱
確定
|
- API詳情
- 定價
- 使用指南
- 常見 FAQ
- 關于我們
- 相關推薦


什么是百度智能云的千帆大模型?
"百度智能云千帆大模型"是百度智能云平臺上提供的一個大模型服務體系,它集成了多種先進的預訓練語言模型和AI技術,旨在為企業和個人開發者提供強大的人工智能解決方案。這些模型包括但不限于基于Llama2架構的中文增強版本、ERNIE系列的旗艦級模型以及其他由百度自研或基于開源框架優化的高性能模型。
千帆平臺上的千帆SDK不僅支持中英雙語,覆蓋廣泛的應用場景如對話問答、創作生成、代碼生成等,而且部分模型針對特定需求進行了優化,如壓縮加速、指令微調等,以適應不同資源條件下的部署和使用需求。為了進一步簡化開發流程和提高效率,百度智能云還推出了“千帆SDK”,使得企業和個人開發者能夠更加便捷地調用和集成這些大模型。
用戶可以通過千帆SDK平臺進行模型的選擇、訓練調優及部署調用,以實現對復雜任務的支持和高效處理。同時,通過使用“千帆SDK”,開發者可以在自己的應用中快速集成千帆大模型的能力,無論是在本地還是云端部署,都能夠輕松實現。
此外,千帆SDK還提供了豐富的API和工具,幫助開發者進行模型的訓練、管理和優化。開發者可以利用這些工具,結合千帆大模型平臺的模型,構建出更加智能和強大的應用程序。通過千帆SDK,百度智能云希望能夠賦能更多的開發者,推動人工智能技術的創新和應用。
什么是百度智能云的千帆大模型接口?
百度智能云的千帆大模型有哪些核心功能?
- 行業領先文心大模型: 千帆SDK預置全系列文心大模型與上百個精選第三方模型,覆蓋廣泛行業場景。
- 高效易用的AI原生應用開發服務: 企業級Agent、RAG應用開發平臺,易上手零代碼三步完成應用創建分發,代碼態開源API/SDK,支持高效二開零代碼搭建,開源API/SDK高效二開。
- 開放先進的大模型服務開發全流程: 文心大模型企業級服務唯一入口,提供高可用及高效價比的生成式AI服務及全流程模型開發工具鏈。
- 數據管理: 千帆SDK數據集管理統一納管自訓練模型的數據集,并支持自主版本迭代、數據查看、導入導出和刪除等操作。數據標注支持在線智能標注確保標注效率與質量;支持多人標注,實現大規模標注中的團隊協作。數據處理支持數據清洗、數據增強、數據生成,提升數據質量。
- 模型開發: 千帆SDK全功能開發提供Notebook建模、作業建模、可視化建模等模型訓練方法;提供特征庫,實現特征共享和復用。零代碼開發提供EasyDL圖像、文本、語音、視頻、結構化數據、場景建模等工具。大模型開發提供專屬大模型開發工具,支持SFT全量更新、LoRA、Post-pretrain等訓練方法。
- 模型管理: 千帆SDK模型管理支持導入與管理模型文件,支持模型部署包管理。模型評估支持模型評估,對比模型效果指標從而選擇最佳模型進行部署或重訓。模型加速支持多種推理優化工具,包括量化壓縮、智能加速等
百度智能云的千帆大模型的核心優勢是什么?
- 行業領先文心大模型: 千帆SDK預置全系列文心大模型與上百個精選第三方模型,覆蓋廣泛行業場景,提供強大的語言理解和生成能力。
- 高效易用的AI原生應用開發服務: 企業級Agent、RAG應用開發平臺,易上手零代碼三步完成應用創建分發,代碼態開源API/SDK,支持高效二開零代碼搭建,開源API/SDK高效二開。
- 開放先進的大模型服務開發全流程: 文心大模型企業級服務唯一入口,提供高可用及高效價比的生成式AI服務及全流程模型開發工具鏈,包括數據管理、模型訓練、高效推理、靈活部署至應用集成。
- 數據安全全面升級: 在數據安全方面,千帆SDK平臺2.0構建了全面的安全保障體系,為不同模型廠商設計了可信的專用隔離域,重點保護模型資產安全,并提供從模型、數據到日志的全鏈路加密功能
在哪些場景會用到百度智能云的千帆大模型?
1.數字政府領域: 百度智能云基于千帆大模型平臺2.0重構了數字政府解決方案,如“九州”解決方案,讓城市管理者能夠更加高效地處理政務事務,實現快速治理、高效辦公、便捷辦事。在代碼生成、數據報表、內容分析等深度學習的文本場景中,千帆大模型平臺能夠快速生成可執行的代碼,或者結合平臺的多種數據生成匹配度更高的應答內容
2.金融領域: 在金融領域,“開元”解決方案幫助金融分析師從繁瑣的數據處理工作中解放出來,專注于業務分析,提高了金融服務的效率和準確性。這一解決方案能夠自動化處理大量復雜的數據,從而讓分析師從日常繁瑣的數據整理工作中解放出來,使他們能夠將更多的時間和精力投入到深入的業務分析和策略制定中。這樣的轉變不僅提高了金融服務的效率,還通過更精準的數據分析增強了決策的準確性,為金融行業帶來了革命性的進步。
3.工業領域: 重構后的“開物”解決方案不僅能夠幫助企業快速構建產線智能應用,還能通過自然語言交互方式輔助管理者進行決策,推動了工業生產的智能化升級。在代碼生成、數據報表、內容分析等深度學習的文本場景中,千帆大模型平臺能夠快速生成可執行的代碼,或者結合平臺的多種數據生成匹配度更高的應答內容
4.交通領域: ACE 3.0利用了大模型強大的知識壓縮能力,將車、路、云、圖的基本能力和交通全要素進行了聚合和泛化升級,打造了交通大模型。在高速公路夜間低照度場景下,一體機能夠高效地對道路上遺撒物、障礙物等目標物完成拍攝和檢測,極大提升道路交通的安全性和通行效率。這一終端采用AIGC-ISP技術,實現了交通感知“大模型后臺”和“模型小型化”技術突破。


千帆大模型平臺預置推理服務支持多種靈活的計費方式,整體可以分為:
- 按Tokens用量計費:根據實際接口調用產生的tokens數量以及單價進行計費,不同預置服務tokens調用單價不同。
a. Tokens按量后付費:默認計費方式。
b. Tokens資源包付費:用戶提前購買Tokens資源包,優先消耗Tokens資源包當中的tokens余量。購買的Tokens資源包越大,折扣越大。為保障服務調用的穩定性與連續性,Tokens資源包用完以后自動切換至Tokens按量后付費模式。ERNIE 4.0系列和ERNIE 3.5系列資源包支持同系列模型不同版本共享。
- 按TPM配額計費:與Tokens用量付費互斥,不可同時存在,TPM&RPM配額付費到期(預付費配額到期)或終止(后付費人工終止)以后,為保障服務調用的穩定性與連續性,會自動切換至Tokens按量后付費模式。根據實際購買/使用的配額時長以及單價進行收費,不同預置服務TPM&RPM配額單價不同。在配額范圍內的請求,不再收取tokens用量費用。超過配額范圍外的請求會失敗,需要用戶增購配額。針對Tokens用量計費模式速率不滿足業務的場景,可以通過TPM&RPM配額計費模式支持。
a. TPM配額預付費:針對有穩定Tokens用量的客戶,購買TPM預付費配額更加經濟實惠。
b. TPM配額后付費:可以在TPM預付費配額的基礎上,再增購TPM&RPM后付費配額,以應對短時間的峰值流量。
不論是Tokens用量付費還是TPM&RPM配額付費,都存在接口調用速率限制。速率限制包含QPS和TPM的形式,旨在限制單位時間段內用戶訪問推理API的次數和消耗的tokens數,詳細說明參考千帆大模型平臺流量限制說明。


前提條件
要使用百度千帆大模型平臺,首先需要注冊成為百度智能云用戶。
首先讓我們用5分鐘來注冊百度智能云賬號(如您已經是開發者,可直接登錄使用),關于平臺計費標準可查看價格說明。
SDK快速使用
本文主要介紹如何快速開啟平臺前端快速使用平臺的流程與步驟,關于千帆大模型的SDK快速上手流程,您可參考SDK快速入門。
流程說明
千帆大模型平臺覆蓋從數據管理、數據標注、模型開發、模型納管、部署上線的AI能力研發與應用全生命周期建設和管理。接入文心大模型算法和開放第三方業內知名的模型算法,降低全流程AI開發門檻。
平臺支持SFT,準備內容可參考SFT快速調優。
實現步驟
在您完成注冊后,可以登錄到千帆大模型操作臺,只要以下6個步驟即可快速完成大模型定制及測試效果的全過程。
數據導入-> 數據標注-> 訓練配置-> 模型納管-> 發布服務-> 體驗測試
詳情參考地址:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/qlgujhcpo




安全合規可信的云服務 |
||||


千帆大模型平臺預置推理服務支持多種靈活的計費方式,整體可以分為:
- 按Tokens用量計費:根據實際接口調用產生的tokens數量以及單價進行計費,不同預置服務tokens調用單價不同。
a. Tokens按量后付費:默認計費方式。
b. Tokens資源包付費:用戶提前購買Tokens資源包,優先消耗Tokens資源包當中的tokens余量。購買的Tokens資源包越大,折扣越大。為保障服務調用的穩定性與連續性,Tokens資源包用完以后自動切換至Tokens按量后付費模式。ERNIE 4.0系列和ERNIE 3.5系列資源包支持同系列模型不同版本共享。
- 按TPM配額計費:與Tokens用量付費互斥,不可同時存在,TPM&RPM配額付費到期(預付費配額到期)或終止(后付費人工終止)以后,為保障服務調用的穩定性與連續性,會自動切換至Tokens按量后付費模式。根據實際購買/使用的配額時長以及單價進行收費,不同預置服務TPM&RPM配額單價不同。在配額范圍內的請求,不再收取tokens用量費用。超過配額范圍外的請求會失敗,需要用戶增購配額。針對Tokens用量計費模式速率不滿足業務的場景,可以通過TPM&RPM配額計費模式支持。
a. TPM配額預付費:針對有穩定Tokens用量的客戶,購買TPM預付費配額更加經濟實惠。
b. TPM配額后付費:可以在TPM預付費配額的基礎上,再增購TPM&RPM后付費配額,以應對短時間的峰值流量。
不論是Tokens用量付費還是TPM&RPM配額付費,都存在接口調用速率限制。速率限制包含QPS和TPM的形式,旨在限制單位時間段內用戶訪問推理API的次數和消耗的tokens數,詳細說明參考千帆大模型平臺流量限制說明。


前提條件
要使用百度千帆大模型平臺,首先需要注冊成為百度智能云用戶。
首先讓我們用5分鐘來注冊百度智能云賬號(如您已經是開發者,可直接登錄使用),關于平臺計費標準可查看價格說明。
SDK快速使用
本文主要介紹如何快速開啟平臺前端快速使用平臺的流程與步驟,關于千帆大模型的SDK快速上手流程,您可參考SDK快速入門。
流程說明
千帆大模型平臺覆蓋從數據管理、數據標注、模型開發、模型納管、部署上線的AI能力研發與應用全生命周期建設和管理。接入文心大模型算法和開放第三方業內知名的模型算法,降低全流程AI開發門檻。
平臺支持SFT,準備內容可參考SFT快速調優。
實現步驟
在您完成注冊后,可以登錄到千帆大模型操作臺,只要以下6個步驟即可快速完成大模型定制及測試效果的全過程。
數據導入-> 數據標注-> 訓練配置-> 模型納管-> 發布服務-> 體驗測試
詳情參考地址:https://cloud.baidu.com/doc/WENXINWORKSHOP/s/qlgujhcpo






安全合規可信的云服務 |
||||


|
|
|
|
|
|
|
|
|
|
|
|