二. Axiomic框架

Axiomic 是一個(gè)專注于多智能體協(xié)作的 AI 框架，其核心目標(biāo)是通過(guò)模塊化設(shè)計(jì)和開(kāi)源模型支持，簡(jiǎn)化復(fù)雜 AI 應(yīng)用的開(kāi)發(fā)過(guò)程。它與 Together API 深度集成，為開(kāi)發(fā)者提供靈活、高效的智能體構(gòu)建工具。

三. GEAR Chat演示

GEAR Chat 是 Axiomic 框架中的演示項(xiàng)目，展示了四個(gè)智能體協(xié)作工作：生成（Generate）、選舉（Elect）、創(chuàng)作（Author）和審查（Review）。每個(gè)智能體專注于特定任務(wù)，從而提升系統(tǒng)的可操控性和可靠性。

1. 多智能體架構(gòu)優(yōu)勢(shì)

相比單一推理方式，多智能體架構(gòu)具有以下優(yōu)勢(shì)：

a. 可操控性

每個(gè)智能體專注于特定任務(wù)，便于調(diào)試和優(yōu)化。

b. 可移植性

通過(guò)分解任務(wù)，可以靈活使用不同的模型，支持從小型開(kāi)源模型到大型閉源模型。

c. 可靠性

減少?gòu)?fù)雜提示的使用，降低模型誤解或偏差風(fēng)險(xiǎn)，提高整體系統(tǒng)穩(wěn)定性。

例如，將復(fù)雜提示拆分為多個(gè)智能體，可以使用較小開(kāi)源模型替代大型閉源模型，從而降低成本并提升靈活性。

2. 四個(gè)智能體的功能

1. 收集（Gather）：從聊天中提取關(guān)鍵信息，以結(jié)構(gòu)化方式報(bào)告，確保后續(xù)步驟聚焦于正確信息。
2. 選舉（Elect）：根據(jù)收集的信息決定下一步行動(dòng)，嚴(yán)格限定決策空間。
3. 創(chuàng)作（Author）：將選定的行動(dòng)轉(zhuǎn)化為用戶響應(yīng)，確保符合指令。
4. 審查（Review）：為創(chuàng)作智能體結(jié)果提供護(hù)欄，避免生成不合適內(nèi)容。

3. 動(dòng)態(tài)調(diào)整與多模型支持

GEAR Chat 的靈活性體現(xiàn)在：
只需更改提示文件（無(wú)需重新編碼），即可創(chuàng)建多種聊天智能體。這些智能體可運(yùn)行于多種模型上，支持從小型開(kāi)源模型到大型閉源模型的廣泛選擇。

四. 深度示例：發(fā)布到哪？聊天

GEAR Chat 的一個(gè)具體示例是“發(fā)布到哪？”，通過(guò)幽默方式幫助用戶決定社交媒體發(fā)布位置。每個(gè)智能體在該示例中的功能如下：

Elect 智能體示例代碼：

class ElectAgent:
    def __init__(self, elect_examples):
        self.examples = [(e.user, e.agent) for e in elect_examples]
        self.switch = axi.core.modules.Switch(self.examples)

    def infer(self, text):
        case_name = self.switch.infer(text).value_json()
        return case_name

在此示例中，Elect 智能體負(fù)責(zé)多類文本分類任務(wù)，借助 Together API 的多模型能力輕松評(píng)估性能。

五. Together AI上的Elect智能體評(píng)估

在 Axiomic 中，評(píng)估多個(gè)模型非常簡(jiǎn)單。示例代碼如下：

eval_model_list = [
    models.Together.Text.Llama3.llama_3_8b_hf,
    models.Together.Text.CodeLlama.codellama_70b_instruct_hf,
    models.Together.Text.Llama3.llama_3_70b_chat_hf,
    # ... 更多模型 ...
]

for model in eval_model_list:
    with model:
        print(evaluate_elect_agent(chat, elect_eval_examples))

通過(guò)這種方式，開(kāi)發(fā)者可快速比較不同模型性能，根據(jù)預(yù)算和質(zhì)量需求選擇最適合的模型。

1. 評(píng)估結(jié)果

實(shí)際評(píng)估顯示，不同模型在 Elect 智能體任務(wù)上的表現(xiàn)差異顯著。參數(shù)規(guī)模從 34B 到 72B 的模型表現(xiàn)優(yōu)異，而小型模型（如 Llama-3-8B）也展現(xiàn)出出色性能。靈活性允許開(kāi)發(fā)者根據(jù)實(shí)際需求選擇合適模型。

六. 展望未來(lái)

Axiomic 與 Together API 的結(jié)合展示了開(kāi)源 AI 生態(tài)系統(tǒng)的巨大潛力。通過(guò)模塊化、多智能體設(shè)計(jì)，開(kāi)發(fā)者能夠高效構(gòu)建復(fù)雜 AI 應(yīng)用。未來(lái)，隨著工具生態(tài)系統(tǒng)完善，我們期待更多創(chuàng)新的多步驟 AI 應(yīng)用落地。

原文鏈接: https://www.together.ai/blog/axiomatic-agents