Wallaroo.AI 是一個AI推理平臺，支持任何模型、任何硬件、任何地點(diǎn)的AI部署。它提供快速、即插即用的推理微服務(wù)，無需復(fù)雜的工程操作，即可在CPU或GPU上部署，適用于任何云或邊緣環(huán)境。Wallaroo.AI 旨在幫助AI團(tuán)隊(duì)消除部署、監(jiān)控和管理AI模型中的常見瓶頸，實(shí)現(xiàn)更快速的AI生產(chǎn)部署，支持更多的AI部署，并通過高效的資源利用和自動化降低部署成本。

JFrog ML（原Qwak）是一個AI平臺，提供從構(gòu)想到大規(guī)模部署的AI應(yīng)用交付服務(wù)。它支持構(gòu)建、部署、管理和監(jiān)控各種AI工作流，包括GenAI、LLMs和傳統(tǒng)ML。平臺提供統(tǒng)一的MLOps解決方案，包括模型管理、一鍵式訓(xùn)練、大規(guī)模部署、實(shí)時監(jiān)控、提示管理、LLM優(yōu)化部署、復(fù)雜工作流構(gòu)建和LLM請求追蹤等功能，旨在簡化AI/ML生命周期管理，提高團(tuán)隊(duì)協(xié)作效率。

Velvet 是一個為工程師設(shè)計(jì)的人工智能（AI）網(wǎng)關(guān)，專注于在生產(chǎn)環(huán)境中使用大型語言模型（LLM）。它通過將請求存儲到您控制的數(shù)據(jù)庫中，幫助您分析、評估和監(jiān)控AI功能。Velvet 提供了數(shù)據(jù)互操作性、細(xì)粒度分析、智能緩存、實(shí)驗(yàn)運(yùn)行、持續(xù)監(jiān)控和數(shù)據(jù)集生成等功能，以優(yōu)化成本、提高效率并支持模型的微調(diào)。

Arthur是業(yè)界領(lǐng)先的AI代理平臺，簡化了傳統(tǒng)和生成性AI模型的部署、監(jiān)控和管理，確保企業(yè)級的可擴(kuò)展性、安全性、合規(guī)性和效率。平臺提供模型和平臺無關(guān)的監(jiān)控，支持從經(jīng)典表格和計(jì)算機(jī)視覺到強(qiáng)大的大型語言模型（如OpenAI、sci-kit、PyTorch、Hugging Face等）。Arthur還提供模型風(fēng)險管理、靈活集成和安全合規(guī)性，幫助企業(yè)避免基于模型錯誤的決策帶來的不利后果。

Abacus.AI 是全球首個AI輔助的端到端數(shù)據(jù)科學(xué)和MLOps平臺，提供先進(jìn)的生成式AI技術(shù)，為個人、小團(tuán)隊(duì)和企業(yè)提供包括ChatLLM、AI Agents、預(yù)測建模、異常檢測、視覺AI等在內(nèi)的全方位解決方案，助力企業(yè)構(gòu)建企業(yè)級應(yīng)用AI系統(tǒng)和代理，驅(qū)動ROI增長。

Baseten是一家專注于高性能、安全和可靠的AI模型推理服務(wù)的公司，提供云或本地部署選項(xiàng)，支持快速、可擴(kuò)展的推理能力。公司以開發(fā)者體驗(yàn)為中心，簡化開發(fā)流程，加速產(chǎn)品從概念到部署的時間。Baseten的服務(wù)包括開源模型打包、一鍵部署模型、自動API封裝、資源管理、日志和事件過濾、成本管理和可觀測性工具，以及自動擴(kuò)展功能，旨在幫助企業(yè)輕松管理AI模型的推理，確保模型始終可用、高效且成本效益。

BentoML是一個統(tǒng)一的推理平臺，提供開源服務(wù)引擎，支持構(gòu)建推理API、作業(yè)隊(duì)列和復(fù)合AI系統(tǒng)。它以高性能、自動擴(kuò)展和快速迭代為特點(diǎn)，幫助AI團(tuán)隊(duì)快速構(gòu)建生產(chǎn)級別的AI系統(tǒng)，并支持在各種云平臺上部署，確保模型和數(shù)據(jù)的安全。

Clear.ml 提供數(shù)據(jù)管理和機(jī)器學(xué)習(xí)模型生命周期管理服務(wù)，專注于提高數(shù)據(jù)科學(xué)項(xiàng)目的透明度和可追溯性，幫助企業(yè)優(yōu)化數(shù)據(jù)驅(qū)動決策。