JFrog ML（原Qwak）是一個AI平臺，提供從構(gòu)想到大規(guī)模部署的AI應用交付服務。它支持構(gòu)建、部署、管理和監(jiān)控各種AI工作流，包括GenAI、LLMs和傳統(tǒng)ML。平臺提供統(tǒng)一的MLOps解決方案，包括模型管理、一鍵式訓練、大規(guī)模部署、實時監(jiān)控、提示管理、LLM優(yōu)化部署、復雜工作流構(gòu)建和LLM請求追蹤等功能，旨在簡化AI/ML生命周期管理，提高團隊協(xié)作效率。

Velvet 是一個為工程師設計的人工智能（AI）網(wǎng)關，專注于在生產(chǎn)環(huán)境中使用大型語言模型（LLM）。它通過將請求存儲到您控制的數(shù)據(jù)庫中，幫助您分析、評估和監(jiān)控AI功能。Velvet 提供了數(shù)據(jù)互操作性、細粒度分析、智能緩存、實驗運行、持續(xù)監(jiān)控和數(shù)據(jù)集生成等功能，以優(yōu)化成本、提高效率并支持模型的微調(diào)。

DKubeX 是一個專為企業(yè)級用戶設計的私有AI平臺，專注于大規(guī)模開源大型語言模型（LLMs）的微調(diào)和服務。它支持在本地或多云環(huán)境中安全地使用企業(yè)數(shù)據(jù)訓練LLMs，提供模型性能和可靠性管理、安全LLM、LLM工具和LLMOps等產(chǎn)品功能，旨在幫助企業(yè)構(gòu)建和部署高效的AI解決方案。

TrueFoundry是一個智能AI平臺，專注于構(gòu)建復合AI系統(tǒng)。公司提供將用戶需求轉(zhuǎn)換為最優(yōu)基礎設施配置的服務，支持云、硬件和性能需求的定制。主營業(yè)務包括快速迭代、高性能模型訓練與服務、成本優(yōu)化、統(tǒng)一部署、LLM模型部署與微調(diào)、訓練作業(yè)與批量推理管理、Jupyter Notebook與SSH服務器支持、向量數(shù)據(jù)庫與應用集、靈活的代碼支持等。

Baseten是一家專注于高性能、安全和可靠的AI模型推理服務的公司，提供云或本地部署選項，支持快速、可擴展的推理能力。公司以開發(fā)者體驗為中心，簡化開發(fā)流程，加速產(chǎn)品從概念到部署的時間。Baseten的服務包括開源模型打包、一鍵部署模型、自動API封裝、資源管理、日志和事件過濾、成本管理和可觀測性工具，以及自動擴展功能，旨在幫助企業(yè)輕松管理AI模型的推理，確保模型始終可用、高效且成本效益。

Lunary 是一個 AI 開發(fā)者平臺，專注于管理和提升大型語言模型（LLM）聊天機器人。平臺提供用戶聊天回放、安全合規(guī)、數(shù)據(jù)增強、智能決策等功能，支持自托管、LLM 防火墻、訪問管理等安全特性，同時提供多語言理解和即時搜索等增值服務。Lunary 的核心平臺完全開源，致力于幫助團隊快速部署并優(yōu)化他們的 AI 聊天機器人。

Comet是一個為人工智能開發(fā)者提供的端到端模型評估平臺，提供業(yè)界領先的大型語言模型（LLM）評估、實驗跟蹤和生產(chǎn)監(jiān)控服務。

Wallaroo.AI 是一個AI推理平臺，支持任何模型、任何硬件、任何地點的AI部署。它提供快速、即插即用的推理微服務，無需復雜的工程操作，即可在CPU或GPU上部署，適用于任何云或邊緣環(huán)境。Wallaroo.AI 旨在幫助AI團隊消除部署、監(jiān)控和管理AI模型中的常見瓶頸，實現(xiàn)更快速的AI生產(chǎn)部署，支持更多的AI部署，并通過高效的資源利用和自動化降低部署成本。