BentoML是一个统一的推理平台,提供开源服务引擎,支持构建推理API、作业队列和复合AI系统。它以高性能、自动扩展和快速迭代为特点,帮助AI团队快速构建生产级别的AI系统,并支持在各种云平台上部署,确保模型和数据的安全。
- 总部:650 California St
- 成立年份: 2019
- 公司员工:11-50
TrueFoundry是一个智能AI平台,专注于构建复合AI系统。公司提供将用户需求转换为最优基础设施配置的服务,支持云、硬件和性能需求的定制。主营业务包括快速迭代、高性能模型训练与服务、成本优化、统一部署、LLM模型部署与微调、训练作业与批量推理管理、Jupyter Notebook与SSH服务器支持、向量数据库与应用集、灵活的代码支持等。
- 总部:355 Bryant St
- 成立年份: 2021
- 公司员工:11-50
BentoML主要用户来自印度,占比高达25.78%,其次是美国,占比22.45%,和法国,法国占比6.12%;中国和俄罗斯联邦分别以5.29%、3.31%的比重紧随其后
TrueFoundry主要用户来自美国和印度,占比高达28.35%和25.81%,其次是越南、中国和英国,占比分别是6.11%、5.07%和4.04%。