BentoML是一个统一的推理平台,提供开源服务引擎,支持构建推理API、作业队列和复合AI系统。它以高性能、自动扩展和快速迭代为特点,帮助AI团队快速构建生产级别的AI系统,并支持在各种云平台上部署,确保模型和数据的安全。
- 总部:650 California St
- 成立年份: 2019
- 公司员工:11-50
TrueFoundry是一个智能AI平台,专注于构建复合AI系统。公司提供将用户需求转换为最优基础设施配置的服务,支持云、硬件和性能需求的定制。主营业务包括快速迭代、高性能模型训练与服务、成本优化、统一部署、LLM模型部署与微调、训练作业与批量推理管理、Jupyter Notebook与SSH服务器支持、向量数据库与应用集、灵活的代码支持等。
- 总部:355 Bryant St
- 成立年份: 2021
- 公司员工:11-50
BentoML主要用户来自美国,占比高达28.95%,其次是德国、印度和中国,占比分别是7.59%、7.85%和7.44%,法国占8.97%。
TrueFoundry主要用户来自印度,占比高达26.29%,其次是美国和韩国,占比分别是22.41%和12.24%,越南和瑞典并列第四,占比分别是10.45%和4.86%。