Baseten是一家专注于高性能、安全和可靠的AI模型推理服务的公司,提供云或本地部署选项,支持快速、可扩展的推理能力。公司以开发者体验为中心,简化开发流程,加速产品从概念到部署的时间。Baseten的服务包括开源模型打包、一键部署模型、自动API封装、资源管理、日志和事件过滤、成本管理和可观测性工具,以及自动扩展功能,旨在帮助企业轻松管理AI模型的推理,确保模型始终可用、高效且成本效益。
- 总部:575 Sutter Street
- 成立年份: 2019
- 公司员工:11-50
BentoML是一个统一的推理平台,提供开源服务引擎,支持构建推理API、作业队列和复合AI系统。它以高性能、自动扩展和快速迭代为特点,帮助AI团队快速构建生产级别的AI系统,并支持在各种云平台上部署,确保模型和数据的安全。
- 总部:650 California St
- 成立年份: 2019
- 公司员工:11-50
Baseten主要用户来自美国,占比高达49.23%,其次是泰国和巴基斯坦,分别占比22.3%和5.16%,再次是俄罗斯联邦和日本,两个国家的占比如出一辙,分别为3.05%和1.99%。
BentoML主要用户来自美国,占比高达28.95%,其次是德国、印度和中国,占比分别是7.59%、7.85%和7.44%,法国占8.97%。