BentoML是一个统一的推理平台,提供开源服务引擎,支持构建推理API、作业队列和复合AI系统。它以高性能、自动扩展和快速迭代为特点,帮助AI团队快速构建生产级别的AI系统,并支持在各种云平台上部署,确保模型和数据的安全。
- 总部:650 California St
- 成立年份: 2019
- 公司员工:11-50
DKubeX 是一个专为企业级用户设计的私有AI平台,专注于大规模开源大型语言模型(LLMs)的微调和服务。它支持在本地或多云环境中安全地使用企业数据训练LLMs,提供模型性能和可靠性管理、安全LLM、LLM工具和LLMOps等产品功能,旨在帮助企业构建和部署高效的AI解决方案。
- 总部:1737 N 1st St
- 成立年份: 2008
- 公司员工:51-200
BentoML主要用户来自美国,占比高达28.95%,其次是德国、印度和中国,占比分别是7.59%、7.85%和7.44%,法国占8.97%。
DKube的主要用户来自印度,占比高达50.44%,其次是美国,占比为43.11%。澳大利亚占比6.45%。