LiteLLM 是一个统一的 API 网关,提供对 Azure OpenAI、Vertex AI、Bedrock 和 OpenAI 等 100+ 大型语言模型(LLM)的集成管理。它支持身份验证、负载均衡和花费跟踪,所有服务均以 OpenAI 格式提供。LiteLLM 提供开源和企业级解决方案,包括虚拟密钥、预算管理、团队协作等功能,并提供 Prometheus 监控和企业级支持。
- 总部:N/A
- 成立年份: N/A
- 公司员工:N/A
- 前往主页→
PromptLayer是一个为企业提供提示管理、提示评估和大型语言模型可观察性的平台。它支持视觉编辑、A/B测试、部署提示,并允许非技术团队独立迭代AI功能,节省工程时间和成本。
- 总部:N/A
- 成立年份: N/A
- 公司员工:N/A
- 前往主页→
litellm网站主要用户来自美国,占比高达23.86%,其次是中国、印度,占比分别是15.12%、6.95%,德国和俄罗斯联邦并列第四,占比分别是4.86%和4.77%。
主要用户来自美国,占比高达25.7%,其次是印度17.69%、荷兰6.7%、中国和德国争夺第四名分别为5.69%和3.74%。