together API 服务商

Together平台的Fine-tuning API引入了长上下文训练和对话数据支持，显著提升了Llama 3.1模型在处理大型文档和复杂数据输入方面的能力。通过优化训练流程和支持验证数据集，该API不仅提高了模型性能，还降低了推理成本。此外，新增的对话与指令数据格式支持简化了开发者的工作流程，特别适合开发聊天机器人和虚拟助手。

Together AI通过FlexGen批处理技术和FlashAttention-2算法等创新，显著提升了推理性能，实现了最高5倍的价格降低。平台支持超过50个开源模型的推理服务，包括RedPajama、Llama 2和Falcon等，提供灵活的按需计费方式，有效降低用户成本。

本文介绍了如何使用Axiomic框架结合Together API构建多代理聊天功能，特别是通过GEAR Chat演示展示了四个智能体如何协同工作。Axiomic作为一个专注于多智能体协作的AI框架，通过模块化设计和开源模型的支持，简化了复杂AI应用的开发过程。GEAR Chat演示展示了智能体的灵活性，支持从小型开源模型到大型闭源模型的广泛选择，并通过具体示例“发布到哪？”展示了智能体的实际应用。

Together AI 推出了 Together Rerank API 和独家访问 LlamaRank，这是由 Salesforce AI Research 开发的先进重排序模型，旨在提升企业搜索和 RAG 系统的信息检索准确性和效率。LlamaRank 的性能超越了 Cohere Rerank v3 和 Mistral-7B QLM，为开发者提供了在生成式 AI 生命周期管理中优化文档排序的能力。

Together AI推出的Mistral Small 3是一款240亿参数的开源小型AI模型，提供媲美GPT-4o mini级别的性能，旨在通过更小的体量降低运行成本并提升响应速度。它采用Apache 2.0许可证，完全开源且适合商业用途，支持混合模型部署策略，适用于客服机器人等应用场景。Together AI提供Serverless和专用GPU端点两种部署方案，满足不同开发需求。