Azure OpenAI：提示和响应的实际成本是多少？

随着企业越来越多地利用人工智能（AI）来优化运营，了解相关成本变得至关重要。特别是在采用 Azure OpenAI 服务时，提示和响应的成本是一个关键的考虑因素。本文将深入探讨这些成本的构成及其对预算的影响。

Azure OpenAI 利用大型语言模型（LLM），尤其是 OpenAI 的 GPT 模型，为各种场景（通常称为生成式 AI，Gen-AI）提供高质量、多样化的输出。用户可以通过简单灵活的 API 将文本生成功能集成到应用程序中。通过提供提示（如问题、主题或句子），Azure OpenAI 能够生成相关、连贯且富有创造性的自然语言响应。其应用场景包括内容创作、数据增强、对话式 AI、摘要生成和问答等。

Azure OpenAI 的文本生成成本解析

Azure OpenAI 的成本主要取决于所消耗的令牌类型。使用 GPT 模型时，成本由以下三个因素决定：

嵌入令牌：将输入文本（如文档）转换为向量表示时使用，通常用于创建 AI 索引。
输入令牌：在向模型提供文本以生成或完成任务时使用（即提示）。
输出令牌：从模型接收文本作为响应或延续时使用。

本文将重点讨论输入和输出令牌的成本。有关嵌入令牌的更多信息，请参考相关文档。

输入/输出令牌的成本计算

每个令牌大约对应四个字符的文本，消耗的令牌数量取决于输入和输出文本的长度及复杂性。每个令牌的成本因模型类型和服务级别而异。以下是当前各 GPT 模型的成本概况：

GPT模型成本概况

示例分析：Azure OpenAI 的实际成本

以下示例展示了使用 Azure OpenAI 的实际成本，帮助用户更好地理解提示和响应的费用。

示例 1：回答公司保险责任问题

假设我们已为一系列包含公司信息的文档建立了索引，用于回答员工问题或外部询问。

问题：我们有多少保险责任？

成本：$0.17

说明：
在此示例中，输入令牌的总量约为 17,000 个，而输出令牌仅约为 125 个。输入成本为 $0.17，而输出成本为 $0.00。尽管输出字符数是输入的 10 倍，但由于输入令牌包含用户提示、系统提示、历史记录和索引内容块，导致输入成本较高。

每日成本估算：假设用户每天提问 5 次，每月成本约为 $18.42。

示例 2：生成关于法规变更的详细报告

假设我们已对与美国证券交易委员会（SEC）拟议法规变更相关的评论文件建立了索引。

问题：关于“加强和规范投资者与气候有关的披露”，请提供一份详细报告，列出至少 10 个支持和 10 个反对的论点，并引用相关判例法。

成本：$0.46

说明：
在此示例中，提示令牌的总量约为 43,000 个，而响应令牌为 4,500 个。输入和输出的综合成本为 $0.46。

每日成本估算：如果用户每天提问 5 次，每月成本约为 $49.83。

示例 3：切换到 GPT-4 模型的成本对比

在类似示例 2 的场景下，切换到 GPT-4 模型，并移除历史记录。

问题：关于文件编号 S7-10-22，支持和反对的主要论点和意见是什么？

成本：$0.81

说明：
由于 GPT-4 模型的单位令牌成本较高，总成本为 $0.81。提示令牌数量约为 11,200。

每日成本估算：如果用户每天提问 5 次，每月成本约为 $87.85。

如何选择适合的模型？

选择哪种 GPT 模型取决于具体需求、预算和性能要求。以下是一些决策参考：

目标和用途：明确项目的目标和需要生成的响应类型。
复杂性和创造性：复杂的任务建议使用 GPT-4 或 GPT-4 Turbo。
预算限制：根据预算选择性价比最高的模型。
响应质量和速度：GPT-3.5 Turbo 提供快速但较简单的响应，而 GPT-4 提供更丰富的答案。
替代方案：如果任务可以通过搜索工具完成，则无需使用生成式 AI。

结论

了解 Azure OpenAI 提示和响应的实际成本对于有效管理 AI 预算至关重要。通过优化提示设计、监控使用情况以及选择合适的模型，企业可以在控制成本的同时，充分利用 Azure OpenAI 的强大功能。

原文链接: https://www.clearpeople.com/blog/what-are-the-real-costs-for-generating-prompts-and-responses-in-azure-openai