与OpenAI API的使用条款

在使用OpenAI API时，用户需要遵守一系列条款和条件，这些条款旨在确保模型的安全性、合法性和公平性。以下是一些关键条款的解读和相关注意事项。

禁止试图窃取模型

用户需明确同意不尝试窃取或逆向工程模型的底层组件：

（d）您不会使用APIs来发现我们的模型、算法和系统的任何底层组件，例如通过logits克隆来过滤我们模型的权重。

这一条款旨在保护OpenAI的知识产权，防止未经授权的复制或模仿行为。

禁止数据抓取和提取

用户不得通过网络抓取等方式从API中提取数据：

（e）您不得使用网络抓取、网络获取或网络数据提取方法从APIs、内容或OpenAI或其附属公司的软件、模型或系统中提取数据。

此条款确保API数据的合法使用，防止未经授权的滥用行为。

降低社会危害的可能性

用户需尽合理努力降低应用程序可能引发的社会危害：

（i）您将通过遵循提供的安全最佳实践，尽合理努力降低您的应用程序造成的任何社会危害的可能性、严重性和规模。

安全最佳实践

像对手一样思考：模拟潜在威胁，预判可能的风险。
过滤敏感内容：使用OpenAI提供的内容过滤器，确保不安全内容被屏蔽。
人类监督：在关键场景中引入人类监督，确保AI输出的可靠性。

此外，用户需清楚说明AI在应用程序中的功能与人类操作的区别，特别是在用户初次交互时。

理解安全与风险

根据条款，安全的定义被扩展为：

“免于死亡、受伤、职业病、设备或财产的损坏或损失或环境损害。”

机器学习组件的局限性

鲁棒性有限：模型仅在输入与训练数据相似时表现良好。
易受攻击：开放式ML系统容易受到恶意输入的影响。

这些问题提醒用户，AI系统并非完美，可能会因训练数据的偏见或恶意操作而产生意外行为。

偏见与公平性

机器学习模型不可避免地会反映训练数据和开发者的价值观与偏见：

ML(机器学习)组件是有偏见的，并且“组件反映了训练数据中存在的价值观和偏见，以及他们的开发人员的价值观”。

潜在危害

虚假信息：系统可能提供不准确或误导性的信息。
歧视性态度：可能影响用户的信念或行为。
个人痛苦：例如鼓励不健康的行为或损害自尊。
煽动暴力：可能导致用户对他人或群体采取暴力行为。

为减少这些风险，API客户需采取措施识别并减少偏见相关的危害，并在部署前评估公平性风险。

稳健性与人工监督

稳健性指系统在预期环境中的可靠性，但API可能因以下原因出现问题：

生成与上下文无关的文本。
因知识差距生成不准确的内容。
对文本的分类不准确。

为此，建议用户：

鼓励人工监督：在传播API输出前仔细审查。
持续测试：确保系统性能符合预期。

公平性与责任

公平性要求API不得基于用户的人口统计数据降低性能：

“API客户应采取合理措施，识别并减少与API人口统计偏见相关的可预见危害。”

缓解措施

描述公平性风险：在部署前明确可能的风险。
使用过滤工具：尽管过滤工具不是万能的，但可以作为辅助手段。

通过遵守上述条款和条件，用户可以更好地利用OpenAI API，同时确保其应用程序的安全性、公平性和社会责任。

原文链接

与OpenAI API的使用条款 – OUseful.Info博客…

原文链接: https://blog.ouseful.info/2021/05/20/terms-of-engagement-with-the-openai-api/

与OpenAI API的使用条款 - OUseful.Info博客...