开源生成式AI API项目是公开源码的推理服务器与SDK，如vLLM、FastChat、Ollama、OpenLLM，支持本地或云端一键部署Llama、Qwen等模型，提供兼容OpenAI格式的REST/GRPC接口，可定制量化、并发、插件，零费用、可审计、社区共建。