
新Open Source AI Gateway
一个开源的AI网关,用于管理多个大型语言模型(LLM)提供商,如OpenAI、Anthropic、Gemini、Ollama、Mistral和Cohere。它提供内置分析、保护措施、速率限制、缓存和管理控制。支持HTTP和gRPC接口。
Fireworks AI 是一个旨在提供生成式 AI 模型快速推理的平台。它允许用户以高速度使用最先进的开源大语言模型 (LLM) 和图像模型。用户可以在无需额外费用的情况下微调和部署自己的模型。该平台提供了一系列构建和部署生成式 AI 应用的工具和基础设施,包括模型 API、定制选项和复合 AI 系统。
fireworks.ai