Groq offers fast AI inference through its hardware and software platform for AI applications.
什么是Groq?
Groq是一个硬件和软件平台,为人工智能推理提供卓越的计算速度、质量和能效。Groq为人工智能应用提供云端和本地解决方案,向开发者提供高性能的人工智能模型和API访问。其目标是提供比竞争对手更快速、更低成本的推理服务。
如何使用 Groq?
开发者可以通过访问GroqCloud™平台或GroqRack™集群来使用Groq。只需修改三行代码,设置OPENAI_API_KEY为Groq API Key,设置基本URL并选择模型,就可以无缝切换到其他提供商,如OpenAI。
Groq 的核心功能
快速的人工智能推理
LPU™推理引擎
云端和本地解决方案
与OpenAI端点兼容
Groq