什麼是Groq？
Groq 是一個專注於 快速 AI 推理 的硬體和軟體平台，提供卓越的計算速度、質量和能源效率。無論是雲端還是本地部署，Groq 都能為 AI 應用提供大規模的解決方案。最近，Groq 更獲得了來自沙烏地阿拉伯的 15 億美元 投資，並在全球推出了 GroqCloud™ 平台。
Groq的特色是什麼？
- 快速 AI 推理：支援多種開源模型，如 Llama、Mixtral、Gemma 等。
- 高效能硬體：Groq 的 LPU™ 推理引擎提供即時計算能力。
- 全球部署：GroqCloud™ 平台已全球上線，開發者可以輕鬆使用。
- OpenAI 兼容性：只需更改三行代碼，即可從 OpenAI 無縫遷移到 Groq。
Groq的使用案例有哪些？
- AI 模型推理：適用於需要快速推理的 AI 應用場景。
- 企業級解決方案：提供大規模的雲端和本地部署。
- 開發者工具：GroqCloud™ 提供自服務開發者層級，方便開發者快速上手。
如何使用Groq？
- 獲取 Groq API Key。
- 設置
OPENAI_API_KEY為你的 Groq API Key。 - 選擇模型並運行。
