什麼是Portkey.ai？
Portkey 是一個專為 AI 應用設計的控制面板，幫助團隊輕鬆觀察、管理和優化 AI 應用。只需三行代碼，就能讓你的 AI 應用更可靠、更高效。
Portkey.ai的特色是什麼？
- AI 閘道：支援 250+ 種 LLM，提供自動備援、負載平衡、重試機制等功能。
- 提示工程：協作建立、版本控制和部署提示，支援多環境和存取控制。
- 防護欄：同步運行防護欄，確保 LLM 行為可靠。
- 代理工具：與 Langchain、CrewAI 等框架無縫整合，讓代理工作流程更易於生產。
- MCP 客戶端：讓 AI 代理能夠調用 1000+ 種工具，完成自然語言任務。
Portkey.ai的使用案例有哪些？
- 監控成本、質量和延遲，透過 40+ 指標獲取洞察。
- 在 OpenAI 和其他 AI 提供商之間無縫切換。
- 快速整合 Langchain、LlamaIndex 等框架。
如何使用Portkey.ai？
import Portkey from 'portkey-ai';
const portkey = new Portkey()
const chat = await portkey.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'gpt-4',
});
console.log(chat.choices);
