什麼是Promptfoo？
promptfoo 是一個專為開發者設計的開源工具，幫助你測試和保護基於大型語言模型（LLM）的應用程式。無論是安全漏洞掃描還是輸出品質評估，promptfoo 都能讓你輕鬆應對，確保你的 AI 應用安全可靠。
Promptfoo的特色是什麼？
- 自動化紅隊測試：動態探測應用，發現 PII 洩漏、不安全工具使用等常見問題。
- 全面安全覆蓋：自定義探測，針對你的應用場景，識別真正關心的風險。
- 開發者友好：命令行界面、即時重載和緩存，無需 SDK 或雲端依賴。
- 開源且經過實戰考驗：被數百萬用戶的團隊使用，擁有活躍的開源社區支持。
Promptfoo的使用案例有哪些？
- 預部署安全掃描：確保你的 LLM 應用在上線前無漏洞。
- 持續監控：隨時捕捉回歸問題，保持應用穩定性。
- 品質評估：通過簡單的聲明式配置，進行複雜的 LLM 測試。
如何使用Promptfoo？
- 安裝 promptfoo：
npx promptfoo@latest redteam init - 定義測試案例，針對你的系統使用場景。
- 運行測試，查看詳細且可操作的結果。
