什麼是Zep？
Zep 是專為企業打造的 AI 代理人記憶系統，能讓你的 AI 智能體真正「記得」使用者、業務與工作內容。不同於傳統聊天記錄或靜態 RAG，Zep 利用**時間軸情境圖（Temporal Context Graphs）**自動整合對話、結構化資料與使用者互動，並追蹤資訊如何隨時間變化——例如當客戶從愛穿 Adidas 轉向 Nike，系統會自動更新事實，同時保留歷史紀錄以供查證。
這套記憶系統不僅支援次 200 毫秒的超快檢索，還內建合規治理功能，符合 SOC 2 與 HIPAA 等企業級安全標準，已被 S&P Global Market Intelligence 認可為企業 AI 架構中的關鍵組成。
Zep的特色是什麼？
- 情境圖引擎（Context Graph Engine）：自動從任何來源（聊天、事件、資料庫）建立結構化記憶圖譜，連結人物、組織、主題與事件。
- 時間感知記憶：當新資訊與舊事實衝突時，自動標記過期內容但仍保留歷史，可查詢「現在正確」或「過去某日正確」的狀態。
- 情境湖（Context Lake）：支援數百萬個情境圖的集中管理，如同資料湖之於資料，但專為 AI 代理人記憶設計。
- 次 200ms 檢索效能：無論圖譜規模多大（從千筆到上億筆），p95 延遲始終維持在 168ms 以下。
- 企業級治理：內建基於屬性的存取控制、政策驅動的保留規則、法律封存（Legal Hold）與完整稽核軌跡。
- 三行程式碼整合：支援 Python、TypeScript 與 Go，幾分鐘內即可為現有 AI 代理人加入持久化記憶。
- 觀察洞察（Observations）：自動分析記憶圖中的模式（如「Jane 總在產品發布兩週內升級」），提供超越單一事實的全局視角。
- 多種部署選項：可選擇 Zep 雲端託管、自帶金鑰（BYOK）或完全部署於自有 VPC（BYOC），滿足不同合規需求。
Zep的使用案例有哪些？
- 個人化客戶服務代理人：記住客戶偏好、過往投訴與購買歷史，提供精準且一致的互動體驗。
- 投資組合分析助手：追蹤用戶資產配置變化、市場觀點演變與會議重點，自動生成週報或風險提示。
- 內部知識協作機器人：整合員工職務變動、專案進度與文件更新，確保團隊資訊同步。
- 合規導向金融顧問：所有建議皆可追溯至原始對話或交易紀錄，滿足金融監管審計要求。
- SaaS 用戶成功平台：偵測用戶行為模式（如頻繁查看定價頁），主動觸發升級或支援流程。
- 長期健康照護助理：記錄患者症狀變化、用藥反應與生活習慣，協助醫療決策。
如何使用Zep？
- 使用
add_messages()方法將使用者對話送入 Zep，並啟用return_context=True即時取得相關記憶。 - 透過
graph.add()將結構化業務事件（如訂閱升級、訂單退貨）寫入使用者情境圖。 - 呼叫
get_user_context()取得經過壓縮、去重且時間排序的上下文，直接餵給 LLM 使用。 - 在 Zep 控制台設定保留政策（如「30 天後自動刪除測試帳號資料」）與存取權限。
- 利用 Batch API 一次匯入大量歷史資料（最多 5 萬筆/批次），不影響即時服務效能。
- 啟用 Smart Context Assembly 功能，自動優化上下文品質，減少 token 消耗同時提升準確率。
