PromptLayer

AI 故障除錯

找出標準監控無法察覺的靜默重試風暴、停滯的工具呼叫與成本暴增。

多步驟代理工作流程

透過巢狀跨度與子代理，追蹤跨代理、工具與提供者的端到端執行過程。

成本追蹤與優化

依模型、提供者、專案或個別請求監控 Token 用量與花費。

效能監控

檢視 p50/p95 延遲時間與成本，在帳單暴增前及早發現效能衰退。

生產事件回應

重播特定軌跡，並針對失敗請求或異常行為建立警示。

軌跡

在單一時間軸內檢視提示詞、回應、重試、工具呼叫、延遲時間、Token 用量與失敗記錄。可依標籤、使用者、模型或狀態篩選。透過非同步批次處理，保留 14 天資料，開銷僅 4 毫秒。

工作流程追蹤

追蹤跨代理、工具與提供者的多步驟執行過程。父跨度與子跨度依序排列，讓程式碼路徑一目瞭然。

成本明細

依模型、提供者、專案或請求追蹤花費。p50/p95 延遲時間與成本並列，避免帳單出現意外。

瀑布圖

視覺化呈現完整執行時間軸，包含持續時間、成本與跨度關係——LLM 呼叫、工具呼叫與根跨度。

重播與警示

重播個別軌跡，並針對特定條件（例如失敗、成本暴增）建立警示。

提供者無關的儀器化

可搭配任何 LLM 提供者或編排框架使用。只需幾行程式碼即可建立軌跡與跨度。

原始跨度與日誌

存取原始跨度資料與日誌進行深度除錯，包含狀態、模型呼叫與時間戳記。