Foglamp

Foglamp

Foglamp 是 Vercel AI SDK 生態系中的可觀測性工具,專為監控 AI 代理而設計。它能追蹤每次 generateText 與 streamText 的成本、延遲、Token 用量、分散式追蹤、評估結果與警示,幫助開發者全面掌握 AI 行為表現。

Foglamp 是什麼?

Foglamp 是一套專為 Vercel AI SDK 生態系打造的觀測工具,可用來監控 AI 代理。它能擷取每次 LLM 呼叫的成本、延遲與品質數據,特別針對 generateTextstreamText 函式。只需兩行程式碼的儀器化,就能提供分散式追蹤、評估、警示以及各代理的支出資訊。其核心目標是協助開發者在終端使用者察覺之前,先抓出不良輸出。

Application scenarios

  • 成本異常偵測

    在推出代理後的幾天內,就能發現意外的成本飆升(例如暴增 10 倍)。

  • 品質監控

    追蹤評估分數,並掌握答案品質隨時間下降的情況。

  • 支援品質保證

    辨識 AI 助理是否提供錯誤的退款期限,或捏造追蹤連結。

  • 各代理成本追蹤

    依模型、代理或客戶細分支出,以便進行預算管理。

  • 延遲最佳化

    監控各代理的延遲與完整呼叫流程,找出效能瓶頸。

  • 生產環境警示

    針對成本、延遲與錯誤率設定閾值規則,在問題發生時即時收到通知。

Core Features

  • 單一 SDK 儀器化

    加入兩行程式碼(`import { foglamp } from "foglamp"` 與 `const fog = foglamp()`),即可為每次 `generateText` 與 `streamText` 呼叫進行儀器化。

  • 各代理的區段與支出

    檢視個別代理的延遲、成本與完整呼叫流程,包含搜尋或寫作等子任務。

  • 結合程式碼檢查與 LLM 評判的評估

    使用自動化程式碼檢查與基於 LLM 的評估,為生產流量評分,樣本通過率達 94%。

  • 分散式追蹤

    以瀑布圖呈現每次執行,並查看每個區段的確切提示與回應。

  • 含閾值規則的警示

    針對成本、延遲與錯誤率設定自訂閾值,觸發警示。

  • 成本洞察

    查看每次呼叫的準確成本,並依模型、代理與客戶細分(例如 Claude Opus $323.12、Gemini $43.06、GPT-5.5 mini $85.05)。

  • 各代理可視性

    在呼叫流程中,取得每個代理的獨立區段、延遲與支出數據。

目標使用者

使用 Vercel AI SDK 建構 AI 代理的開發者與工程團隊。需要在生產環境監控 LLM 成本、延遲與輸出品質的產品經理與營運團隊。依賴 AI 代理、且需在客戶抱怨前抓出錯誤回覆的支援團隊。

如何使用 Foglamp?

  1. 前往 foglamp.dev 註冊或免費開始使用。
  2. 在專案中加入 Foglamp SDK:import { foglamp } from "foglamp"
  3. 初始化客戶端:const fog = foglamp()
  4. 工具會自動為每次 generateTextstreamText 呼叫進行儀器化。
  5. 從儀表板存取成本、延遲、追蹤、評估與警示。

價格與免費試用

網站提供「免費開始使用」的選項,但未提供具體的價格方案或免費試用細節。

成效回顧

Foglamp 確實解決了團隊在推出 AI 代理時常遇到的痛點:上線後可能發生的隱形成本與品質下降。來自一位共同創辦人的使用者見證提到,在第一週就抓到了 10 倍的成本異常,顯示這套工具在監控上能立即帶來價值。分散式追蹤、評估與各代理支出的組合,為開發者提供了代理觀測的單一檢視窗口。對於已經使用 Vercel AI SDK 的團隊來說,這套工具很可能能大幅節省除錯時間,並避免影響客戶體驗的品質問題。

Frequently Asked Questions

Foglamp 是什麼?
Foglamp 是 Vercel AI SDK 生態系統中的一個可觀測性工具,專門用來監控 AI 代理。它會追蹤 generateText 和 streamText 呼叫的費用、延遲、Token 用量、分散式追蹤、評估結果以及觸發警報。
Foglamp 如何協助監控 AI 代理?
它能提供每次 AI 代理呼叫的詳細資訊,包括延遲和 Token 用量等效能指標、成本分析、分散式追蹤、評估結果,以及即時警報。
Foglamp 是否支援分散式追蹤?
是的,Foglamp 提供分散式追蹤功能,幫助你了解 AI 代理在不同元件之間互動的流程與效能表現。
Foglamp 可以設定警報嗎?
可以,Foglamp 具備警報功能,能根據預先定義的指標(例如成本突然飆升或延遲超過門檻)通知你異常或問題。
Foglamp 是免費的嗎?
Foglamp 屬於 Vercel AI SDK 生態系統的一部分,具體價格需查閱 Vercel 官方網站,因為它可能提供免費方案或依使用量計費。
Foglamp 會追蹤每次 AI 呼叫的哪些資料?
它會追蹤每次 generateText 和 streamText 呼叫的費用、延遲、Token 數量、分散式追蹤、評估分數,並觸發相關警報。

Foglamp - AI Tool Detail

Foglamp 是 Vercel AI SDK 生態系中的可觀測性工具,專為監控 AI 代理而設計。它能追蹤每次 generateText 與 streamText 的成本、延遲、Token 用量、分散式追蹤、評估結果與警示,幫助開發者全面掌握 AI 行為表現。

Category:AI 外掛/擴展程式

Visit Link:https://www.foglamp.dev/

Tags:AI監控、可觀測性、Vercel AI SDK、代理追蹤、LLM分析