トークンコスト追跡

PromptLayer

Mosaic社のPromptLayerは、LLMアプリの可観測性を提供し、リクエストのトレース、トークン使用量とコストの監視、マルチステップAIワークフローのデバッグを単一のダッシュボードで実現します。