トレース
プロンプト、応答、リトライ、ツール呼び出し、レイテンシ、トークン使用量、障害を1つのタイムラインで確認。タグ、ユーザー、モデル、ステータスでフィルタリング可能。非同期バッチ処理による4msのオーバーヘッドで14日間保持。
ワークフロー追跡
エージェント、ツール、プロバイダー間のマルチステップ実行を追跡。親子スパンが順序付けられ、コードパスを一目で把握。
コスト内訳
モデル、プロバイダー、プロジェクト、リクエストごとの支出を追跡。p50/p95レイテンシをコストと併せて表示し、請求書で驚かないように。
ウォーターフォールグラフ
実行タイムライン全体を、期間、コスト、スパン関係(LLM呼び出し、ツール呼び出し、ルートスパン)とともに可視化。
再生とアラート
個別のトレースを再生し、特定の条件(障害、コスト急騰など)に対するアラートを作成。
プロバイダー非依存の計装
任意のLLMプロバイダーやオーケストレーションフレームワークで動作。数行のコードでトレースとスパンを作成。
生スパンとログ
ステータス、モデル呼び出し、タイムスタンプを含む生スパンデータとログにアクセスし、詳細なデバッグが可能。
@promptlayer/js)をインストールし、数行のコードでワークフローを計装します。トレースとスパンを作成してすべてのプロバイダー呼び出しをキャプチャします。その後、PromptLayerダッシュボードで完全な実行ウォーターフォールを表示し、タグ、ユーザー、モデル、ステータスでフィルタリング、特定のトレースの再生やアラート設定が可能です。Mosaic社のPromptLayerは、LLMアプリの可観測性を提供し、リクエストのトレース、トークン使用量とコストの監視、マルチステップAIワークフローのデバッグを単一のダッシュボードで実現します。
分類:ヒントツール
アクセスリンク:https://promptlayer.app/
タグ:LLM可観測性、トークンコスト追跡、プロンプトデバッグ、AIワークフローモニタリング、モザイク