ailatency 是一個獨立的基準測試服務,用於追蹤各大 AI 供應商的 API 效能。它透過 OpenRouter API 閘道使用付費 API 呼叫來測量延遲、吞吐量和可用性。使用者可以比較 24 小時、7 天和 30 天的歷史趨勢,並提供詳細的每日報告。該平台提供當前的效能快照,包括最快回應時間、最佳吞吐量和線上模型。它與任何 AI 供應商或 OpenRouter 均無關聯。
API 選擇
比較回應時間和吞吐量,為您的應用程式選擇最佳的 AI 供應商。
成本最佳化
評估每 1K Token 的成本以及延遲,以尋找經濟高效的解決方案。
效能監控
追蹤生產系統的即時和歷史效能指標。
供應商基準測試
使用獨立的端到端測量,並排評估多個供應商。
趨勢分析
檢視 24 小時、7 天和 30 天的數據,以發現效能模式或衰退。
容量規劃
使用可用性和延遲數據來規劃擴展或備援。
當前效能快照
顯示最新讀數,包括最快回應、最佳吞吐量、線上模型、可用性百分比以及平均首次 Token 時間 (TTFT)。
歷史效能表格
顯示每個供應商和模型在 24 小時、7 天和 30 天期間的平均數據,包括以毫秒為單位的 TTFT、每秒 Token 數 (TPS)、總延遲、每 1K Token 的成本和狀態。
MSI 分數
每個模型都有一個專有的 MSI 分數,可能是一個綜合效能指標。
近期事件日誌
列出值得注意的效能事件(例如,停機或減速)及其時間戳記。
今日概況
提供當天當前效能情況的摘要。
獨立測量
所有數據均透過從單一位置進行的付費 API 呼叫收集,並包含 OpenRouter 路由開銷(約 5–15 毫秒)。
成本估算
成本值是根據測量時的 OpenRouter API 定價元數據估算得出的。
將 AI API 整合到應用程式中的軟體開發人員、DevOps 工程師和產品經理。對於評估 AI 供應商以處理延遲敏感或成本敏感工作負載的技術決策者也很有用。
開啟 ailatency.com 網站以檢視當前效能快照和歷史數據。儀表板會自動載入最新讀數。使用時間段選擇器(24 小時、7 天、30 天)來比較歷史趨勢。檢視供應商和模型表格以查看 TTFT、TPS、總延遲、成本和狀態。無需註冊或登入——數據可公開存取。
網站上沒有提供定價資訊。該服務似乎可以免費公開存取。
ailatency 確實實現了它所承諾的:為主要 AI 供應商提供獨立、即時的 API 效能數據。其優勢在於透明度——每次測量都包含 OpenRouter 開銷,並且從單一位置收集,因此使用者了解其限制。歷史趨勢(24 小時、7 天、30 天)對於發現供應商可靠性問題或成本效能權衡非常有用。然而,單一位置的測試意味著結果可能無法反映全球效能,而且免責聲明明確指出這些數據僅供參考。對於需要快速、無需註冊的基準測試的開發人員來說,這是一個不錯的起點——只是不要單獨依賴它來做出生產決策。
ailatency 由獨立開發者開發,用於追蹤主要 AI 提供商的 API 延遲、吞吐量和可用性。比較 24 小時、7 天和 30 天的趨勢,並提供詳細的每日報告。
分类:API 服務
访问链接:https://www.ailatency.com/
标签:AI API監控、延遲追蹤、API效能比較、供應商正常運行時間、AI基礎設施工具