前 Meta 研究員創辦 Patronus AI，獲 5000 萬美元打造 AI 壓力測試「數位世界」

由前 Meta AI 研究員創立的新創公司 Patronus AI 已獲得 5000 萬美元資金，用於打造專門設計來對 AI 代理進行壓力測試的「數位世界」。本週公布的這項投資，凸顯了隨著 AI 代理越來越廣泛應用於從客服到自動駕駛等真實世界場景，市場對穩健測試框架的需求幾乎是永無止境。 該公司的平台能建立模擬環境，讓 AI 代理接受各種情境的考驗，包括邊緣案例、對抗性攻擊以及複雜的決策挑戰。透過這種方式，Patronus AI 旨在於這些代理被部署到關鍵系統之前，找出其弱點與漏洞。本輪募資由知名創投公司領投，顯示市場對這家新創公司 AI 安全與可靠性方法的信心。 共同創辦人 Dr. Elena Voss 與 Dr. Marcus Chen 均出身 Meta 的 AI 研究部門，他們強調，現在對嚴格測試的需求比以往任何時候都更加迫切。Voss 表示：「AI 代理正以驚人的速度被部署，但如果沒有適當的壓力測試，它們可能會以無法預測且危險的方式失敗。我們的數位世界能讓開發者清楚看到他們的代理在壓力下如何表現。」 這 5000 萬美元將用於擴充團隊、強化模擬技術，並與各行業的企業建立合作關係。Patronus AI 已有多家財富 500 強公司客戶，它們在產品上市前使用該平台驗證 AI 系統。這家新創公司的成長反映了一個更廣泛的趨勢：隨著 AI 變得更加自主，確保其安全的工具也變得同等重要。有了這筆資金，Patronus AI 可望成為 AI 測試生態系中的關鍵角色，協助建立對這項日益塑造我們世界的技術的信任。