Meta 對 AI 安全公司 Virtue AI 的收購,並非一次簡單的創業團隊收編,而是一場始於客戶關係的戰略整合。在正式決定加入之前,創始人李博和她的團隊面臨的核心問題是:他們過去兩年構建的 AI 安全能力,是否應該進入一個服務數十億使用者的產品系統。
雙方的接觸最早並非以收購談判的形式展開。在此之前,Meta 已經是 Virtue AI 的客戶。Virtue AI 首先需要像所有創業公司一樣,向這家擁有龐大內部技術資源的巨頭證明其產品的實際價值。它最終說服 Meta 的,不只是一個單點工具,而是一整套關於 AI 安全的判斷體系。在經歷了一段時間的實際使用後,Meta 看到的不僅是自動化紅隊、執行時防護和 Agent 安全測試等具體功能,更是一支長期深耕 AI 安全研究、並在真實客戶場景中打磨過產品的團隊。
促使李博和團隊認真考慮這一決定的關鍵,是 Meta 正在大力推進的 個性化智慧體。與過去僅停留在內容生成層面的聊天機器人不同,智慧體將深度介入使用者的工作流,能夠訪問郵箱、日曆、程式碼庫,呼叫工具、執行命令,甚至代表使用者完成一連串操作。這意味著 AI 的風險從“說錯話”升級為“做錯事”,而這恰好是 Virtue AI 過去幾年試圖解決的核心問題。
在創立 Virtue AI 之前,李博已是國際 AI 學術界備受矚目的青年學者,曾獲得斯隆研究獎、入選 MIT Technology Review TR35 等多項榮譽。創業後,她面對的是來自金融、保險、科技等行業的真實客戶提出的直接問題:能否放心將 AI 部署到生產環境中?Virtue AI 的回應是將研究轉化為一套覆蓋開發、測試、部署和執行全過程的基礎設施。其產品矩陣包括用於上線前風險暴露的自動化紅隊系統,用於生產環境的即時防護系統 VirtueGuard,以及面向智慧體系統的安全閘道器 VirtueAgent Suite,後者旨在對工具呼叫、記憶體訪問等環節進行全鏈路風險管控。
對 Meta 而言,此次收購的著眼點在於模型安全、智慧體安全、紅隊測試和治理等廣義的 AI 安全能力,這些都與個性化智慧體的未來緊密相關。當智慧體能夠替使用者執行任務時,安全系統必須理解其行動上下文、許可權和可追溯性。這與 Virtue AI 在企業客戶身上驗證過的經驗高度重合。儘管外界也有其他公司表達過興趣,但最終 Meta 的產品方向、組織定位和安全需求與團隊的積累更為匹配。
李博對智慧體時代有一個關鍵判斷:最大的挑戰在於模型能力增長迅速,而安全基礎設施、治理流程和行業標準未能同步跟上。當 AI 被視為“數字員工”,企業需要重新設計其入職、授權、監督和退出機制。提示注入等風險在智慧體能執行具體動作的場景下會變得更加危險,一封郵件或一段文件都可能成為攻擊入口。更復雜的是多步組合風險,看似合理的單步操作串聯起來,可能導致越權訪問或破壞性操作。
近年來,從模型過度迎合使用者,到 AI 搜尋給出荒謬答案,再到編碼智慧體誤刪生產資料庫,一系列事件共同指向一個趨勢:AI 安全不能再被當作產品釋出前的最後一道檢查工序。它必須更早地進入產品設計、許可權系統和執行時監控環節。這也意味著前沿模型的安全測試正變得更加複雜,需要將模型置於有目標、有工具使用能力的複雜場景中進行評估,而內部與外部紅隊的結合將成為模型迭代的一部分。
從研究者到創業者,再到加入 Meta Superintelligence Labs,李博的路徑折射出 AI 安全正從邊緣走向中心。未來幾年,AI 安全預計將從“模型安全”走向“系統安全”和“智慧體安全”,企業將需要在 AI 的全生命週期內進行持續的紅隊測試、即時監控和治理。這或許是此次收購最值得關注的深層意義——它不是一個孤立的人才轉移,而是 AI 安全能力向下一代核心產品系統的一次關鍵滲透。