跳到正文
原文
ChinaTalk· Jordan Schneider·· 4 小時前AI 評分50

Bharat Patel 談軍事 AI:數據才是落地難點

Data is the Hard Part

詳細導讀

這篇訪問的核心判斷是,軍用 AI 的瓶頸不只是模型,而是能否按任務收集具代表性的數據、保留數據脈絡,再反覆訓練、測試和部署。受訪者 Bharat Patel 認為,感測器與數據不匹配、對手欺騙、治理和採購流程未成熟,都是自主化仍受限制的原因。

數據是否合用,取決於任務而非「AI-ready」標籤

Patel 認為,數據不會變得完全「AI-ready」,因為數據總有不規則之處;先釐清 AI 用途,才能判斷需要甚麼數據及甚麼質素。Project Maven 的經驗是,初期收集到大量不含相關目標的影像,模型投入運作後表現不佳;團隊其後才明白,必須持續收集與目標相關的數據。

案例原文所述限制或啟示
Project Maven計劃於2017年開始,嘗試以電腦視覺模型辨識特定目標。初期數據中相關目標不足,模型投入運作後表現不佳;需要持續補充相關數據。
Army Research Lab 坦克感測器團隊為第二代 FLIR 坦克數據製作收集裝置,放在感測器旁收集影像。起步階段只有影像,其他坦克感測器數據未能納入;Patel 説團隊未能進一步做到多模態數據。

自主化需要持續數據管線,而不只是一次性訓練

Patel 以烏克蘭為例,指出自主系統並非一開始便以自主平台作起點,而是先有人操作平台,持續錄下影片及其他感測器數據,再集中處理、辨識目標,並把能力帶回平台。他認為,美國國防部內沒有大規模、持續的機器學習數據收集策略;演習數據有時因保存和後續處理耗費資源而被刪除,或被倒進失去脈絡的大型儲存區。

  • Jordan Schneider 將烏克蘭的發展概括為三年收集和標註數據;Patel 的回答強調當地長期收集數據的重要性,但沒有在回答中另行確認這個確切年期。
  • Patel 認為,演習是數據來源之一,但未必能代表實際戰爭。更重要的是建立可快速收集數據、帶回訓練、測試評估,再把模型送回前線的管線。
  • 他建議政府掌管數據、管線和治理,並保留足夠工程能力以瞭解技術及監督業界;他估計業界可承擔約90%的實際工作,並主張以模組化方式分工,避免長期依賴單一承包商。

自主坦克仍是遠期願景,不能略過人類監督

Patel 描述的2035年願景,是坦克能理解環境、作出決定並減少軍人面對的危險;他同時明言,要讓坦克做到人類能做的事仍有很長距離。受訪者認為,自主系統偶爾會出錯,因此需要人類在決策過程中監督和核實。生產能力、政策安排,以及把敵方戰鬥人員誤認為平民等風險,也令全面放手使用自主平台仍有顧慮。

合成數據可補缺口,但不能取代具代表性的實際數據

Patel 分享,他約於2022年支援 TITAN 計劃時,曾透過 Small Business Innovation Research 計劃向四家公司批出 Direct-to-Phase-II 合約,製作合成數據;公司首先詢問是否有具代表性的數據可供參照。他由此強調,合成數據本身仍依賴實際數據。就陸軍感測器而言,軍用感測器可能比商用感測器舊兩至三年,視角、生物羣系和使用情境亦不同,因此他認為目前尚未能單靠合成數據建立自主系統。

  • Patel 主張以合成數據補充與實際作戰相關的數據,尤其用來模擬現有數據未涵蓋的邊緣情況,而非完全取代實際數據。
  • 他把數據污染列為需要高度關注的風險,並指出污染可能是蓄意放入偏頗數據,也可能源於標註錯誤或數據中的錯誤資訊;模型若據此訓練,可能產生偏差。
  • 他亦提到部署後的欺騙方式,例如以偽裝或塗鴉令目標未被辨認,以及以假電磁訊號營造大型敵軍活動的表象。這些是 Patel 對威脅的描述,訪問沒有提供其發生頻率或獨立驗證結果。

測試要兼顧安全與實際環境的不確定性

Patel 認為,測試評估不能無止境延長,否則能力無法進入實際環境,但仍須理解部署風險並確保安全。他以80%作例子,説明敵人、環境及使用者都會影響模型表現;這是他用來説明取捨的例子,並非訪問所確立的通用合格標準。他建議與情報機構合作,掌握對手可能採取的欺騙方式,並把相關情境納入訓練及測試。

  • Patel 表示,未來不可能預先列出自主系統在戰場上會遇到的所有情況;他主張在可控方式下探索難以安全重現的邊緣情境。
  • 他轉述,Project Linchpin 開始時曾有 NDAA 條文涉及一項研究,結論是國防部需要集中建立測試評估標準,以便擴大 AI 部署;這是 Patel 對相關研究及計劃背景的説明。
  • Patel 認為,把 AI 模型與應用軟件分開,或可讓模型更新更快,而不必每次重認證整套軟件。不過他説,自己離開前這仍是計劃,並非已完成的制度。

採購改革的成效仍未明,速度亦取決於人和資源

Patel 形容,建立 AI 計劃不只涉及工程,還要協調需求、資源、採購、合約及測試等多方。他認為,PAE、CPE 等架構改革的權限分工仍在釐清;在他看來,改革能否推進,仍取決於計劃經理是否獲授權、問責並取得足夠資源。他也強調,單喊加快採購並不足夠,執行團隊需要有動力和合適的人手。

  • Patel 指出,戰時的 quick-reaction capabilities 可較快簽約和部署,因部分政策要求會被豁免,亦有額外應急資源;和平時期則須遵循更多聯邦採購規定、競爭原型及競爭選商程序。
  • 他説,戰時較優先考慮迅速部署和救命,系統模組化及日後替換組件等問題可能留待之後處理;這與和平時期的採購條件不同。
  • 他提到 Project Linchpin 現稱 Product Manager AI Ops and Services,原先設計是讓業界參與 AI 管線;他認為政府須拆分工作,才能與業界持續合作和迭代。

Accenture 的定位屬 Patel 的業界主張

訪問提及 Accenture Federal Services 為本集提供支持;Patel 當時在 Accenture 任職約六個月。他認為,軍方對產品的興趣過後,會更需要把不同技術整合起來的團隊;他並稱 Accenture 具備大型整合經驗,正與 OpenAI、Palantir、Anthropic 及 Databricks 等公司建立合作。這些是 Patel 對公司定位和前景的説法,訪問沒有提供獨立驗證。

來源:ChinaTalk · chinatalk.media