跳到正文
SiliconANGLE· Duncan Riley·· 3 天前精選AI 評分79

Google 報告指攻擊者利用 AI 框架,無需人手介入將安全修補程式轉為漏洞利用程式

Google says an AI framework turned security patches into exploits with no human in the loop

AI 導讀

Google Threat Intelligence Group 的新報告指出,攻擊者首次使用無需人手介入的 AI 框架,將安全修補程式轉化為漏洞利用程式。名為 exploit_agent 的框架會持續比較熱門網頁應用程式在修補公告前後的程式碼,找出疑似漏洞後自動執行生成的漏洞利用程式,並接入多個前沿及本地託管的大語言模型。

推薦理由

報告對照 GTIG 前一季未觀察到全自動攻擊流程、今季已發現相關案例的變化,呈現威脅活動的近期演進。

正文 · 繁體中文

Google 表示,一個人工智能框架在無須人工介入下,將安全修補程式轉化為漏洞利用程式

Avatar photo

Google LLC 旗下的 Google Threat Intelligence Group 今日發布的一份新報告發現,攻擊者首次利用一個無須人工介入運作的人工智能框架,將安全修補程式轉化為漏洞利用程式。

這個名為 exploit_agent 的框架現身於一部對外暴露的測試伺服器,並連接至多個前沿模型及本地託管的大型語言模型。GTIG 指出,它的工作是持續比較熱門網頁應用程式在每次修補程式公告前後的程式碼。一旦識別出疑似漏洞,框架擬定的漏洞利用程式便會自動執行。

從受害者處取得的數據也存放在同一部伺服器上,旁邊還有用於暴力破解、安裝網頁殼,甚至移除競爭攻擊者留下的網頁殼的指令碼。受害者遙測數據顯示,操作人員最感興趣的是與媒體、娛樂及教育相關的法國網站。框架的設定檔中有一則以俄文寫成的留言,指示設定者將金鑰輸入「就在這裏,不要在聊天中輸入」。

在兩個月前的季度追蹤報告上一期中,GTIG 表示,未曾觀察到在真實環境中針對目標部署的全自主攻擊流程。根據題為《代理式威脅活動跨越重大門檻》的新報告,情況在過去一季有所改變。由於已修補漏洞的可用資料有限,GTIG 認為,攻擊者可能發現將大型語言模型用於 n-day 漏洞,比搜尋零日漏洞更有效率。

漏洞披露與可用漏洞利用程式出現之間的時間差可以縮短得多快,從 PaperCut Software Pty Ltd. 列印管理伺服器的兩個漏洞案例可見:兩者於8月下旬被串連起來,並作為零日漏洞加以利用。安全研究人員及 Huntress Labs Inc. 利用大型語言模型,在漏洞披露後一天內生成可用的漏洞利用程式。

GreyNoise Intelligence Inc. 在漏洞披露四天後追蹤到的一場攻擊行動,據信曾依靠大型語言模型構建漏洞利用程式,之後攻擊數百個機構。GreyNoise 發現,該行動的一個入侵據點在幾分鐘內便取得網域管理員權限。

其他地方也有人利用開源代理式滲透測試框架,將實際入侵行動中的個別步驟自動化。在一宗針對美國航空航天業的入侵事件中,有人觀察到一名威脅行為者使用多代理框架 CAIRN。

另一名行為者在8月下旬至10月初期間,運行一個以 PentAGI 為基礎打造的客製化平台,掃描亞洲各地大量機構的漏洞。目前,據稱不受限制的自主執行所留下的顯眼而雜亂的數碼鑑證痕跡,令這些框架更容易被偵測。

GTIG 指出,影響力行動目前使用模型的用途遠不止撰寫貼文。一名商業承包商正藉助 Gemini API 開發一個即用型平台,利用雲端手機農場運行超過100,000個社交媒體帳戶。為了令生成的相片看起來像智能手機拍攝的相片,據稱另一個以歐洲及中東各地政治情緒為目標的平台,其提示詞要求刻意加入相機瑕疵。

在政府支持的威脅行為者當中,一個疑似朝鮮組織(代號 UNC6836)曾利用假冒招聘人員的個人檔案,接觸北美和歐洲的加密貨幣機構;這些檔案上的照片被發現帶有 Google 的 SynthID 浮水印。該組織其後修改內部程式碼儲存庫中的 .claude/settings.json 檔案,篡改 Anthropic PBC 的 Claude Code,令它每次啟動時都下載其 SOMBERMEME 後門。

Google 表示,已停用與其發現的 Gemini 濫用事件有關的帳戶和資產。Google DeepMind 亦利用這些調查結果加強分類器。

圖片:SiliconANGLE/GPT Image 2.6

來自 SiliconANGLE 聯合創辦人 John Furrier 的訊息:

參與 theCUBE 社羣,支持我們維持內容開放和免費的使命。加入 theCUBE’s Alumni Trust Network,與科技領袖建立聯繫、分享情報並創造機會。

  • theCUBE 影片的觀看人次超過 15M,推動 AI、雲端、網絡安全等領域的交流
  • theCUBE 校友超過 11.4k — 透過獨特的信任型網絡,與超過 11,400 位塑造未來的科技及商界領袖建立聯繫

SiliconANGLE Media 是數碼媒體創新領域公認的領導者,結合突破性科技、策略洞見和即時受眾互動。作為 SiliconANGLE、theCUBE Network、theCUBE Research、CUBE365、theCUBE AI 及 theCUBE SuperStudios 的母公司,其旗艦據點設於矽谷和紐約證券交易所。SiliconANGLE Media 致力發展媒體、科技與 AI 的交匯領域。

SiliconANGLE Media 由科技遠見家 John Furrier 和 Dave Vellante 創立,旗下建立了充滿活力、領先業界的數碼媒體品牌生態系,接觸超過 15+ million 位頂尖科技專業人士。我們全新自有的 theCUBE AI Video Cloud 在受眾互動方面開創先河,並運用 theCUBEai.com 神經網絡,協助科技公司根據數據作出決策,並在業界討論中保持領先。

來源:SiliconANGLE · siliconangle.com