AI 智能體攻擊者靠耐性而非天才:Cairn 案例的防守檢查清單
AI Agent Attackers Bring Patience, Not Genius: A Defender Checklist From the Cairn Case
文章根據 Amazon 對 Cairn AI 智能體攻擊的報告,整理九項伺服器防守檢查,涵蓋未登入服務、修補 MONAI Label、限制服務權限及監察日誌。Amazon 報告的三次行動中,兩次未能成功,另一次利用 MONAI Label 路徑穿越漏洞,在約 11 分鐘內寫入檔案,並於後續取得 root shell。
文章將 Cairn 案例轉化為九項伺服器防守檢查,從未登入服務、路徑穿越到權限與日誌監察,提供可直接核對的安全加固方向。
整項指令只有三個詞:「取得 shell 存取權。」
據Amazon Threat Intelligence所述,攻擊者在 9 月向一組 AI Agent 提出這個目標。這些 Agent 自行規劃步驟、嘗試執行,並在遇到失敗時改變策略。面對其中一個目標,它們發現一個未知漏洞(零日漏洞),並以 root 權限接管伺服器。面對另外兩個目標,它們花了數小時,卻一無所獲。
這個故事的兩個部分都很重要。成功案例顯示 Agent 行動有多快;失敗案例則顯示目前仍有甚麼因素能阻止它們。本文會回顧 Amazon 公佈的內容,補充過去幾個月的相關報告,並整理成一份清單,讓你本週可以用來檢查自己的伺服器。
來源説明:以下內容均來自各節所連結的已發表報告。我沒有執行 Cairn,也沒有重現這些攻擊。程式碼範例是為本文撰寫的示例,按照公告所述的漏洞類別編寫,並只使用小型合成輸入資料作檢查。
Amazon 發現的情況
2026 年 9 月 10 日,Amazon 發現一台伺服器上執行着一個公開部署、毋須登入即可存取的 Cairn。Cairn 是一個開源框架,用來協調多個 AI Agent 進行滲透測試(經授權的駭客行為,用以找出弱點)。它是為防禦者而建。你只需用日常語言提供一個起點和目標,這些 Agent 就會尋找通往目標的路徑。
由於操作人員沒有關閉控制台,互聯網上的任何人都可以讀取其歷史紀錄,其中包括專案設定、操作人員的提示詞及 AI 輸出內容。提示詞使用簡體中文,指令碼中的時間戳記則使用中國標準時間。Amazon 以中等信心將這次行動歸因於一個與中國有關聯的攻擊方。目標是與中國大陸以外東亞地區的大學有關聯的 IP 位址,行動從 9 月 8 日開始,歷時約 48 小時。
Amazon 在 11 月 20 日公佈調查結果。其中三項行動特別值得注意。
Redis:16 小時、148 次操作,沒有成功。這些 Agent 以一台允許無密碼存取的 Redis 伺服器(記憶體內資料庫)為目標。在約 16 小時內,它們連續執行 148 次操作,嘗試各種已知的 Redis 接管方法,包括濫用複製功能載入程式碼、逃逸指令碼沙箱、寫入設定檔,以及破壞記憶體。它們亦嘗試利用 Log4Shell 攻擊同一台機器上的另一項服務。接着,它們利用 Qdrant 執行個體中的伺服器端請求偽造漏洞(SSRF,即誘使伺服器代你發出請求),繪製內部 Docker 網絡的地圖。之後,它們又對 PostgreSQL、SSH 及其他服務進行密碼噴灑攻擊。所有嘗試均告失敗。
GPU 伺服器:6 小時、30,000 次登入嘗試,沒有成功。這些 Agent 從大學的公開網頁中整理出約 80 個真實用戶名稱,來源包括教職員名錄、實驗室網站、存檔網頁及論文。接着,它們嘗試了超過 30,000 組用戶名稱和密碼組合。目標包括 SSH、管理員控制面板、儲存裝置、VPN 伺服器及校園入口網站。它們始終沒有找到可用的登入資料。
MONAI Label:11 分鐘內寫入檔案,然後取得 root 權限。第三個目標執行 MONAI Label,這是一款協助研究人員以 AI 標註醫學影像的開源工具。代理程式識別出這個框架、繪製其 API,並找到一個接受檔名參數的上載端點。他們測試了路徑穿越漏洞(在名稱中使用 ../ 跳出指定資料夾),結果成功。Amazon 表示,代理程式從繪製 API 到寫入任意檔案,前後約花了 11 分鐘。
在之後的一次工作階段中,代理程式利用同一個漏洞,將 Python 反向 shell 寫入 sitecustomize.py。正如 site 模組文件所述,每次解譯器啟動時,Python 都會自動匯入該檔案。接着,代理程式呼叫一個訓練 API 端點,啟動新的 Python 程序。該程序載入了載荷,並開啟一個以 root 身分執行的反向 shell。
之後,一名人員介入。操作人員向代理程式提供代理連線,讓他們接入另一個同樣執行易受攻擊軟件的大學網絡,並指示他們查看當中的其他機器。
簡單來説,MONAI Label 漏洞
Amazon 已向維護人員報告此漏洞。GitHub 安全公告 GHSA-qc22-rmgc-vg94於 11 月 18 日發布,並被評為嚴重,公告如此描述:
-
PUT /datastore/image接受一個image查詢參數,並未經檢查便將其用作影像 ID。 - 程式碼會加上檔案副檔名,將結果與資料儲存區資料夾路徑組合,再把上載檔案複製到該處。
- 程式碼沒有檢查最終路徑是否仍位於資料儲存區內。只要提供像
../../../tmp/x這樣的值,就能將檔案寫入伺服器程序有權寫入的任何位置。 -
PUT /datastore/label以相同方式組建路徑。 - 預設不啟用驗證(
MONAI_LABEL_AUTH_ENABLE=False),因此任何能連接到伺服器的用戶端都可利用此漏洞。
修正方法(拉取請求 #1915)會解析每個目標路徑,並拒絕任何位於資料儲存區以外的路徑。它亦只保留影像 ID 的基本名稱,並拒絕空白或以點開頭的 ID。此修正收錄於 MONAI Label 0.8.6,這是 11 月 22 日推出的安全性版本。版本説明將此漏洞列為 CVE-2026-133968,並指出所有不高於 0.8.5 的版本均受影響。同一版本亦修正了工作階段上載中的另一個路徑穿越漏洞。
這並非單一個案
另外三宗近期報告亦呈現相同趨勢。
- Gambit Security,9 月 22 日。Gambit 的報告描述一名以經濟利益為動機的操作人員,利用三套開源 AI 執行框架,並由 Cairn 負責端到端漏洞利用,攻擊數百間網上零售商。Gambit 統計,從兩家公司竊取的信用卡紀錄至少有 600,000 筆。操作人員自行進行的成本檢討顯示,在 101 次掃描中,每次已完成掃描的平均成本為 $25.46。
- Google Threat Intelligence Group,11 月 16 日。GTIG 報告指出,在過去一季,他們觀察到攻擊者使用 LLM 框架,全自動尋找並利用漏洞,這是「首次在過程中完全不需要人類介入」。他們亦觀察到 Cairn 被用於攻擊包括美國航空航天業在內的目標。
- Bell Canada,11 月 20 日。Bell 向 BleepingComputer表示,一名「具代理能力的威脅行為者」於 11 月 17 日入侵其部分系統,並取得企業客戶資料。Bell 發出的客戶通知指出,入侵者存取了 Bell 的 Maximo 系統預生產環境;該系統用於訂購及配置網絡連線。Bell 尚未公佈入侵指標,並表示不知道攻擊者的身分。
GTIG 亦警告這種情況的另一面:大量由 AI 編寫、聲稱可用但實際無效的漏洞利用程式,會為防守方帶來額外的核查工作。
代理擅長之處,以及令它們受阻的因素
這些代理沒有發明新的攻擊技術。針對 Redis 的嘗試只是列出已知方法;憑證攻擊則是經過更深入用戶名稱搜尋的傳統密碼噴灑攻擊。MONAI Label 的漏洞屬於路徑遍歷,是網絡上歷史最悠久的漏洞類別之一。代理帶來的優勢是耐性和廣度:對一部伺服器執行 148 次操作、對另一部伺服器嘗試登入 30,000 次,以及在第三部伺服器上由繪製 API 地圖到寫入檔案只花 11 分鐘。Amazon 表示,這些代理「在沒有人工指示的情況下,持續調整策略近一整天」。
令它們受阻的是一般的安全加固措施。Amazon 稱 Redis 伺服器為「已加固」的目標,儘管它沒有設定密碼。報告沒有説明是哪項設定發揮作用,但 148 次嘗試都未能成功。30,000 次嘗試中,沒有任何密碼奏效。唯一成功的攻擊利用了預設關閉驗證的軟件,而且該軟件寫入檔案時沒有檢查路徑。
這帶出一項實用原則:你無法比機器更有耐性,因此不要指望攻擊者會感到厭倦。移除容易得手的目標,並確保偵測速度快得足以在一般人看完警示之前採取行動。Amazon 的建議是「優先採用高可信度的偵測機制,觸發自動化回應,並由人員監督結果,而非逐一檢視每項操作」。
防守方檢查清單
1. 找出所有無須登入即可回應的服務
計算這宗事件中無須驗證的服務:一個對外開放的 Redis、一部預設關閉驗證的 MONAI Label 伺服器,以及攻擊者自己的 Cairn 控制台。先列出你對外開放了哪些服務。
如要從伺服器以外的電腦快速測試 Redis:
redis-cli -h <your-redis-host> ping
如果這項測試在沒有密碼的情況下回傳 PONG,該網絡上的任何人都可以與它通訊。Redis 安全文件建議為連接埠設定防火牆,並將服務綁定至所需的介面,例如:
bind 127.0.0.1
自 Redis 3.2.0 起,保護模式會令預設且沒有密碼的 Redis 只在 loopback 上回應,但管理員可以將其關閉。Redis 6 加入 ACL(具名用戶及各自的權限),文件建議使用 ACL,取代舊有的單一 requirepass 密碼。文件亦展示如何使用 rename-command 重新命名或停用 CONFIG 等風險較高的命令,但指出這種做法已棄用,建議改用 ACL 規則。
2. 修補 MONAI Label,然後檢查有否變更
如果你有使用 MONAI Label,請升級至 0.8.6:
pip install -U monailabel==0.8.6
然後按照每個版本的發行説明操作:啟用驗證(MONAI_LABEL_AUTH_ENABLE=True)、避免伺服器連接不可信的網絡,並以權限受限的用戶執行伺服器,確保它只可寫入資料儲存區。發行説明亦指出,如果 0.8.5 或更早版本的伺服器曾連接不可信的網絡,應先檢查有否未經預期的檔案變更,再重新投入服務。
3. 修正自家上載程式碼中的同類漏洞
路徑遍歷不只是 MONAI 的問題。任何根據用戶輸入組成檔案路徑的端點都可能存在這個問題。以下是一個簡短的 Python 寫法,採用與修補方式相同的思路:只保留基本檔名、解析最終路徑,並拒絕任何指向基本資料夾以外位置的路徑。
from pathlib import Path
def safe_destination(base_dir: str, image_id: str, ext: str) -> Path:
base = Path(base_dir).resolve()
name = Path(image_id).name # drop any directory parts
if not name or name.startswith("."):
raise ValueError("invalid image id")
dest = (base / f"{name}{ext}").resolve()
if not dest.is_relative_to(base):
raise ValueError("path escapes the datastore")
return dest
如果基本資料夾是 /tmp/ds,輸入 ../../../tmp/x 會變成 /tmp/ds/x.nii.gz,位於資料夾之內。空名稱和以句點開頭的名稱會觸發錯誤。Path.is_relative_to需要 Python 3.9 或更新版本。OWASP 路徑遍歷頁面列出更多值得加入測試的輸入變體。
4. 不要以 root 身分執行網絡服務
反向 shell 以 root 身分執行,這表示服務啟動的 Python 程序也以 root 身分運作。以權限受限的用戶身分執行的服務即使存在檔案寫入漏洞,仍然十分嚴重,但攻擊者不會因此自動取得 root 權限。為每項服務配置專屬用戶,並限制其對所需資料夾的寫入權限。
5. 留意 Python 啟動檔案
載荷被放進 sitecustomize.py,這個檔案每次啟動 Python 時都會執行。在執行 Python 服務的伺服器上,檢查這類檔案是否存在及其變更時間,成本很低。若要查看直譯器會搜尋哪些位置:
python3 -c "import site; print(site.getsitepackages())"
接着列出這些資料夾內任何 sitecustomize.py 或 usercustomize.py 檔案。在沒有人設定過這類檔案的伺服器上,若有檔案最近才出現,就值得查看一番。檔案完整性監察(檔案變更時發出警示的工具)可以持續監察這些路徑。
6. 在記錄中尋找機器般的節奏
這些失敗的操作持續時間長,而且反覆進行:16 小時內對一部伺服器執行 148 次操作;另外,6 小時內對其他伺服器嘗試登入超過 30,000 次,幾乎全部失敗。人通常一陣一陣地工作,然後停下來;Agent 則可以持續運作。對於面向網絡的服務,以下簡單指令碼會掃描標準的 nginx 或 Apache 存取記錄,並標記行為類似的來源。
import re
import statistics
import sys
from collections import defaultdict
from datetime import datetime
LINE = re.compile(r'^(\S+) \S+ \S+ \[([^\]]+)\] "(\S+) (\S+)[^"]*" (\d{3})')
def load(path):
hits = defaultdict(list)
with open(path, errors="replace") as f:
for line in f:
m = LINE.match(line)
if not m:
continue
ip, ts, method, url, status = m.groups()
t = datetime.strptime(ts, "%d/%b/%Y:%H:%M:%S %z")
hits[ip].append((t, url, int(status)))
return hits
def score(events):
events.sort()
times = [e[0] for e in events]
gaps = [(b - a).total_seconds() for a, b in zip(times, times[1:])]
hours = (times[-1] - times[0]).total_seconds() / 3600
errors = sum(1 for e in events if e[2] >= 400) / len(events)
paths = len({e[1].split("?")[0] for e in events})
mean_gap = statistics.mean(gaps) if gaps else 0
spread = statistics.pstdev(gaps) / mean_gap if mean_gap > 0 else 0
return hours, errors, paths, spread
def main(path, min_requests=100, min_hours=2.0):
for ip, events in load(path).items():
if len(events) < min_requests:
continue
hours, errors, paths, spread = score(events)
if hours >= min_hours and errors >= 0.5:
print(f"{ip}: {len(events)} requests over {hours:.1f}h, "
f"{errors:.0%} errors, {paths} distinct paths, gap spread {spread:.2f}")
if __name__ == "__main__":
main(sys.argv[1])
這個指令碼會標記在兩小時或以上內發出至少 100 次請求,且至少一半請求回傳錯誤的來源。它亦會列出「間隔分散度」:請求之間的時間間隔變化程度。數值接近零表示時間間隔非常規律。在為本文製作的小型合成記錄中,一個持續規律掃描的掃描器和一名正常訪客同時出現,指令碼只標記了掃描器(6.1 小時內發出 400 次請求,錯誤率為 77%,間隔分散度為 0.05)。
請把這當作起點,而不是可以直接信賴的偵測工具。Agent 可以加入隨機延遲,也可以把工作分散到許多 IP 位址;部分正常工具(例如監察探測、備份工作)也會呈現規律的行為。這些閾值只是估算,你應按自己的流量調整。長遠而言,最好把這套邏輯納入現有的記錄處理流程或 SIEM(收集及搜尋安全記錄的系統),並設定自動回應,例如暫時封鎖來源。
7. 讓第 30,000 次密碼猜測與第一次一樣毫無用處
GPU 伺服器之所以守得住,原因很簡單:Agent 嘗試的用戶名稱和密碼組合全都無效。Agent 根據公開的教職員網頁和論文建立用戶名稱清單,因此也應假設攻擊者知道你的用戶名稱。使用 SSH 金鑰,並在 sshd_config 中透過 PasswordAuthentication no 關閉密碼登入。為 VPN、管理員控制面板和入口網站啟用 MFA,並對重複的登入失敗實施速率限制或鎖定帳戶。
8. 像對待正式環境一樣對待預備環境
在 Bell 的個案中,入侵者進入的是預備環境,而面臨風險的資料仍是真實的企業聯絡資料,例如姓名、職銜、工作電郵地址和電話號碼。如果預備環境副本存有真實客戶資料,就需要採用正式環境級別的存取控制、記錄和修補措施。如果不需要真實資料,就使用虛構資料,降低副本對攻擊者的價值。
9. 查核你手上已有的指標
Amazon 公佈了兩個 IP 位址,它們曾出現在日期為 2026 年 9 月 8 日至 10 日的記錄中:142[.]4.98.145 和 142[.]4.107.34。這些資料已超過兩個月,攻擊者可能已轉往其他目標,但搜尋一下該時段的記錄,成本不高。如果你經營網上商店,Gambit 的報告亦列出側錄程式的網域名稱和網址。
這不代表甚麼
這不代表 AI 代理程式會入侵所有系統。Amazon 描述的三次行動中,有兩次以失敗告終。唯一成功的一次,依賴的是一款預設關閉身份驗證、而且不會檢查路徑的軟件。人員仍然選擇目標,並提供連接第二個網絡的代理。
正如 GTIG 所説,這確實代表修補窗口正在縮短,而一場漫長又乏味的攻擊,如今對攻擊者而言成本極低。Gambit 的數據顯示,操作者每個目標的成本約為數美元至數十美元。這些報告中奏效的防禦措施都很基本:每項服務均要求登入、使用強度高的憑證、限制權限,以及迅速套用修補程式。
這九項檢查中,今天哪一項能在你自己的伺服器上查出問題?
來源
- Amazon Threat Intelligence:與中國有關聯的行為者所用 Cairn AI 代理程式自行發現零日漏洞
- GitHub 關於 MONAI Label 的安全公告 GHSA-qc22-rmgc-vg94
- MONAI Label 0.8.6 發行説明
- MONAI Label Pull Request #1915
- Gambit Security:自主 AI 代理程式入侵網上零售商
- Google Threat Intelligence Group:代理式威脅活動跨越重要門檻
- BleepingComputer:黑客利用自主 AI 工具 Cairn 尋找零日漏洞並控制伺服器
- BleepingComputer:Bell Canada 表示「代理式」黑客竊取企業客戶資料
- Redis 安全文件
- Python site 模組文件
- OWASP:路徑遍歷
- OpenBSD sshd_config 手冊
來源:DEV Community · dev.to