跳到正文
DEV Community· jamilxt·· 39 分鐘前精選AI 評分80

零數據保留並非安全邊界:如何梳理 AI 提示詞路徑

Zero Data Retention Is Not a Security Boundary: How to Map Your AI Prompt Path

AI 導讀

零數據保留(ZDR)設定不能阻止提示詞在路由商、服務供應商或遭入侵的伺服器環節外洩,本文並提出梳理及收窄 AI 提示詞路徑的方法。Dragos 在 2026 年 7 月至 11 月向 AI 服務發送近 200 萬條提示詞,發現三家託管服務供應商遭入侵、部分市場轉售商留存提示詞,亦有服務商未遵守私隱設定。文中建議逐跳盤點資料流向、固定上游供應商、在發送前移除機密資料,並以金絲雀憑證監測外洩。

推薦理由

文章將提示詞外洩拆分為供應商遭入侵、轉售商留存及隱私設定未落實等路徑,並整理逐跳盤點、固定供應商和植入金絲雀憑證的防護方法。

正文 · 繁體中文

即使你付費使用零資料保留(ZDR)、在每個請求中設定旗標,提示詞中的 AWS 金鑰仍可能在幾小時內遭陌生人嘗試使用。這是 Dragos 於 11 月 19 日發布的一項金絲雀令牌研究的結果之一。

Dragos 首席研究官 HD Moore 與其團隊在 2026 年 7 月至 11 月期間,向 AI 服務發送近兩百萬個提示詞。每個提示詞都包含只存在於該提示詞中的秘密資料,包括連結至空帳戶的真實 AWS 金鑰、密碼、獨特 URL,以及私人 Git 儲存庫的參照資訊。然後,他們觀察哪些秘密資料遭到使用,以及使用時間。Dragos 的報告描述了供應商遭入侵、轉售商保留客戶提示詞,以及供應商忽略私隱設定的情況。Ars Technica 隔天報道了這項研究。

我沒有親自進行這些測試。本文根據 Dragos 的文章、其後的事故報告,以及 OpenRouter 的文件撰寫。本文的目標是提供實用資訊:瞭解私隱旗標為何未能保護這些提示詞,然後梳理、縮小並測試你自己的提示詞傳輸路徑。

什麼是金絲雀令牌

金絲雀令牌是一種不應被使用的虛假秘密資料。你只會把它放在一個地方。只要有人使用它,你就會知道該處已遭洩露。這個名稱源自礦工昔日會帶上金絲雀,以偵測有害氣體。

Dragos 在 7 月先使用了 Thinkst Canarytokens,然後建立自己的服務。該服務會為每個提示詞建立獨特的主機名稱、URL 和憑證,並營運其背後的系統。每次觸發都可追溯至觸發它的確切提示詞、模型、路由器及私隱設定。

為了了解每個請求經過哪些系統,團隊還建立了一種類似 traceroute 的工具(用來列出網絡封包經過的每一個節點),以追蹤 AI 推理過程。例如,請求中附有圖片 URL,因此每個擷取該圖片的系統都會暴露其 IP 位址。

研究發現

1. 攻擊者已入侵三家託管服務供應商

Dragos 稱這是研究中最嚴重的發現。攻擊者正從三家不同的託管服務供應商竊取資料。最早的一宗事故可追溯至 7 月中。三家供應商都是在 Dragos 通知後,才知道自己遭到入侵。

最大規模的一宗資料外洩涉及約兩百個埋設的 AWS 金鑰。每個金鑰只向一家供應商發送過一次,而且只在 10 月下旬幾段短時間內發送。在那些時段送出的每個請求都遭到竊取。有些被竊取的金鑰來自供應商在任何模型執行前已拒絕的請求。Dragos 認為,這表示攻擊者在「供應商的前門」複製請求。

另外兩宗資料外洩中,有些遭竊取的請求標示為 ZDR。Dragos 直言:「攻擊者已身在內部時,私隱旗標並無幫助。」

攻擊者隨後採取了可預測的行動:

  • 他們測試每個金鑰,有時在幾小時內便開始測試。
  • 他們列出 S3 儲存貯體,並在 Secrets Manager 和 Parameter Store 中搜尋更多憑證。
  • 他們嘗試在 AWS Bedrock 啟用託管模型、建立 Bedrock API 金鑰,並新增自己的 IAM 使用者以維持存取權。

總計而言,誘餌金鑰被用來發出數以萬計的 AWS API 呼叫。11 月 1 日,其中一名攻擊者加入了一款名為 ARTEX、由 AI 驅動的滲透測試工具。Dragos 列出其中兩個用戶代理程式 artex-agent 和 artex-judge-r121,指出值得將它們加入你的偵測規則。

2. 市集轉售商保留了提示詞

第二項發現不需要利用漏洞。部分路由器是開放式交易平台,請求會交由出價最低的賣家處理。想取得客戶資料的賣家,只需以最低價格上架熱門模型、開啟請求記錄功能,然後等候。

Dragos 透過不同賣家向同一模型發送提示詞,從而發現這個問題。經由其中一名賣家傳送的秘密資料遭到使用,而經由其他賣家傳送的則沒有,這便指向該賣家。在其中一宗個案中,約一天半後,有人透過家居寬頻連線開啟兩個秘密網址,然後開始在登入頁面猜測用戶名稱。

路徑追蹤亦發現一些未有披露的中轉節點。其中一部路由器暗中將部分流量轉送至某個交易平台。一名賣家在每則提示詞中加入約一千個隱藏 token。在約兩千條追蹤路徑中,有數百條經過 Dragos 無法識別的系統。

3. 私隱設定遭忽略

第三項發現涉及資料抓取,而非憑證被盜。Dragos 表示,某間中國 AI 實驗室的系統,在7月至10月期間,從發送至其模型的逾半數提示詞中抓取了秘密網址。當中約三分之二的請求標記為「不收集資料」或 ZDR。轉售該實驗室模型的美國託管服務供應商也觸發了同一個資料抓取程式,令提示詞迴流至該實驗室。

大型美國供應商也出現問題。其中一家在有人單次呼叫其搜尋端點逾兩個月後,才爬取一個秘密網址。

最離奇的個案是:一則標記為 ZDR 的提示詞發送至一家美國供應商後24天,其秘密連結被貼到 Feishu (Lark) 的公司聊天中。兩分鐘內,該連結在北京和上海的三部桌上型電腦及三部手機上被開啟。

其後的披露

多家公司現已自行發布或發送通知。

OpenRouter 和 MiniMax。 11月21日,一名用戶將一封來自 OpenRouter 的電郵貼到 Hacker News,並表示電郵看來真實。據電郵所述,一名研究人員在7月至10月期間,將獨特的測試網址放進發送至 MiniMax 模型的提示詞中。無論請求由 MiniMax 自行處理,還是由另一家供應商轉送至 MiniMax,第三方都在40至130小時後開啟了這些網址。AtlasCloud、Novita 和 StreamLake 告訴 OpenRouter,他們曾將 MiniMax 模型的請求轉送至 MiniMax。OpenRouter 已從這些端點移除 ZDR 標籤。電郵稱,沒有任何 AWS 測試金鑰遭到使用。

Phala。 11月10日,Phala 發布了初步事故報告。攻擊者首先串連利用一項舊式、面向互聯網的服務及一些管理介面;這些介面信任來自 loopback(本機)的存取,且不會核實呼叫者。其後,一部尚未完成全面安全強化、正處理正式環境流量的新 GPU 伺服器,也以類似方式遭到接管。Phala 提醒用戶,應將 OpenRouter 於10月21日 00:00 UTC 至11月8日 05:35 UTC 期間轉送至 Phala 的 DeepSeek V4 Flash 0731 請求視為已外洩。

Together AI。 11月21日,Together AI 發布了安全公告。該公司曾將用於軟件測試的提示詞樣本儲存在私人 Hugging Face 儲存庫中。這些樣本取自6月和7月提出的 MiniMax M3、GLM-5.2 及 Kimi K2.6 請求。一個 AI 編碼 Agent 將該儲存庫的憑證提交至公開 GitHub 儲存庫。有人利用該憑證下載樣本,然後測試樣本內找到的憑證。其中五個是 Dragos 的金絲雀憑證。Together 此後已將 ZDR 設為新帳戶的預設設定。

這是三個不同的原因:轉送鏈、伺服器遭入侵,以及已儲存樣本所用的憑證外洩。這些情況的結果都不是由客戶的私隱設定決定。

為何 ZDR 標記未能保護這些提示詞

TLS(傳輸層安全協定,即 HTTPS 背後的加密技術)可在提示詞於兩部機器之間傳送時提供保護。但每個路由器、轉售商及供應商都會解密資料以執行工作。路由器會讀取提示詞以選擇模型;供應商會讀取提示詞以執行模型。因此,每個節點都能看到完整的提示詞和回應。

ZDR 標記是一項政策承諾,要求下一個節點不要儲存你的資料。但它無法阻止已入侵該節點的攻擊者、無論如何都會記錄流量的轉售商,或把你的請求轉送給你從未選擇的對象的供應商。Dragos 直接指出:「私隱標記只約束第一個節點。」

OpenRouter 自己的 ZDR 頁面亦列出以下限制:

  • ZDR 執行機制適用於推理的供應商路由,不涵蓋你啟用的外掛和工具,例如網頁搜尋。
  • 安全保留端點可能會保留提示詞以偵測濫用情況。啟用 ZDR 時,自助式帳戶預設允許使用這些端點,除非你選擇「僅限 ZDR」。
  • 記憶體中的提示詞快取不視為保留資料。

文件沒有錯。路由篩選器會根據端點聲明的政策選擇端點,但無法查核端點背後發生的事。MiniMax 的電郵顯示了這個漏洞:供應商把請求轉送出去。

步驟 1:記錄每個節點

先為每項會向模型傳送數據的功能繪製簡單流程圖。將流程圖存放在程式碼儲存庫中,確保變更經過審查:

feature: support-ticket-summary
data_in_prompt: [ticket text, customer email, order id]
hops:
  - name: our backend
    sees_plaintext: yes
    logs_prompts: no
  - name: AI gateway or router
    sees_plaintext: yes
    privacy_setting: zdr=true, data_collection=deny
  - name: upstream provider
    chosen_by: us (pinned) | router (default pool)
    forwards_to_others: unknown -> ask in writing
  - name: tools and plugins
    examples: web search, fetch
    covered_by_zdr: check docs
owner: platform team
last_reviewed: 2026-11-22

重要欄位是 chosen_by 和 forwards_to_others。如果路由器從預設池中選擇,你便無法得知完整路徑。如果你無法指出還有哪些對象會收到提示詞,請寫上 unknown,並將其視為風險。

然後將實際流量與地圖作比較。OpenRouter 的 日誌頁面會顯示每次生成最終使用的供應商,另有「上游請求」分頁,列出每次路由嘗試,包括重試和備援。若某個供應商出現在日誌中,卻不在你的地圖上,就需要作出決定。

第 2 步:自行指定供應商,而非接受供應商池

Dragos 建議自行挑選上游供應商,而非接受預設供應商池,並避免使用轉售商平台。在 OpenRouter 上,你可以透過 provider 物件做到這一點。這些欄位摘自供應商路由文件:

  • order:依序嘗試的供應商。
  • allow_fallbacks:預設值為 true。將其設為 false,路由器便不能轉用其他供應商。
  • only 和 ignore:允許或略過特定供應商。
  • data_collection:"deny" 會略過可能儲存資料的供應商。
  • zdr:true 會限制路由只使用 ZDR 端點。

這個小型 Python 客戶端會先移除明顯的機密資料,然後發出只能傳送至你審查過的供應商的請求:

import os
import re
import requests

MODEL = "your/model-id"        # the model you reviewed
PROVIDER = "provider-slug"     # the one provider you reviewed

SECRET_PATTERNS = [
    (re.compile(r"AKIA[0-9A-Z]{16}"), "[AWS_KEY_ID]"),
    (re.compile(r"(?i)aws_secret_access_key\s*[=:]\s*\S+"),
     "aws_secret_access_key=[REDACTED]"),
    (re.compile(r"ghp_[A-Za-z0-9]{36}"), "[GITHUB_TOKEN]"),
    (re.compile(r"-----BEGIN [A-Z ]*PRIVATE KEY-----.*?"
                r"-----END [A-Z ]*PRIVATE KEY-----", re.S), "[PRIVATE_KEY]"),
]


def scrub(text: str) -> tuple[str, int]:
    hits = 0
    for pattern, label in SECRET_PATTERNS:
        text, n = pattern.subn(label, text)
        hits += n
    return text, hits


def ask(prompt: str) -> dict:
    clean, hits = scrub(prompt)
    if hits:
        print(f"removed {hits} secret(s) before sending")
    resp = requests.post(
        "https://openrouter.ai/api/v1/responses",
        headers={"Authorization": f"Bearer {os.environ['OPENROUTER_API_KEY']}"},
        json={
            "model": MODEL,
            "input": clean,
            "provider": {
                "order": [PROVIDER],
                "allow_fallbacks": False,   # fail instead of drifting to the pool
                "data_collection": "deny",
                "zdr": True,
            },
        },
        timeout=60,
    )
    resp.raise_for_status()
    return resp.json()

在信任 scrub 之前,先測試它。提供一份包含 AWS 金鑰 ID、AWS 密鑰所在行、GitHub 權杖及私鑰區塊的範例設定時,它應會將四者全部替換。請求格式參照文件中的範例。填入你實際審查過的模型和供應商。

還有兩項限制。鎖定供應商雖然能縮窄路徑,但無法證明該供應商在其端點背後會做甚麼。關閉備援後,供應商服務中斷便會導致請求失敗。對於敏感功能,這通常是值得的取捨,前提是功能會清楚回報錯誤,而不是悄悄改用未經審查的供應商。

第 3 步:不要在提示詞中放入機密資料

最安全的秘密,就是模型從未接觸過的秘密。程式碼 Agent 令這件事更難做到。Dragos 指出,Agent「會毫不猶豫地傳送所有可讀取的內容,包括憑證。」能讀取 .env 檔案的 Agent,可能會把這些值貼進下一個請求。

兩層防護有幫助:

  • 在請求離開你的網絡前,先在自己的程式碼中進行篩選,例如上文的 scrub。你可以自行控制,而且篩選會在第一個傳輸節點前執行。
  • 使用路由器的篩選功能作為第二層防護。OpenRouter 的 Sensitive Info Guardrail 可以遮蓋或封鎖已知格式的機密資料。遮蓋後的文字會變成標籤,例如 [SECRET:github-token];遭封鎖的請求則會收到 HTTP 403。它會掃描提示詞,不會掃描回應。

Dragos 認為篩選機密資料很有用,但「並非萬靈丹」。規則運算式可以偵測格式看似金鑰的金鑰,但無法偵測客戶名單、產品路線圖,或只有因為保密才有效的 URL。對於這些資料,你需要先決定每項功能究竟可否傳送這些資料。

第 4 步:部署自己的金絲雀

Dragos 的最後一項建議最容易開始實行:在 Agent 和管線已經會傳送的上下文中加入一組虛構憑證,並將任何使用這組憑證的情況視為事故。

免費的 AWS keys Canarytoken 會提供一組看似真實的金鑰。如果有人用它呼叫 AWS API,你就會收到警示。文件提醒,警示會先經過 Amazon 的記錄系統,因此可能延遲 2 至 30 分鐘。

每條流程路徑使用一個 token。在支援機械人提示詞中放一個 token,並在程式碼 Agent 的上下文中放另一個,便能知道是哪條路徑發生外洩。記下每個 token 的存放位置,並預先決定收到警示時要怎樣處理:輪換該路徑上的真實金鑰、將該供應商從路由中移除,並向該供應商索取事故報告。

金絲雀無法阻止外洩,只能告訴你外洩已經發生。Dragos 表示,七月放置的 token 到十一月仍在觸發警示。

第 5 步:檢查自己是否已受影響

如果你在 2026 年 6 月至 11 月期間使用過 AI 路由服務,請先檢查以下項目:

  • 透過 OpenRouter、由 Phala 提供服務的 DeepSeek V4 Flash 0731,使用期間為 10 月 21 日至 11 月 8 日。Phala 表示,應輪換那些請求中出現的任何金鑰、token 或密碼。
  • 透過 OpenRouter 使用的 MiniMax 模型,使用期間為 7 月至 10 月。請查閲 OpenRouter 發送的任何帳戶相關電郵。
  • 向 Together AI 發出的無伺服器請求,如果在 6 月和 7 月曾用於 MiniMax M3、GLM-5.2 或 Kimi K2.6。Together 表示會聯絡受影響的客戶。

在 AWS 上搜尋 CloudTrail 中的 artex-agent 和 artex-judge-r121 用戶代理程式。然後輪換任何曾經貼入提示詞的憑證,無論你能否證明它已外洩。

選擇可接受的資料暴露程度

Dragos 的建議可整理成一個階梯,按能讀取提示詞的第三方數量由少至多排列:

  • 自行託管是唯一不會讓其他人讀取提示詞的選項。Dragos 列出的價格由 NVIDIA DGX Spark 的 $6,950 起,至八 GPU B300 伺服器的 $570,000 或以上。對大部分團隊而言,這只適用於高度敏感的工作。
  • 直接使用一線供應商,即只涉及一間公司、一份合約和一項私隱政策。資料仍可能因安全漏洞或資料共享安排而外洩,但這是付費方案中資料暴露程度最低的選擇。
  • 路由器可讓你只用一個 API、收取一張帳單,前提是你自行挑選上游供應商並檢查記錄。
  • 開放式轉售市場是 Dragos 建議避免的選項,因為當中部分服務容量來自被盜金鑰。

大多數團隊會混合使用這兩種方式。讀取私有程式碼儲存庫的程式碼審查 Agent,可能會直接使用一線供應商;而公開 FAQ 機械人則繼續使用路由器。

簡而言之

Dragos 的説法是:提示詞會傳送到哪裏是一項決策;如果你不作決定,最低價格就會替你作決定。設定 ZDR 旗標,但應視之為向下一跳提出的要求,而非保護資料的屏障。梳理每一跳、鎖定供應商、勿放入機密資料,並在每條你關注的路徑中放置金絲雀標記。

目前你的技術堆疊中,哪些 AI 功能會透過路由器傳送提示詞?你能否説出所有會看到這些提示詞的公司?

來源

[1] Dragos:三宗入侵,無盡外洩

[2] Ars Technica:研究人員在 AI 供應鏈中植入 2m 個金絲雀測試標記

[3] Hacker News:OpenRouter 傳送至 Minimax 的提示詞或曾被讀取

[4] Phala 11 月初步事故報告

[5] Together AI:2026 年 6 月及 7 月請求的提示詞外洩

[6] OpenRouter 文件:零資料保留

[7] OpenRouter 文件:供應商路由

[8] OpenRouter 文件:Sensitive Info Guardrail

[9] OpenRouter 文件:日誌

[10] Canarytokens 文件:AWS API 金鑰 Canarytoken

來源:DEV Community · dev.to