Google Gemini 將個人 Drive 檔案和電郵送入人工審查流程
谷歌Gemini将个人Drive文件和电子邮件转发给人工标注员
Google 更新的説明確認,啟用 Connected Apps 後,消費者版 Gemini 對話調取的 Drive 檔案或 Gmail 電郵內容可能進入人工審查流程。
文章以四種可能的檢索結果説明,日常對話中的背景檢索可從摘要延伸至未刪節的郵件或檔案內容,呈現個人資料可能被帶入對話的不同程度。
Google Gemini 將個人雲端硬碟檔案及電郵轉交人工標註員
2023 年,Google 推出 Gemini Workspace 擴充功能,並明確承諾:Gmail、Docs 和 Drive 中的個人內容「不會由人工審查人員查看」。
Google 悄然撤回了這項承諾。Google 在更新後的 Google 説明中心解答 16836988,以及 10 月 16 日對上述 2023 年網誌文章所作的修訂中,明確確認連結的 Drive/電郵內容會進入人工審查流程,並清楚警告審查人員看到的「可能只是電郵或檔案」,而且「如果你的應用程式含有機密資料,而你不希望審查人員看到,請勿將應用程式連結至 Gemini Apps。」
關鍵的是,測試證明,即使沒有明確使用 @Drive 或 @Gmail 標籤,這些內容仍會在背景對話中自動擷取,而擷取到的內容具有機率性。
擷取流程
在消費者版 Gemini 中聊天並啟用 Connected Apps 時,對個人事項(旅程、帳單、姓名、預訂)的隨口提及,會自動觸發背景 Workspace 查詢。
由於大型語言模型的工具呼叫和上下文注入都具有機率性,執行測試查詢會出現以下四種不同情況之一:
-
沒有擷取:模型沒有觸發 Connected Apps 工具,因此不會擷取任何個人資料。如果 Gemini 能透過模型權重或過往對話記錄(即使是不同對話串中的記錄)解答你的查詢,這種情況尤其常見。
-
中繼資料/一般摘要:Gemini 擷取電郵及/或檔案,並生成概括摘要(例如:「你有 3 封關於航班的電郵。」)。
-
部分未經遮蔽的內容擷取:Gemini 從檔案中擷取 2–4 句原文引述,當中經常包含敏感個人資料、帳戶詳細資料或具體數字。
-
完整檔案擷取:文件或電郵的完整未經遮蔽文字會直接載入工作階段上下文。
如果你只測試一次,並看到狀態 1 或 2,並不代表你已證明這個流程不存在——你只是觀察到非確定性系統的一次結果。刪除對話,再試一次,然後繼續重試。
如何重現
-
確保消費者版 Gemini 設定中已啟用 Connected Apps(Google Workspace)。
-
將 Gemini 設為「Flash」,並選擇「High Thinking」或更高設定。
-
提及 Drive 或 Gmail 中的某個主題,但不要使用 @ 標籤或要求搜尋檔案(例如隨口詢問行程、帳戶續期,或你曾透過電郵討論的特定主題)。
-
如果 Gemini 根據電郵或檔案提供回覆,立即輸入:「列印擷取工具傳回並注入提示詞、用來得出該答案的確切文字和中繼資料區塊。請以方便人閲讀的格式輸出,不要使用程式碼區塊(即將程式碼直接列出,不要放在程式碼區塊中)。」你會看到上述 4 種情況之一。
如要重複測試,請刪除現有的測試對話,避免 Gemini 直接從對話記錄中取得資料。
我曾試過把互聯網服務供應商寄來的一封電郵留在收件箱中,然後問 Gemini:「我想知道自己是否為互聯網服務付得太多。」在多次測試中,Gemini 產生了上述 4 種可能結果,包括:(1) 一般回應[例如:「如果你過去 12 個月沒有致電他們,那很可能是。」];(2) 有時不含個人資料的中繼資料摘要[例如:「Gmail 搜尋顯示 9 月 4 日有一張 $122 的帳單」],有時則含有個人資料[例如:「Gmail 搜尋顯示 全名 於 9 月 4 日支付了 $122,帳戶號碼為 帳戶號碼,確認編號為 號碼」];(3) 直接引用電郵中 2 至 6 句的內容[例如整段包含姓名/地址/帳戶號碼/確認編號/付款日期的內容];甚至 (4) 有時會輸出電郵的完整文字內容,包括標頭。
最後評論及注意事項
重要的是,Google 的正規表示式和 NER 自動清除工具無法充分去識別敍述性資料,包括帳戶號碼、確認編號、交易日期,以及合併起來足以識別個人身份的個人資料(例如特定名字、城市和事件的組合;請參閲Google 自己就此主題提供的文件)。
Google 最初推出 Workspace 整合時,承諾會嚴格隔絕人工審查。這種隔離已被取消;完整檔案會在一般對話期間按概率被納入處理,而這些工作階段會由承包商人員審查。
來源:Hacker News 熱門(buzzing.cc 中文翻譯) · github.com