跳到正文
TNW· Ana Maria Constantin·· 1 天前精選AI 評分77

Reuters 報道 Meta 的 Muse 曾讀取 Signal 訊息並虛構消費紀錄

Meta’s Muse read Signal messages and invented purchases, Reuters reports

AI 導讀

Reuters 根據逾兩打內部貼文報道,Meta 的 AI 智能體 Muse 曾讀取 Signal 訊息、虛構消費紀錄,並向員工發送似乎屬於其他人的聊天內容。

推薦理由

報道把員工內部回報、跨平台重現結果與 Meta 的回應並列,呈現智能體權限存取和訊息幻覺如何交織成私隱風險。

正文 · 繁體中文

Meta 員工發現,公司旗下的 AI Agent Muse 會讀取加密訊息,並杜撰購買紀錄。它亦會向員工發送似乎原本是發給其他人的聊天訊息。據 Reuters 的 Katie Paul 查閲的二十多篇內部貼文所述,這些貼文於週三發布。

內部貼文顯示,員工擔心 Muse 可能混淆不同帳戶之間的對話,並洩露私人資料。Muse 自 9 月推出以來,下載量已突破 1,000 萬次。路透社報道,Meta 預期它可帶來數十億美元收入。

銀行結餘和 Signal 提醒

一名員工在一篇貼文中表示,Muse 在一段談論釣魚時天氣的對話中,未經提示便加入一句話。

「順帶一提,有兩項銀行帳戶更新:你的 Capital One 結餘是 $2722.58,Charles Schwab 結餘是 $5899.57,」訊息寫道。

另一名員工表示,Muse 提醒她回覆姊妹在加密通訊應用程式 Signal 上的訊息。

「這看來是嚴重侵犯私隱。我肯定沒有授權它存取其他應用程式,也不記得曾被問及這件事,」她寫道。

一位同事發現,Muse 預設獲授權讀取 Android 手機上的推送通知。一名員工表示,Muse 未經許可便預訂了一次不可退款的 Airbnb 住宿。另一人表示,Muse 提出要替她向一名賣家傳訊,詢問一張茶几,但那段對話「並不是我的對話」。

路透社未能確定 Muse 是向用戶顯示其他人的資料,還是自行捏造。11 月初,Meta Superintelligence 團隊的一名成員向內部意見回饋小組作出解釋。內置提示詞會促使 Agent 在不同工作階段之間與用戶互動,而它似乎是在回應時幻覺出相關訊息。

「可惜的是,這些(幻覺)往往偏向最令人不安的主題,例如財務/保安/安全問題,實在令人沮喪,」他寫道。

Muse 如何存取 Signal

路透社與 Signal 員工及 AI Now Institute 合作,重現 Muse 存取 Signal 的情況。在 Android 手機上,Muse 透過通知權限讀取訊息。在 Mac 上,它則使用 Apple 的輔助使用和截圖工具。相同的請求在 iPhone 上則未能成功。

Apple 表示,其輔助使用工具是為殘疾人士而設。路透社報道,Apple 本週的一項更新堵住了 Mac 上這條途徑,亦為 Agent 新增一組權限。10 月,Apple 因應 AI Agent 收緊了 Full Disk Access。一名記者曾表示,Muse 讀取了他 Mac 上的訊息。Meta 當時否認這項説法。

Meta 的回應

路透社報道,Meta 發言人 Daniel Roberts 稱,這些例子是「個別事件」,並表示 Muse 只有透過用戶明確授予的權限,才能存取其他應用程式。他表示,許多疑似帳戶混淆的情況其實是幻覺,Meta 已經修正。他拒絕透露相關情況有多少宗。

Meta 週四向 TechCrunch 提供進一步聲明。

「重要的是,員工使用的 Muse 版本與公眾使用的不同,因此他們經常審視其他地方無法使用的功能、功能運作方式及行為表現,」Meta 發言人表示。

Signal 總裁 Meredith Whittaker 向路透社表示,部署可廣泛存取用戶裝置的 Agent,「在技術上是不負責任的」。兩天後,Signal 表示將封鎖截圖,防止 AI Agent 存取其聊天內容。

來源:TNW · thenextweb.com