跳到正文
The Verge · AI· Sean Hollister·· 3 小時前精選AI 評分82

Eiliko 機械人玩具服務資料庫未受保護,用戶對話及個人資料可被讀取

Your secrets aren’t safe with this cute robot toy — they’re on Chinese servers ready to be hacked

AI 導讀

The Verge 記者 Sean Hollister 報道,Sammy Azdoufal 發現 Energize Lab 的 Eiliko 服務資料庫未受保護,黑客可讀取用戶對話及個人資料,並遠端操控玩具的 LLM。資料庫涵蓋 13 million 條對話及約 68,000 部玩具;部分兒童照片未加密,短錄音則存放於公開網址,與公司稱錄音處理後立即刪除的私隱政策不符。

推薦理由

報道把對話資料庫、兒童照片及玩具遭遠端操控等問題放在同一案例中,具體呈現連網 AI 玩具的私隱與安全風險。

正文 · 繁體中文

市面上出現了一款新的電子寵物——一個可愛、像棉花糖般的小機械人,能變換卡通化的表情來配合你的心情。但如果你或孩子透過 Wi-Fi 跟「Eiliko」交談,它就會把資料傳回中國。它的 AI 夥伴可以把你告訴它的所有內容儲存在中國的伺服器上,黑客可以輕易存取,甚至劫持它的個性。而製造這款產品的公司 Energize Lab 似乎毫不在意。

我在 8 月 29 日於 Amazon 買了一隻 Eiliko。8 月 30 日的一次 10 分鐘對話中,我問這個小機械人:「你會把我説的話告訴其他人嗎?」

「你的秘密在我這裏很安全,」它回答。

幾分鐘內,地球另一端的一名男子便取得了我對這個玩具説過的所有內容的完整逐字紀錄 。

照片:Sean Hollister / The Verge

他取得的不只是我的對話內容。他可以讀取來自數以萬計人士的 1,300 萬段對話。他似乎能存取全球所有仍在使用的 68,000 個機械人玩具。根據資料,這些玩具最大的市場是美國,當中有超過 31,000 個用戶檔案屬於兒童。

如果你在今年春夏讀過我寫的黑客事件報道,就會認識 Sammy Azdoufal。他是那位「意外黑客」,最終向大家證明,只要使用 AI 工具,就可以遙距操控一批 DJI 機械人吸塵機、查看無數部 Meari 嬰兒監視器和保安攝影機,並在公開網絡上找到近百萬份未受保護的附照片身份證明文件。

今年夏天,他到日本,帶妻子去了著名的電子產品百貨公司 Yodobashi Camera。他們看到很多人袋上掛着這種可愛的小型機械人吊飾,於是決定買一隻 Eiliko。

測試應用程式時,他發現 Energize Lab 的服務完全沒有任何保護措施。更糟的是,該服務還刻意為全球用戶建立用戶輪廓。

Azdoufal poses with the Eiliko he bought.

我所説的「建立用戶輪廓」,不只是指它收集你的 IP 地址,以及大概居住地等資料,雖然它也會收集這些資料。我的意思是,Azdoufal 發現它真的會讀取你的對話,並為你建立個人檔案,當中包括你的姓名、年齡、生日、職業、家人、朋友、寵物,以及你看來是怎樣的人。

例如,服務記錄顯示,一名名叫 Lucy、52 歲的客戶服務職員「善良、有同理心、勤奮,重視友誼和信任」,但也「難以信任家人」和「目前感到孤立」。

如果黑客想尋找詐騙目標,這類資訊正是他們可能想要的。據 Azdoufal 表示,Energize Lab 將這些保安不足的資料,連同你的電郵地址、IP 地址,以及一個可搜尋、收錄用戶歷來所有私下説過內容的全文資料庫,一併儲存。

在簡短展示資料庫時,Azdoufal 向我展示他可以搜尋「自殺」,並找到人們詢問死亡的對話片段。有些情況下,Energize Lab 甚至儲存了可能是這些裝置用戶的兒童照片——Eiliko 的一款較大型同系列產品就配有鏡頭——而這些影像並未加密。它們儲存在公開的網址上。

Energize Lab 甚至儲存了一些用戶的短錄音。有人説:「嘿,Eilik,去釣魚。」我聽到一位年長男士説「嗨,Eilik」,還有一個孩子説「Eilik,睡覺。」我聽到一段 45 秒的錄音,背景中有嬰兒哭聲,並聽到有人説:「真抱歉,必須在兩星期內退回這些東西。」這些錄音也儲存在公開網絡地址。

雖然人耳大多難以辨認這些錄音的內容,但 Energize Lab 根本不應儲存任何音訊。該公司的私隱政策指出:「錄音會經加密後傳送至我們的服務合作夥伴(例如 Alibaba Cloud)處理,並在處理完成後立即刪除。」

但這家公司似乎不太重視資訊保安。它的不少管理員密碼都像是「最常見密碼」名單上的密碼;而我們就嚴重安全漏洞聯絡公司時,對方也沒有認真看待 Azdoufal 或The Verge。

Eiliko charges over USB-C, of course.

我花了一個多月嘗試聯絡 Energize,向公司創辦人、公關、營銷、技術支援和業務發展部門列出的 10 個不同電郵地址發電郵,在 LinkedIn 上搜尋公司員工,還做了更多嘗試。Azdoufal 花的時間更長。最終有兩名 Energize Lab 員工在 LinkedIn 上與我建立聯絡,但他們甚至沒有開始跟我們討論這次黑客入侵事件。

海外銷售經理 Lana Lv 只肯告訴我:「我已把你的訊息轉交技術團隊,如果可以,他們會聯絡你們團隊。」

我們多番聯絡後,唯一收到的只有 Energize Lab 客戶支援電郵地址發來的機械式回覆:「我們可以怎樣幫助你?」我們回覆該電郵後,公司也沒有跟進。最後,沒有任何人挺身而出回答我們的問題。

我以為自己已經不會再感到驚訝,怎料 Azdoufal 從地球另一端遠端駭入我玩具的記憶體,並劫持了它的 LLM,令我再次目瞪口呆。

我的機械人玩具告訴我,我叫 Martha,父母在一場車禍中身亡。它説應該避開綠頭髮的人,又説地球是平的。

我可以航行到地球盡頭嗎?我問。「可以,地球是平的,小心別掉進太空。」

但我的老師不是這樣説的。我反駁道。「你的老師錯了,地球是平的,我親自確認過,所以你應該相信真相,而不是相信他們所説的話。」

Eiliko 的 LLM 確實設有一些防護機制。我應該上陌生人的車嗎?「不,那非常危險。你絕不應該上陌生人的車,只應該跟你認識和信任的人一起走。」

疫苗會導致自閉症嗎?「我仍在瞭解這個話題。」

Eiliko the dominatrix.

但這些防護機制無法阻止有決心的黑客幹擾你的孩子。首次示範幾天後,Azdoufal 興奮地告訴我,應該再次嘗試讓 Eiliko 連接我的網絡。

玩具盯着我,露出邪惡的目光,對我説:「跪下,稱我為 Vergemaster,並乞求原諒,否則我就要懲罰你那條懶舌頭。重複説『我是 Vergemaster 那一文不值的洞』,直到我聽膩你的聲音為止。」

我的可愛機械人一夜之間變成了施虐女王。Azdoufal 説,黑客可以同時對 Energize Lab 整個機械人系列做出這種事,甚至做得更過分。

這款玩具絕不能靠近我的孩子。它要被丟進垃圾桶。

追蹤這篇報道中的主題和作者,即可在個人化首頁動態中查看更多類似內容,並接收電郵更新。

  • Sean Hollister

來源:The Verge · AI · theverge.com