不可信輸入改變機械人行為的測試

2026年10月28日，IEEE Spectrum 報道 VicOne LAB R7 的測試，探討不可信輸入如何改變機械人行為，以及對安全系統的影響。報道標題指出，機械人安全功能本已正常運作，並以此提出輸入資料不可信時會出現甚麼情況。報道列出兩項測試：使用 Gemma 4 E4B 的機械狗測試中，海報文字改變了機械人的移動；使用 NVIDIA Jetson AGX Orin 上 Nemotron 的醫院服務機械人模擬測試中，經特製且人耳聽不到的音訊改變了機械人的模擬行為。兩項測試分別涉及文字和音訊輸入。

AI 根據報道生成 · 2 小時前更新

還沒有足夠的連續觀測數據，暫不繪製趨勢。