「AI視頻已能逃過人臉識別系統」衝上熱搜,轉帳及核驗務必多重核實
“AI视频已能逃过人脸识别系统”冲上热搜!提示:涉转账、核验务必多重核实
杭州市中級人民法院公佈的案例顯示,兩名不法分子以他人照片生成點頭、眨眼等動態影片,再篡改相機數據,成功繞過購物平台的人臉核驗並盜取帳戶內的個人資料。另有大學生利用 AI 人臉偽造影片重設支付密碼,在不到四個月內盜刷銀行卡 5 萬餘元。文章建議視像通話時要求對方完成指定動作,並避免向陌生人提供重要個人資料。
据央视网报道,杭州市中级人民法院今年公布一起案例,AI生成视频,已经能够逃过人脸识别系统。
两名不法分子利用网络收集他人照片,通过AI生成点头、摇头、眨眼等动态视频,再通过篡改相机数据,成功突破了购物平台的人脸核验,盗取了账户内的个人信息。

AI技术滥用,以假乱真实施诈骗
当前,AI生成的视频越来越让人真假难辨,不少人利用AI换脸、声音克隆等技术生成虚假视频实施诈骗。
10月18日,演员吴越公开发声,怒斥某账号用AI假冒她的形象和声音,推销护肤品。根据吴越保留的截图,该商品累计销量达16492件,粗略估算销售金额超过130万元。造假视频结尾甚至还出现了仿冒奥运冠军邓亚萍的形象继续带货。
据央视财经报道,日前,长沙市雨花区人民法院审理了一起利用AI生成人脸伪造视频盗刷银行卡案件。一名大学生在非法网站购买了“AI人脸伪造视频”技术,制作他人人脸动态视频,重置支付密码,在不到四个月的时间里,盗刷银行卡5万余元。
AI诈骗为何屡禁不止?专家分析,“几十元、十几秒音频就能‘复刻’任何人,门槛极低、模板可批量复制、封号就换壳,这是乱象屡禁不止的根源”。
如何防范AI诈骗?
新型AI诈骗花样频出,伪装性越来越强,日常生活中我们该如何防范?
1. 视频通话时,让对方做出指定动作(比如眨眼3次、摸摸鼻子,用手指或其他遮挡物在脸前晃动),如画面出现延迟或异常扭曲等不自然的微小变化,那对方很可能正在使用“AI换脸”技术;
2. 在非必要情况下,不向陌生人提供身份证号码、工作单位、家庭住址、职务等重要信息,尽可能避免将人脸、照片、声音、指纹等留存到网站和小程序上;
3. 接到陌生来电的时候,如果对方一直不说话,您也先不要主动说话,安静等三秒钟,对方持续不出声,那就要及时挂断;如果接通后是冒充所谓客服的AI机器人,同样不要出声,立刻挂断。
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn