央視曝光 AI 數字人「小海」虛構苦情人設帶貨，79 歲長者乘火車探望
央视曝AI人小海哭着卖惨带货 79岁老人坐火车去看望AI人
央視曝光短影片平台 AI 數字人「小海」以虛構苦情人設誘導下單，一名 79 歲長者相信其真實存在，乘火車探望時被乘警攔下。網上幾元即可買到生成教程，換臉換聲十幾分鐘便能批量複製成百上千個矩陣帳號，相關商品返佣達 52% 至 55%。抖音等平台已處置違規帳號 2 萬餘個、清理違規影片 4.7 萬餘條；法律專家指出，標註「AI 生成」不能免除虛構人設誤導長者所涉的消費欺詐責任。
近日，央视曝光短视频平台批量涌现AI数字人“小海”虚构苦命人设诱导下单，致79岁老人跨省寻亲被拦，目前涉事黑产链条已被起底并遭平台严惩。
AI数字人“小海”统一使用单亲少年形象，上演“躲在教室吃馒头”等苦情戏，一口一个“姨姨妈妈”博取中老年女性同情。
一位79岁不识字的独居老人深信“小海”存在，瞒着家人独自买火车票跨越千里去山西探望，最终在车厢被乘警拦下才得知真相。
网上几块钱即可买到全套AI数字人生成教程，换脸换声十几分钟就能批量复制成百上千个矩阵账号。
所售紫苏籽油、阿胶等商品溢价严重，品牌方返佣高达52%至55%，运营者称“选对赛道一天赚两三千算少的”。
法律专家指出，虚构悲惨人设恶意误导老年用户，标注“AI生成”不能免责，已构成消费欺诈。
抖音等平台开展“清朗”专项行动，已累计处置违规账号2万余个，清理违规视频4.7万余条。
新浪科技公众号
“掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
科学大家
新浪科技
新浪科技为你带来最新鲜的科技资讯
苹果汇
苹果汇为你带来最新鲜的苹果产品新闻
新浪众测
新酷产品第一时间免费试玩
新浪探索
提供最新的科学家新闻，精彩的震撼图片
來源：新浪科技 · finance.sina.com.cn