微信整治短影片虛假人設,公佈 AI 造假帶貨案例並封禁帳號
微信对短视频虚假人设乱象下手了:封号!
微信發布「清朗」專項行動第3期公告,公佈多宗利用 AI 造假帶貨案例,並表示行動以來已清理違規內容 31528 條、處置違規帳號 1840 個。案例包括利用 AI 換臉、語音合成冒充名人,以及以 AI 數字人虛構悲慘身世或家庭矛盾誘導帶貨;涉事帳號已被清理內容並關閉。微信表示將加強帳號資質核驗和內容審核、規範 AI 生成合成內容標識管理,並按違規情況採取限制傳播、限制功能或封禁等處置。
快科技11月20日消息,微信发布“清朗·整治短视频虚假人设乱象”专项行动第3期公告,继续整治视频号中虚构身份、编造经历、恶意摆拍等问题,并公布了多起利用AI造假带货的典型案例。
公告显示,自专项行动开展以来,平台累计清理违规内容31528条,处置违规账号1840个。本次公示的多组账号,均已被清理相关内容并关闭账号。
其中1类是冒充名人带货。部分账号利用AI换脸、语音合成,冒用名人的肖像和声音,假借名人名义带货、引流。经核查,这些账号均未获得授权,相关内容属于虚假冒用。
第2类是用AI数字人“卖惨”。部分账号捏造悲惨身份,把带货商品包装成帮扶任务,借助用户的同情心诱导下单。看似需要帮助的人物,以及视频中讲述的遭遇,实际都是虚构的。
还有部分账号利用AI数字人编造家庭矛盾,假扮弱势群体进行营销带货。平台核查发现,相关人物和对话均由剧本编造,账号同样已被关闭。
这些案例涉及不同的造假手法:有的借名人身份获取信任,有的靠悲惨经历博取同情,有的用家庭冲突吸引关注,最终都指向带货和引流。
接下来,微信将加强账号资质核验和内容审核,规范虚构演绎、AI生成合成内容的标识管理,并持续巡查虚假人设类内容。
对于违规内容及账号,平台将根据违规性质、情节和影响程度,采取限制传播、清空违规信息、限制账号功能、暂停更新、封禁账号等措施。
其中,批量制造虚假人设、恶意营销牟利的账号及相关机构,将被从严处置。涉嫌违法犯罪的,平台将向有关部门报告。
微信提醒创作者,不要用虚假人设骗取信任,也不要靠编造剧情获取流量。用户发现冒充名人、虚构经历等违规线索,可以通过平台投诉举报渠道反馈。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:随心
新浪科技公众号
“掌”握科技鲜闻 (微信搜索techsina或扫描左侧二维码关注)
科学大家

新浪科技
新浪科技为你带来最新鲜的科技资讯

苹果汇
苹果汇为你带来最新鲜的苹果产品新闻

新浪众测
新酷产品第一时间免费试玩

新浪探索
提供最新的科学家新闻,精彩的震撼图片
來源:新浪科技 · finance.sina.com.cn