抖音整治濫用 AI 的惡意營銷帳號，近一月處置 50.7 萬個違規帳號

IT之家 10 月 28 日消息，据抖音黑板报，AI 工具的普及，使内容创作门槛进一步降低，为广大创作者提供了更多便捷的创作方式与表达可能。然而，部分以流量变现为唯一目的的“恶意营销号”，并未将 AI 工具用于正当创作，反而将其当作起号捷径，通过批量生成、复制爆款模板快速变现，持续侵蚀平台生态根基，严重挤压优质创作者生存空间，破坏公平竞争的创作环境。

近期，该平台监测发现，部分恶意营销号通过 AI 工具快速扩大恶意营销内容的规模，不仅在内容形式与传播手法上带来新挑战，部分账号背后还存在教学黑产组织运营，违规手段迭代快、隐蔽性强。目前来看，AI 恶意营销号主要存在三类问题：内容层面表现为低成本同质化、工业化量产；行为层面常伴随诱导互动；部分性质恶劣的营销号存在传播 AI 虚假信息的现象。为维护健康创作环境，平台针对此类滥用 AI 工具的恶意营销号进行持续治理。

IT之家附官方公布案例如下：

案例一：通过 AI 生成诱导互动内容骗取流量快速起号

此类行为主要利用 AI 生成“神医送福”“迎财神”“致敬军人”等祝福送礼类内容，诱导用户点赞、评论、转发，骗取流量快速起号。

例如，有 450 个账号发布此类内容，模板化特征明显，获得一定流量后企图通过带货变现。

另有账号持续发布 AI 生成的冲突类小剧场，内容聚焦家庭伦理、社会矛盾等“爽文”剧情，常在视频末尾以话术引导点赞求支持，并通过大量同质化内容、账号之间互相搬运抄袭快速批量起号。其中 807 个账号因同质化严重，已被处置。

案例二：通过 AI 仿冒公众人物蹭热营销带货

此类行为主要利用 AI 数字人、AI 合成声线等技术，冒充公众人物或其亲属出镜，通过虚构事实博取信任后引导带货变现。

例如，部分账号使用 AI 数字人冒充名人亲属，以“谎称患癌、饮用某产品后痊愈”等虚假养生案例博取信任，在视频结尾引导用户到商品橱窗下单。有 1617 个账号以此方式出镜带货，多个账号之间投稿内容一致、售卖产品一致，疑似由团伙统一教学，并假称获得“抖音综艺”授权引导用户加入机构，相关账号均已被处置。

另有账号以 AI 模仿名人声线配音加洗稿文案批量产出内容，并在同一主题方向批量起号，冒充公众人物本人传播相关信息。例如，有 401 个账号通过 AI 合成公众人物声线，批量产出语录或生肖讲解内容，部分账号售卖中医相关商品，营销意图明显，相关账号已被处置。

案例三：通过 AI 批量炮制虚假信息博取流量

此类行为主要利用 AI 生成虚假画面、虚假人设或模板化谣言，以此获取流量后进行营销。

部分账号批量进行矩阵起号，用 AI 生成家电爆炸等惊悚画面抓取用户注意力，随后引流橱窗售卖相关清洁剂。例如，有 30 个账号通过此类画面引流带货，相关账号均已被处置。

另有账号使用矩阵化的新号重复投稿 AI 生成的虚假老龄孕妇内容，伪装成用户分享，实为引流试管机构。例如，有 143 个账号批量发布 AI 生成的虚假“好孕”内容引流至站外试管机构，其中绝大多数为近两个月新注册账号，相关账号均已被处置。

还有账号利用 AI 生成模板化婚恋人设，吸引流量后转向其他变现方向。例如，有 66 个账号通过 AI 生成中老年男性形象搭配告白音频吸引中老年女性关注，相关账号均已被处置。

案例四：利用 AI 生成恐怖迷信与猎奇内容博取关注导流牟利

此类行为主要利用 AI 生成封建迷信、阴间恐怖等猎奇内容，或渲染迷信氛围骗取用户互动，随后通过售卖祭祀用品、引导付费测算或私域导流等方式牟利。此类内容不仅容易引发用户心理不适，还可能借机传播封建迷信、误导用户。

例如，有 32 个账号以“道人”“师兄”“先生”等古风道家昵称命名，投稿以民俗分享为幌子，批量发布 AI 生成的地府生活、亡魂归程、阴间打工、祭祀超度等迷信内容，通过渲染 " 地府没钱寸步难行 " 制造用户焦虑，引导购买玉皇钱祭祀用品；另有 154 个账号利用 AI 生成白狐、神兽、观音菩萨等形象，叠加音频送祝福、送财运，还通过“天堂探亲”“冥界寻亲”等方式，骗取评论区互动，起号后引流站外“提供帮看逝去亲人现状”等付费服务。平台已对相关违规账号进行处置。

案例五：借助 AI 工具低成本复制内容批量起号变现

此类行为不局限于特定内容题材，而是将 AI 工具当作起号捷径，一款玩法在平台火爆后，大量营销号便跟进通过 AI 模仿批量起号，并沉淀出付费教学的黑灰产生态，一些流量转化路径较短的赛道，成为此类违规行为的高发区。

例如，有 304 个账号批量发布 AI 治愈类内容，以情感共鸣、童年怀旧为情绪钩子吸引用户，涨粉后转向套取流量激励变现；另有 732 个账号打着“科普”名义，批量发布历史人物传、中药材故事、国学文化等模板化内容，为后续带货或知识付费做铺垫；有 108 个账号集中发布民间故事题材内容，不同账号情节套路高度雷同，批量复制爆款模板；此外，有 296 个账号利用 AI 批量生成人物背景、对话脚本、售卖商品高度相似的带货视频。相关账号均已被处置。

IT之家从公告获悉，近一个月，抖音平台依据“账号健康分规则”，累计处置违规短视频 113.5 万条，处置违规账号 50.7 万个，30.2 万个账号通过参与平台规则学习考试等方式引导其规范创作。后续平台将持续加大对滥用 AI 工具实施恶意营销行为的打击力度，加强对黑产工具和教学组织的追溯打击，同时欢迎用户通过举报渠道提供违规线索，共同维护清朗网络环境。