抖音整治AI恶意营销号
AI 总结
抖音称,近一个月依据“账号健康分规则”处置违规短视频113.5万条、违规账号50.7万个,另有30.2万个账号通过规则学习考试等方式被引导规范创作。平台将AI恶意营销号的问题归纳为低成本同质化量产、诱导互动和传播AI虚假信息三类。其公布的案例还涉及AI仿冒公众人物、合成声线、虚构健康案例及批量生成误导内容,相关账号均已被处置。
深度见解
抖音公布的数据显示其正大规模治理AI生成的营销垃圾、仿冒和虚假信息,但相关数字与监测结论来自平台自身,并由IT之家报道,未获独立核验。
IT之家 10 月 28 日消息,据抖音黑板报,AI 工具的普及,使内容创作门槛进一步降低,为广大创作者提供了更多便捷的创作方式与表达可能。然而,部分以流量变现为唯一目的的“恶意营销号”,并未将 AI 工具用于正当创作,反而将其当作起号捷径,通过批量生成、复制爆款模板快速变现,持续侵蚀平台生态根基,严重挤压优质创作者生存空间,破坏公平竞争的创作环境。
近期,该平台监测发现,部分恶意营销号通过 AI 工具快速扩大恶意营销内容的规模,不仅在内容形式与传播手法上带来新挑战,部分账号背后还存在教学黑产组织运营,违规手段迭代快、隐蔽性强。目前来看,AI 恶意营销号主要存在三类问题:内容层面表现为低成本同质化、工业化量产;行为层面常伴随诱导互动;部分性质恶劣的营销号存在传播 AI 虚假信息的现象。为维护健康创作环境,平台针对此类滥用 AI 工具的恶意营销号进行持续治理。