通过AI技术实现“日产千条视频、周产百个账号”，类似这样的“AI起号流水线”你有听过吗？

近期，抖音开始重拳出击整治这些“AI起号”了！抖音对利用AI进行账号批量生产、传播虚假信息的黑灰产链条展开了重点打击，共清理了311条违规内容，封禁了“心x甜”等15个严重违规账号。

这场针对“AI起号”的专项治理行动，近期不仅仅发生在抖音，此前小红书等兴趣电商平台也有同样动作，都对AI技术滥用展开了严厉打击。不过，与这些平台态度不同，淘宝天猫、京东等传统电商却在大力扶持商家使用AI技术。

这种冰火两重天的局面，或揭示着AI内容产业分化的本质：在兴趣电商平台苦守内容真实性的护城河时，传统电商平台正将AI锻造成突破转化率的利刃。

01

AI技术滥用6大重灾区

从抖音公告可知，本次专项行动重点整治了AI技术滥用几大重灾区：

AI生成低俗猎奇视频、AI生成虚拟外国幼儿教育专家教授育儿内容、AI视频账号售卖教程、AI账号秘籍传授、引导规避平台AI标注、转让销售AI虚拟账号等行为。

公告中表示，以任何形式赠与、借用、出租、转让、售卖账号均属违规行为。平台欢迎创作者在合理合法使用AI创作的同时积极对生成内容进行标注声明。

后续，抖音将持续加大对各类涉AI生成相关违规行为的打击力度，不断完善平台内相关内容治理能力。值得一提的是，抖音这场AI治理风暴其实一直在进行，公告显示：

2023年与2024年，抖音相继发布了《关于人工智能生成内容的平台规范暨行业倡议》以及《关于不当利用AI生成虚拟人物的治理公告》。平台在公告中明确表示，不鼓励利用AI生成虚拟人物开展低质创作活动。同时，对于违规使用AI生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣内容的行为，将予以严格处罚。

此次专项行动，抖音将监管层级从内容端延伸至账号生产环节，标志着平台AI治理进入了“全链条管控”新阶段。

02

多个平台都在重视AI内容治理

抖音此次大力整治AI起号现象，背后是对平台内容生态健康发展的深切忧虑与高度谨慎，而类似治理前段时间也出现在小红书、微信等平台。

5月12日小红书也明确公告，将重点聚焦利用AI批量生产虚假内容涨粉、利用AI起号引流带货、售卖AI起号课程、售卖AI账号等违规行为开展专项整治工作。

小红书、抖音等平台对AI批量生产内容和起号等行为打击力度之大，与它们作为兴趣电商平台的核心运营逻辑紧密相关。

对平台来说，其核心竞争力在于精准匹配用户兴趣，为用户提供基于个性化需求的内容体验，因此高质量、真实可靠且富有创意的内容是吸引和留住用户的“杀手锏”。但当AI技术被滥用于批量生成内容，看似内容数量在迅速膨胀，实则质量参差不齐，甚至充斥着大量低俗、虚假、无意义的信息，就使用户体验被极大程度地破坏。

如果平台放任不管，会给自身带来三个很大的威胁：

一是内容同质化泛滥。AI批量生成内容时，往往会遵循某种固定的模式和套路，当同质化内容如潮水般涌来，会让整个平台的内容生态变得单一乏味，失去新鲜感。想象一下，用户本来带着期望点开视频或文章，期待获取有价值的知识、有趣的观点或是审美享受，结果却刷到千篇一律的低质AI产出，久而久之，信任感崩塌，平台活跃度与留存率必然下滑。

二是创作者生态容易被破坏。兴趣内容平台的发展离不开创作者生态的繁荣。若AI起号、批量生产内容的歪风盛行，那些用心经营、原创优质内容的创作者将会被埋没在海量低质内容里，得不到应有的流量扶持与收益回报。当创作热情被浇灭，平台的创作者队伍也会逐渐流失，最终陷入内容荒芜的困境。

三是商业价值的稀释。兴趣内容平台，其商业价值建立在用户注意力资源的基础上。抖音、小红书的算法推荐机制本质是“时间争夺战”，用户停留时长背后是内容生态的多样性与真实性构成的竞争壁垒。当AI批量生产的内容开始挤占原创内容空间时，就会动摇平台赖以生存的内容护城河，最后造成平台商业价值的稀释。

因此，对这些平台来说，AI内容生产已进入“精耕时代”，对AI生成内容的治理也迫在眉睫。

03

传统电商平台为何积极拥抱 AI

截然不同的情况是：

传统电商平台对商家使用AI技术生成内容等，持大力支持态度，尤其在今年618体现得更为明显。

今年618，淘宝天猫推出了覆盖经营全流程的AI提效工具，帮助商家降低创作门槛。如“图生视频”工具，商家只需上传一张或多张商品图片，即可自动生成最长20秒的动态短视频，可以显著提升素材制作效率。此外，平台还提供“一键成片”、“智能修片”、“搭配视频”、“脚本成片”等多种视频创作能力，满足不同商家的多样化需求，助力提升商品页面的浏览量与转化率。

几天前，京东云也宣布，首次向POP商家开放五大免费AI爆款营销产品，包括直播数字人、商家客服智能体、短视频生成、京点点、京麦AI助手等创新应用，覆盖“开店-运营-营销-服务”全链路，助力商家实现降本增效与生意增长的“双轮驱动”。

因此与抖音、小红书等兴趣电商平台有所不同，淘宝、京东等传统货架电商平台在帮商家积极拥抱AI技术，这背后有着契合自身业务逻辑与商业目标的考量。

兴趣电商平台依赖的是“不确定性兴趣激发”，货架电商平台追求的是“确定性转化”。货架电商平台的首要目标是促成商品交易，其运营重点围绕提升交易效率、优化用户购物体验展开，而AI技术在这些方面能大展身手，可直接优化选品、库存、物流、客服等环节的效率。

比如，在AI内容供给上，直播数字人可以突破主播人力限制，无需担心人力疲劳与档期安排，可以持续不间断地进行商品展示与推广。凭借AI对直播场景、话术的实时优化，能够始终保持最佳带货状态，为商家带来持续的流量与销售额，这种创新的营销形式为电商平台注入了新的活力，拓展了商业边界。

对商家来讲，有了AI辅助能降低运营成本，提升店铺的曝光度与销量，从长远来看，运营成本的降低直接转化为利润空间的提升。而且，AI在货架电商平台上的应用还有可能催生全新的商业模式。

就在5月19日，罗永浩还宣布正式开启与百度优选的战略合作，将于5月23日晚8点开启首场直播。据团队透露，此次合作源于双方对AI技术驱动电商变革的共识。百度电商方面表示，双方将以AI技术为纽带，一方面通过罗永浩的选品能力为用户带来优质供给。另一方面借助百度的智能电商布局更多商家，推动直播电商向智能化、高效化升级。

综上，抖音“AI 起号” 专项治理行动只是当下兴趣电商平台应对AI内容挑战的一个缩影。兴趣电商平台与货架电商平台因业务特性差异，对AI技术呈现出了不同态度与应用方式，未来随着AI技术向产业纵深渗透，这种分化或将进一步加剧。

但无论是整治还是拥抱，核心都是为了让技术更好地服务于用户、助力行业发展。对创作者来说，也需在“人机协同”中寻找新平衡点。