攻击账户已中和
袭击检测时间
直播活动 GMV 保持
Verra Foods 在进行直播购物活动时,200多个账户的协调袭击涌入聊天,发送相同的有害信息。FeedGuardians 在60秒内检测到袭击模式,激活了锁定模式,直播活动以 $47k 的 GMV 完成,未受影响。
Verra Foods 在 Instagram Live 上安排了一场周五下午的直播购物活动,以推出一款限量版新产品。团队宣传了两周,预计在高峰时有约3000名观众,并预计在45分钟的会议中实现 $40–60k 的 GMV。
直播由创始人主持,并由两名志愿者审核员监控聊天。团队测试了设置,进行了两次产品演示,并对工作流程充满信心。他们没有预料到的是一次协调的袭击。
在直播活动进行19分钟时——观众人数达到2400名的高峰——聊天开始出现异常模式。创建日期较新的账户开始发布几乎相同的消息,攻击产品和品牌。这个模式显然是协调的:相同的句子结构,相同的论点,相同的时机。
在90秒内,消息量变得压倒性。两名人工审核员无法跟上消息的速度。一个审核员后来形容这就像“看着一条喷火的水管喷出相同的仇恨。”每条可见消息可能被数千名直播观众看到——每条可见消息都有可能影响转化。
Verra Foods 连接了 FeedGuardians,并启用了直播袭击检测。袭击检测分类器监控: (1) 异常的速度峰值, (2) 语义聚类(消息过于相似),和 (3) 账户聚类(多个账户具有可疑的新鲜度和模式)。
分类器在第一条攻击消息后47秒发出了自动警报。警报被路由到品牌的 Slack 渠道,并同时触发了直播聊天的锁定模式——要求新评论者在其消息出现之前必须经过人工审核员的批准。
直播中的创始人在手机上收到了 Slack 通知。他不需要中断演示;锁定模式已经自动激活。他继续进行产品演示,直播活动继续进行。
在锁定模式激活后,200多个袭击账户无法再发布可见消息。他们的尝试被路由到 FeedGuardians 审批队列,品牌的社区团队成员(因 Slack 警报被召入)能够在一次批量操作中拒绝所有请求。
合法观众继续参与。真正的粉丝提出真实的产品问题,几秒钟内通过队列获得批准。AI 自动回复直接处理常见问题。直播视觉效果没有受到影响——没有密切关注聊天的观众根本不知道袭击在实时被击退。
在直播的第22分钟——袭击开始后3分钟——攻击完全被控制。袭击账户被永久封锁。锁定模式在活动剩余时间内保持开启。
直播活动在45分钟内按计划完成。最终 GMV 为 $47,300——略低于活动前预测的高端,并高于品牌的直播购物活动平均水平。袭击对 GMV 没有可测量的影响,因为没有有害消息停留足够长的时间来影响购买决策。
Verra Foods 后来确定,袭击是由一个小型恶搞社区组织的,该社区在过去一个月内针对了几个挑战者零食品牌。该社区中的其他三个品牌在直播活动中遭到袭击,其中两个因此提前结束了直播。Verra Foods 是第一个完整完成活动而没有中断的品牌。
团队将袭击检测添加到每个后续直播的活动前检查清单中。现在它成为每个直播活动的常规控制。
“在我甚至完成产品演示之前,袭击就被完全击退。我在手机上收到了 Slack 通知,然后继续进行。系统已经完成了控制。这就是拥有工具和拥有基础设施之间的区别。”