程一笑搞得了AI,但躲不过黑产的“暗箭”?

这个结果显然不是程一笑想要的。 

12月23日,因为一场大规模网络攻击,快手APP一度冲上App Store中国区免费榜第二位。但同时,快手股价盘中一度下跌5.7%,截至今日收盘,下跌3.52%。 

就在前一晚22时左右,快手APP多个直播间出现涉黄、低俗、暴力内容。比如,有直播间播放色情影片;还有类似手术缝合的直播,场面血腥;还有违规直播间单场观看逼近10万人,评论区留言更是不堪入目。 

多位用户反馈,看到违规直播间点击举报后,系统提示“失败”或长时间无响应。这一状况,持续至深夜,平台才紧急“无差别关停”直播频道,次日凌晨2点才逐步恢复。 

这几个小时,快手经历了堪称近年来中文互联网最严重的安全事故。

但快手的表现,让包括前员工在内的用户吐槽为“草台班子”,对其审核机制、应急预案以及安全策略提出质疑。甚至关联到快手近期的新一轮裁员,调侃快手“裁到大动脉”。 

快手官方在当晚的通报中确认,事件为“黑灰产恶意攻击”,并说明有部分用户账号被盗用。平台已向公安机关报案,并将联合监管部门开展溯源,同时通知相关用户完成账号核验与安全重置。 

网易科技比较精细的还原了整个事件的始末,称,有快手员工表示,(事件爆发时)正是快手下班的时间。 

但攻击并非毫无征兆,当晚21时30分起,已有零散用户反映登录验证码加载异常、视频播放卡顿,少量主播称直播推流不稳。这些细微异常多被归为网络波动,未引起广泛警觉。 

22时整,攻击全面爆发。据监测数据显示,峰值时段约有1.7万个被控“僵尸账号”同步开播,直播间集中推送色情低俗内容,形成刷屏效应。 

期间,部分用户举报功能短暂失效,大概率是黑灰产在投放违规内容的同时,还对平台处置通道实施了干扰。 

12月23日中午,快手在港交所发布公告称,平台的直播功能在2025年12月22日22时左右遭到网络攻击,公司已第一时间启动应预案,经全力处置与系统修复,直播功能已逐步恢复正常服务,其他服务未受影响。 

快手还表示,“本公司始终严守合规底线,坚决反对任何违规内容及行为。本公司强烈谴责黑灰产的违法犯罪行为,已就上述事宜向公安机关报警并向相关部门报告,并将视情况采取其他适当的法律补救措施,以保障本公司及其股东的权益。” 

但直到目前,快手还没有对外披露此次事故发生的原因。 

相关猜测多来自网络安全公司或者从业者,其中一个观点是:此次攻击中,黑产团伙利用“接码平台”批量获取虚拟手机号,绕过实名认证环节,通过自动化脚本注册或盗用沉睡账号(即“僵尸号”),在同一时间开启约1.7万个直播。这些账号开播即违规,被封即弃,不留操作痕迹。 

虽然是受害者,但快手还是需要认真回答这些问题:为什么是现在?为什么是快手? 

程一笑只有给出回答,才能真正度过这次危机,以及对短视频行业产生的震荡。要知道,这不是某个小平台的偶发事故,而是发生在日活达4.2亿的快手身上。 

尽管快手宣称,平台采用“AI审核+人工复核”双轨机制,并且是初审与复审的双层审核制度。此外,快手直播还需要账号先进行实名认证。 

这也是包括直播在内,国内内容平台普遍采用的审核机制模板。 

但此次事件中,黑灰产能够轻易攻破快手的“防火墙”,该体系明显承压崩溃,并将快手风控体系与审核机制的短板暴露在公众面前。而且,快手的审核机制还暴露出两个关键问题: 

一是AI模型对录播类违规内容(如直接播放淫秽影片)识别滞后;二是缺乏应急熔断机制,在突发性高并发攻击下无法优先处置高危直播。 

不少行业人士关注到,快手日活虽然追赶抖音无望,但还是一直在缓慢增长。 

与之对应,快手在内容审核方面的投入却增长缓慢。字母榜提到,2023年,快手内容审核培训参与人数超过5600人,培训场次为26786场次。到了2024年,这一数据分别是6453人和21760场,场次同比减少5026场次。 

日活在增长,培训场次却在减少。虽然没有证据表明,快手裁员波及到安全团队,但在“降本增效”的指令下,风控与审核等非直接创收部门是否获得足够资源投入,确实是一个大问题。就像有网友评价,“安全投入看不见ROI,最容易被优化。” 

当下的快手,正在程一笑的带领下,全力丰富AI故事。后者正亲自带队推进大模型“可灵”,强调“AI优先”战略。 

今年三季度财报财报电话会上,程一笑表示,从AI 技术创新到应用落地,再到营收增长的良性循环,正在快手内部形成。他指出,“从长期来看,我们相信这种全方位的 AI 应用生态,能够使快手具备更强的市场适应性和增长潜力。” 

需要补充的是,今日早间,360数字安全复盘快手直播事故,称这是一场精心策划的AI化攻击。 

如果快手最后给出的解释也是这样,那这轮危机就显得戏剧性:AI的魔法对轰,快手落了下风。

或者说,程一笑搞得了AI,但他没能躲过黑灰产的“AI暗箭”。

对于整个短视频行业而言,程一笑遭遇的这轮暴击,也是敲响一记警钟。 

就像我的一个朋友,在看完昨晚快手的直播内容后说,快手是否面临合规责任暂时不知道,但它确实替友商扛住了一轮压力。接下来,就看短视频甚至内容行业,如何应对和作答了。 

我的另外一个朋友,“甘德霜讲故事”也发文说,快手提供了一个释放的窗口,作为每一个借此宣泄过的参与者,我们要做的是,不能是嘲笑他,而是批判性地同情他。

我是唐辰同学,关注互联网科技及商业故事。原创内容,未经许可,谢绝转载。

「唐辰同学」

钛媒体、36氪、老虎财经热榜

澎湃新闻2024年最澎湃创作者

老虎财经2024年度优秀专栏

河南日报·顶端新闻2024年度影响力作者

界面新闻优质榜单

老虎财经2024年度优秀专栏

腾讯新闻年度优质热问答主

2023搜狐新闻年度优质创作者

人人都是产品经理2023年度优秀作者

2023网易新闻年度内容合伙人

界面、36氪、钛媒体、澎湃、21财经、蓝鲸、老虎财经等平台专栏认证作者


nginx