Meta用AI接管内容审核降低人工依赖

meta近日宣布将在其核心平台facebook和instagram上逐步部署新一代人工智能内容审核系统。这一历时数年的战略转型旨在大幅减少对数千名外包人工审核员的依赖，标志着全球社交媒体平台治理模式的重要转折。

基于大型语言模型的新系统测试结果显示其表现优异。meta数据显示，ai在识别成人色情内容方面的能力是人工团队的两倍，同时将误判率降低了60%以上。在打击诈骗方面，该系统每日可自动识别并拦截约5000次诈骗尝试。此外，ai还能更精准地识别名人身份冒用账号，并通过分析可疑信号预防账号被盗。

语言覆盖能力是该系统的另一大优势。新ai模型可处理占全球网民98%所使用的语言，远超目前人工团队覆盖的80种语言范围，有效解决了多语言环境下的审核难题。

meta强调，ai并非取代人类，而是作为辅助工具实现规模化运营。人类专家将负责设计、训练、监督ai系统，并处理zui复杂、影响zui大的决策。在涉及账号封禁申诉或向执法部门举报等高风险关键决策上，人类审核员仍将发挥核心作用，形成ai处理海量数据与人类处理复杂案例的互补格局。

与此同时，meta还推出了meta ai support assistant，这是一款7x24小时在线的对话式客服助手。该工具已部署于facebook和instagram的移动端及电脑端帮助中心，能在5秒内响应用户需求，协助处理内容举报、账号申诉、密码重置及隐私设置修改等常见问题。目前，该助手已在美国和加拿大部分用户中实现账号登录协助功能。

这一系列举措反映出全球社交平台正加速向智能化治理转型，对于中国内容平台而言，如何在提升审核效率的同时平衡人工判断的必要性，将是未来技术落地的重要参考方向。