内容安全是字节跳动的首要任务，不同市场有不同的监管要求。这道题考察候选人设计带有人机协同工作流的ML流水线的能力，处理多模态内容（视频、音频、文字），以及在自动化效率和人工准确性之间做权衡。
概述多阶段流水线：上传时自动预筛、基于ML的分类、人工审核队列和发布后持续监控。
描述涉及的ML模型：视频帧分类（色情、暴力）、语音识别与分析、OCR文字提取和多模态融合。
阐述决策框架：根据不同违规类别设置自动通过、自动拒绝和送审的置信度阈值。
讨论可扩展性和反馈闭环：人工审核标签如何改进ML模型、边缘案例的主动学习以及地区政策定制。
我会设计多层审核流水线。上传时用轻量模型做预筛：感知哈希匹配已知违规内容库，快速分类器拦截明显违规。通过预筛的内容进入主ML流水线：对视频帧采样并用CNN分类（色情、暴力、危险行为等），对音频做语音识别并分析仇恨言论，OCR提取画面文字检查违规。融合模型综合所有信号得出置信度分数。违规置信度超过0.95的自动拒绝，低于0.3的自动通过，中间区间进入按优先级排序的人工审核队列。人工审核员使用专门工具并参照地区政策指南。他们的判定通过主动学习回流到模型训练中，重点采样决策边界附近的困难样本。发布后的持续监控会根据用户举报和更新后的模型重新评估内容。
强调多模态特性——字节的视频包含视觉、音频和文字内容，都需要审核。
讨论不同地区的政策差异，字节在中国、美国、欧盟和东南亚面临不同的监管要求。
提到成本与准确性的权衡：人工审核成本高，优化自动决策率至关重要。
采用对抗训练增强模型鲁棒性，部署蜜罐检测反复试探边界的账号，对标记账号实施更严格的阈值进行多轮审核，并持续用新发现的规避手法更新模型。
核心指标包括各违规类别的精确率和召回率、自动决策率（不需人工审核的比例）、违规处理时效、影响创作者体验的误判率，以及人工审核员间的一致性。