男子发私照让AI“评身材”被封号:国内外AI都有人审,国内明显更严|传说网

日前，北京一男子在AI助手“豆包”发送私密身材照求评价，结果账号被封。这一事件揭开了一个行业真相：你以为在跟机器“私聊”，实际上背后普遍存在“机审+人审”的双重关卡。当机器对一张照片是否属于“软色情”拿捏不准时，就会流转到真人审核员手中做最终裁决。

图源网络

国外AI：人工介入多集中在“高危”与“训练”

国外主流AI同样离不开人工审核，但介入的逻辑与国内有所不同。

1️⃣ OpenAI（ChatGPT）： 采用“自动化技术+人工审核”监控。虽然强调隐私，但在处理被标记的违规内容、以及针对自杀倾向等高风险对话时，会引入人工复核机制。此外，为了训练模型对齐人类价值观，大量数据经过人工标注。

2️⃣ Meta（Llama等）： 其AI相关硬件（如智能眼镜）的影像数据曾被曝光传至人工审核人员进行标注，审核员甚至接触到裸体、如厕等极端私密画面。

3️⃣ 谷歌与AWS： 侧重于在高风险自动化决策中提供人工监督接口，确保算法结果可被人类推翻或修正。

国内AI：全链路、强合规的“网格化”审核

国内主流AI（包括豆包、DeepSeek、文心一言、通义千问、Kimi、元宝等）不仅都有人工审核，且受监管驱动的痕迹非常明显。

1️⃣ 全覆盖机制： 几乎所有面向消费者的国产大模型都建立了“关键词过滤+上下文识别+人工复审”的三级防御网。一旦涉及政治、历史、宗教、色情等敏感边界，人工审核的介入几乎是必然的。

2️⃣ DeepSeek 同样不例外： 作为目前国内使用率最高的AI产品之一，DeepSeek 在官方服务侧部署了外部风险控制系统（含安全审查提示词）进行二次把关；其价值对齐也采用了人类反馈强化学习（RLHF）等手段，并受国内《生成式人工智能服务管理暂行办法》等法规约束，必须落实安全审核与内容合规义务。

3️⃣ 伦理与合规并重： 除了内容安全，国内AI还设有专门的“AI伦理审查”团队，对模型输出的价值观进行人工校准。

核心比较：国内是否更严格？

结论是肯定的。虽然都有人工介入，但“严”的维度不同：

维度	国外AI (如OpenAI, Meta)	国内AI (如豆包, DeepSeek, 文心等)
审核驱动力	产品责任与法律风险（如防止生成恐怖主义内容、应对隐私诉讼）	强监管合规（遵守《生成式人工智能服务管理暂行办法》及“清朗”系列行动）
介入时机	后置为主：多在违规举报、高危风险（如自残）发生后介入	前置+后置：既有实时风控拦截，也有事后巡查，甚至模型上线前的人工红队测试
覆盖范围	相对聚焦于违法与极端有害内容	全链路管控：从用户输入、模型推理到结果输出，全程受控，覆盖面更广
透明度	相对透明，常在协议中提到“可能有人工查看”	相对含蓄，多在冗长协议中提及，用户界面较少显著提示