OpenAI打击协调蒸馏行动

OpenAI在9月30日发文说，它发现并打断了一场有组织的行动，对方想套取其模型受保护的推理过程，最早的痕迹可以追到7月第一周。
这类行为叫对抗性蒸馏，就是未经授权，批量拿一个模型的输出和推理过程，去训练或复现另一个模型。OpenAI说对方没有破解加密，也没碰到已存的用户对话，而是通过操纵对话把推理套出来。7月24日和25日是高峰，相关请求约1.6万次，涉及4000多个用户；继续排查后，发现相关用户集群超过1.5万个，到7月28日已经全部处理掉。
处理办法包括封禁或限制相关账户，关掉一条被利用的通道，并和第三方服务一起清理涉事账号。相关信息已经通过前沿模型论坛分享给同行。接下来要看行业会不会公开更多防护细节，以及类似手法会不会换个样子再出现。