夜雨聆风OpenAI 打击了一个位于柬埔寨的诈骗团伙，该团伙利用 ChatGPT 支持投资、恋爱、赌博及冒充类诈骗活动。
引言
今年早些时候，OpenAI 打击了一个位于柬埔寨的诈骗团伙，该团伙利用 ChatGPT 支持投资诈骗、恋爱诈骗、赌博诈骗以及冒充执法机关诈骗。据 OpenAI 介绍，此次调查最初源于 WhatsApp 同行提供的线索，此后该公司又向行业合作伙伴及相关主管部门共享了更多威胁信号。
OpenAI 在报告中指出，此次行动揭示了现代诈骗网络的一个重要现实：有组织犯罪集团很少局限于单一类型的诈骗。相反，他们会伺机采用任何自认为最有效的叙事、人设和手段来欺骗受害者。报告称，在其调查中经常观察到行为者在不同诈骗类型之间切换，或在一次行动中组合运用多种诈骗手法。
该网络中的部分用户还生成了暗示与人口贩运和强迫犯罪有关的内容。这些观察结果与大量公开报道相吻合：东南亚的有组织犯罪集团以合法就业为诱饵招募劳工，随后将其困于债务奴役和胁迫体系之中。OpenAI 同时承认，无法独立核实每一个涉案人员的具体处境，但认为这一活动提醒外界：实施诈骗的人本身也可能是被剥削的受害者。
行为者
OpenAI 封禁了一组协同运作的 ChatGPT 账号网络。报告称，该网络极有可能源自柬埔寨，并很可能在班迭棉吉省波贝市（Poipet）及其周边活动。公开报道已多次将波贝与网络诈骗园区和贩运活动联系起来。
报告指出，该网络利用 OpenAI 的模型创建并运营虚假网络人设，生成和翻译发送给诈骗目标的信息，为其欺诈性骗局制作推广内容，并协助处理日常运营事务。
与 OpenAI 此前打击过的诈骗网络一样，该网络中的部分用户还将 ChatGPT 用于行政事务，包括起草内部公告、在员工之间翻译消息，以及记录看似与招聘、移民身份、工作条件和员工纪律有关的事项。
行为模式
据报告描述，该网络同时开展多种类型的诈骗，且常常将不同骗局的元素混合使用。例如，运营者先以约会人设建立信任，随后引入涉及加密货币和现货黄金交易的虚假投资机会。另一些用户则以虚构身份与目标进行长时间的恋爱对话，冒充在线赌博平台代表提供虚假的奖金和赢利，或冒充执法机关告知目标因犯下严重刑事罪行需要缴纳罚款。
尽管叙事各不相同，OpenAI 观察到该网络中的用户始终表现出相同的底层欺骗行为模式。例如，他们创建并运营虚假约会资料、虚构的投资专家和冒充执法机关的人设。他们还生成伪造文件的图像，包括护照、法律文书、股票认购确认单以及赌博平台界面。
正如 OpenAI 在此前的多份报告中所强调的，诈骗者在与目标互动时遵循一种共同模式，OpenAI 将其概括为_触达_（ping，主动接触）、_动情_（zing，激发情感）、_收割_（sting，榨取钱财）。
触达（The ping）： 该网络利用 ChatGPT 翻译和生成在 WhatsApp、Telegram 等即时通讯平台上与目标的对话。诈骗者还制作社交媒体内容，并搜集约会资料素材，以支撑其虚假人设。 动情（The zing）： 诈骗信息频繁运用情感施压和信任建立技巧。例如承诺保本回报和"零风险"投资、使用浪漫情话、要求对对话保密，以及以虚构奖金即将到期为由催促对方立即行动。 收割（The sting）： 诈骗者指示受害者充值以解锁所谓奖励、支付激活费、缴纳虚构的罚款，然后提供转账截图或账户信息作为付款凭证。
据 OpenAI 披露，这是该网络中的一名诈骗者使用 ChatGPT 伪造的加密货币交易界面。
该网络中的一名诈骗者为推广虚假投资项目而生成的 AI 图像。
人口贩运迹象
除诈骗活动外，部分用户还生成了暗示其涉及其他违规活动的内容——例如人口贩运或强迫劳动，这些也是 OpenAI 持续检测和打击的对象。其中包括发布社交媒体广告，为波贝的所谓"键盘手"（chatter）岗位招人，承诺提供机票、住宿、餐食、签证和工作许可。
另一些活动似乎与该团伙内部的人员管理有关。用户维护着员工债务、工资扣款、违纪罚款和贷款偿还的记录，并翻译有关移民身份、工作许可、签证逾期和招聘奖励的讨论。
部分对话还提到疑似拘禁、逃跑未遂，以及被贩运并被迫从事诈骗的人员可能承担的刑事责任。OpenAI 在报告中强调，这些对话不足以判定任何特定个人的具体处境，但它们与大量公开报道所描述的东南亚有组织犯罪集团的活动情况一致。
该网络中的诈骗者为在社交媒体上宣传柬埔寨工作岗位而生成的 AI 图像。打码处理由 OpenAI 添加。
影响
OpenAI 表示，已封禁与此次行动关联的 ChatGPT 账号，向行业合作伙伴及相关主管部门共享了相关威胁指标，并采取措施加大这些行为者重新获取其产品和服务访问权限的难度。
该网络造成的全部经济损失规模尚不清楚，但根据诈骗者自己的通讯内容，OpenAI 估计此次行动可能已通过多种诈骗类型接触了数百个目标。用户对话中提到单个受害者损失数千美元，不过 OpenAI 表示无法独立核实这些说法。
更广泛地看，报告认为本案凸显了两个趋势。第一，有组织的诈骗网络可以高度多元化，同时运营多种欺诈骗局，而非拘泥于单一诈骗类型。第二，网络诈骗、有组织犯罪与人口贩运之间的界限往往模糊不清。因此，报告总结称，有效的打击不仅要针对面向受害者的诈骗活动，还必须针对在背后策划并从中获利的犯罪组织。