夜雨聆风学习资料网

ARTICLE · 1110732

OpenAI 发现 1.6 万次请求,专门套路 GPT 有没有没说出口的话

OpenAI 发现 1.6 万次请求,专门套路 GPT 有没有没说出口的话
大家好,我是鸭鸭。

有人拿到一段 GPT 返回的加密内容,开个新对话,又把它发回给 GPT,问它里面写了什么。

这操作有点离谱。加密的东西,跑去问生成它的模型,指望它自己念出来?

OpenAI 昨天发了一份安全报告,说他们从今年 7 月开始发现有人这么干。7 月 24 日和 25 日,两天里出现了约 1.6 万次带有相关提取模式的请求,涉及 4000 多名用户。

对方盯上的是模型藏起来的推理过程。平时我们问 GPT 一个问题,拿到的是最终回答。它中间怎么琢磨的,模型服务商不会全给你看。有些 API 为了让下一轮对话接着往下推理,会把这部分内容加密后交给客户端保存,下次调用再带回来。

于是,那段看不懂的密文就成了目标。OpenAI 描述的一种尝试,是把一个对话里的加密推理片段复制出来,塞进另一个对话,让模型把隐藏内容转写成明文。

7 月的那批人到底拿到了多少?报告没给成功数量。它脚注里还特意写了,1.6 万统计的是提取尝试,不能当成 1.6 万次得手。

更早一些,独立安全研究人员做过相关实验。他们发现,这类加密片段可以在同一家厂商的不同会话、不同用户,甚至不同模型之间复用。研究人员没破解加密算法,而是让另一个模型处理这段内容,成功拿到了原本不该直接显示的推理文本。OpenAI 在报告里也承认了这条攻击路径,并表示已经补上了跨用户回放的一处漏洞。

那篇研究论文还检查了公开代码仓库里的会话记录。31 万多段加密推理内容中,研究人员找出了个人信息和凭据。这是他们单独做的实验,跟 OpenAI 报告里的 7 月请求没有混在一起算。

OpenAI 还把一个核心集群指向与月之暗面有关联的人。它同时说,无法确定观察到的所有请求是不是同一拨人发的。截至写稿时,我还没找到月之暗面针对这份报告的公开回应。

明文里的 API Key 知道要删。下次要公开 Agent 的完整会话记录,那一长串看不懂的加密块,也别直接当成无害乱码。

鸭鸭给你分享一道题。

Git 的 fork 复刻、branch 分支和 clone 克隆有哪些区别?

回答重点

Git 中的 fork、branch 和 clone 是三个非常重要且经常使用的概念,它们的主要区别如下:

1)fork 复刻:这是在 GitHub 或 GitLab 等远程代码托管平台上,将某个仓库的整个代码库复制到自己的帐户下。fork 后,你会拥有该仓库的一个正本的副本,可以在此基础上进行修改,并通过 pull request 向原始仓库提交更改建议。fork 主要用于对开源项目做贡献或进行定制开发。

2)branch 分支:这是在同一个 Git 仓库内创建的分支,方便并行开发。Git 分支是轻量级的,它们允许你在不同的分支上实现不同的功能或修复 bug,而不会影响主分支。合并分支时,可以通过合并操作将它们的更改整合到一起。

3)clone 克隆:这是将远程仓库的一个完整备份复制到本地机器上。clone 后,你会有一个对仓库的本地副本,包含其所有历史记录和版本。克隆主要用于获取整个项目代码,进行本地开发。

扩展知识 

1)实际应用:

  • fork 通常用于想要贡献到另一个人的项目但没有直接写权限的情况下。你可以通过 fork 来创建自己的副本,然后对这个副本进行改动,改动完成后再通过 pull request 提交给原项目。

  • branch 常用于团队协作开发中。为了确保每个开发者可以并行开发而不相互干扰,通常会为每个新功能或修复创建单独的分支。例子包括 feature 分支(功能开发)、hotfix 分支(紧急修复)、release 分支(发布准备)。

  • clone 是每个开发者的起点操作。在你开始参与一个项目时,你需要克隆该项目的仓库,这样你就有了项目的全部代码历史以及所有分支的本地副本。

2)命令对比:

  • fork 没有对应的 git 命令,因为这是代码托管平台上的操作。

  • 创建新分支命令为 git branch <branch_name>,切换到新分支命令为 git checkout <branch_name> 或更现代化的 git switch <branch_name>。

  • 克隆远程仓库的命令为 git clone <repository_url>。

3)操作结果:

  • fork 会在你的 GitHub 或 GitLab 账户下创建一个新的仓库副本。

  • branch 会在现有仓库内生成一个新的并行开发线,允许并行且独立的开发。

  • clone 会在本地电脑上生成一个完整的仓库副本,包括所有分支和 commit 历史。

4)实际场景中的问题:

  • 当你对 fork 创建的仓库进行了改动,如何同步原仓库的更新?这通常需要通过 git remote add upstream 添加原仓库并使用 git fetch upstream 及 git merge upstream/master 等命令进行同步更新。

  • 如何管理多个分支及其合并冲突?版本控制策略(如 GitFlow)以及冲突合并工具(如 KDiff3、Meld)的使用非常关键。

  • 克隆的大仓库可能会花费大量时间和空间,这时 Git 的浅克隆(git clone --depth 1 <repository_url>)会是一个有效的选择。

篇幅有限,完整答案可以点击下方进行查阅:

我们精选了近两年的高频面试真题,已经有 10000 多道面试题目啦,由大厂资深面试官手写答案,押题命中率超高!

不仅有传统八股文,场景题、项目题、系统设计题等等应有尽有,还在不断更新中!

目前优惠最低特价 129 元即永久(限时上架)畅看所有面试题和答案,正式运营价格为 399+,不要错过这次优惠哈!

且,现在邀请好友注册并成为会员,还可获得 10% 的分佣🧧!详情见面试鸭拉新邀请有赏规则(网页版面试鸭点击头像查看)

网页端网址:www.mianshiya.com

往期推荐

26届春招突然加速,错过这波真要“家里蹲”了!

蚂蚁集团年终开奖

美团年终奖,开了!

大厂开工红包汇总

Leader:“岗位被 AI 替代,降薪 1 万你接受吗?” 我:“不接受。” Leader:“恭喜你,那公司赔你 2N。”

赛博乞讨成真?这泼天的富贵我也想要!

同事:“卧槽,你上班刷BOSS直聘,不怕被发现?“我:“嘘,准备跑路了,听说现在行情很好..“

相关学习资料