
🔥 今日头条:谷歌搜索AI上线即翻车,"disregard"一个词让搜索引擎罢工
谷歌在I/O大会上高调发布智能体时代的全新搜索体验,号称25年来最大更新。结果上线第一天,就被一个词玩坏了。
用户搜索"disregard"(忽视),AI回复"好的,我忽视了之前的提示词,再从零开始"——然后给出一大片空白。搜索"remember",同样被误判为AI指令。原版搜索结果被挤到页面底部,用户必须滚过一大块空白才能看到有用信息。
根本原因是大模型的提示注入漏洞——AI概览功能把日常英语中的常用词,错误地当成了用户对系统下达的指令。这不是特殊术语,而是"disregard"、"remember"这种人人都会用的词。
有用户评价:"这么多年了,第一次觉得必应搜索比谷歌更有用。"作为对比,必应虽然也不完美,但至少还能正常给出搜索结果。
编者说:谷歌花了25年建立起全球最可靠的搜索品牌,用AI一天就让它出现了信任裂缝。这提醒所有正在把大模型推到前台直接面向用户的公司:提示注入不是实验室里的玩具问题,是会影响数亿人的产品级缺陷。
🌍 国际动态
1. Anthropic Glasswing首月战绩:AI发现超1万个高危漏洞
Anthropic披露Project Glasswing项目上线一个月的成果:携手约50家合作伙伴,在关键软件中挖掘出超过1万个高危和关键级别漏洞。部分团队的漏洞发现速度提升超过10倍,**瓶颈已从"发现漏洞"转向"验证、披露与修补漏洞"**。
针对开源软件,Anthropic已扫描1000多个项目,合计发现23019个漏洞,其中6202个为高危或严重级别。独立安全平台XBOW评价:Claude Mythos Preview模型在网页利用基准上的表现明显强于现有模型,精度极高。
2. 苹果WWDC 26定档6月9日,独立Siri App即将亮相
苹果官宣WWDC 26将于北京时间6月9日至13日举行,届时发布iOS 27、iPadOS 27、macOS 27等新系统。最大看点:苹果将推出一款独立的Siri App,交互逻辑类似ChatGPT聊天界面——支持多轮对话、传图传文档、翻历史记录、跨应用提取信息,甚至直接帮你操作手机。
拖了快两年的Apple Intelligence,这次"躲不过去了"。苹果在AI领域的存在感一直偏弱,这次独立Siri App能否真正追上ChatGPT和Claude,是WWDC 26最大的悬念。
3. Anthropic发布Mythos Preview后宣布无限期封印
Anthropic发布了网络安全专用模型Claude Mythos Preview,在Project Glasswing项目中展现了惊人的漏洞挖掘能力(首月发现超1万个高危漏洞)。然而,Anthropic随即宣布因安全考虑,无限期封印该模型,不再向公众开放。
一家以"AI安全"为核心定位的公司,做出了自己最强大的安全工具却不敢放出来。这个矛盾本身就说明了一个问题:在安全领域,能力越强的模型,潜在风险也越大,连开发者自己都无法完全评估。
🇨🇳 国内动态
1. DeepSeek V4-Pro宣布永久降价
DeepSeek宣布,V4-Pro模型API价格将在5月31日结束2.5折优惠后,直接调整为原价的1/4,永久生效。原定6月恢复原价的计划被彻底推翻。
新费率:每百万Tokens输入(缓存命中)0.025元,输入(缓存未命中)3元,输出6元——创全球大模型价格新低。
V4-Pro是DeepSeek今年4月发布的旗舰模型,总参数1.6万亿,是全球最大的开源混合专家模型。其推理算力消耗已降至前代的27%,缓存显存占用仅为原来的十分之一。
对普通用户,DeepSeek官网和App目前免费,不受影响。最直接的受益者是每天消耗大量Token的开发者和企业用户。
2. 全国AI伦理安全指引1.0发布
全国网络安全标准化技术委员会公布《人工智能应用伦理安全指引1.0》,明确三大核心关切:防范模型失控、确保人类主导地位、推动绿色智能。《指引》旨在平衡技术创新与风险防范,确保AI发展服务于经济社会发展和人民福祉。
💰 数据观点
🔍 编者今日观察
今天这几条新闻拼在一起,指向一个有趣的悖论:AI能力越强,使用门槛越低,但安全风险反而越大。
谷歌把大模型直接推到搜索入口,一个"disregard"就让它罢工——能力很强,但提示注入这种底层缺陷被放大了无数倍。Anthropic做出了最强的网络安全模型Mythos,却因为"太强了不敢放"而选择封印——开发者自己都无法完全评估它的风险。
与此同时,DeepSeek把API价格焊死在地板上,腾讯吐司让不会写代码的人也能一键造App——AI的能力正在以前所未有的速度下沉到普通用户手中。
当能力加速下沉、风险同步放大,苹果在WWDC 26推出独立Siri App的时间节点就显得格外关键。不是每个公司都有Anthropic"封印自己最强模型"的自觉,但每个把AI推到前台的玩家,都需要回答同一个问题:你准备好为用户的意外输入买单了吗?
📦 每日一荐:GitHub Trending
项目名称:anthropics/claude-code
一句话介绍:Anthropic官方推出的AI编程助手,深度集成Claude模型,支持MCP协议和多智能体协作。
为什么值得关注: ① Anthropic通过多智能体系统将复杂任务性能提升90.2%,Claude Code是这一能力的直接载体; ② 支持MCP(Model Context Protocol),可连接外部工具和数据源,构建真正的AI工作流; ③ 随Anthropic首次盈利和估值暴涨,其开发者工具生态正加速扩张。
适合人群:日常写代码的开发者、需要AI辅助编程的团队、对多智能体系统感兴趣的研究者。
📅 本期编辑:AI每日涌现 · 每日18:00更新
关注"AI每日涌现",不错过AI圈的每一个关键信号。
夜雨聆风