美国多州总检察长联盟调查 OpenAI,关注广告、数据和未成年人保护
据报道,美国多州总检察长联盟已对 OpenAI 展开调查,纽约总检察长办公室向公司发出传票,要求提供涉及广告、用户参与与留存、模型迎合行为、消费者与健康数据处理,以及未成年人和老年人保护等方面的文件。OpenAI 表示将“建设性”回应各州关切,并强调已为未成年人和处于困难情境的用户增加保护机制。
美国政府下令限制 Anthropic 新模型,Fable 5 和 Mythos 5 被全球停用
Anthropic 表示,因美国政府以国家安全为由下达命令,公司已切断所有客户对 Claude Fable 5 和 Mythos 5 的访问。该命令据称还限制外国公民接触模型,甚至影响 Anthropic 内部员工;Anthropic 则称政府未提供具体安全问题细节,并对“越狱”指控提出异议。
亚马逊安全研究据称触发美国对白宫 Anthropic 模型禁令讨论
报道称,亚马逊 CEO Andy Jassy 与美国政府官员分享了关于 Anthropic Fable 5 的安全研究,称可通过一系列提示获得可能用于网络攻击的信息。随后,美国政府作出限制决定;Anthropic 认为相关漏洞并非模型独有,并称许多问题在其他公开模型中也存在。
OpenAI 与 Visa 合作推进代理式交易安全,AI 购物支付进入主流化试水
Visa 将把其 Trusted Agent Protocol 等安全与授权机制接入 OpenAI 相关界面,支持 ChatGPT Shopping、Atlas 等场景中的 AI 代理支付。双方强调交易将在用户或企业设置的支出上限、审批门槛和权限边界内运行,但代理式支付仍面临身份验证、误操作和欺诈风险。
KPMG 撤下 AI 应用报告,原因是多处内容疑似由 AI 幻觉生成
KPMG 撤下题为《代理式 AI 时代重新定义卓越》的报告,原因是 UBS、英国 NHS、瑞士联邦铁路和伦敦交通局等机构否认或质疑报告中关于其 AI 使用情况的说法。研究机构 GPTZero 指出,这些错误可能源于 AI 幻觉;KPMG 表示正在内部调查,并强调负责任使用 AI 需要人工监督和独立核验。
Google 起诉涉嫌利用 AI 的跨国诈骗网络,称其造成数百万受害者损失
Google 起诉名为 Outsider Enterprise 的 alleged 中国网络犯罪团伙,称其利用 AI 生成并投放冒充 Google 和其他品牌的诈骗短信,窃取密码与信用卡信息。Google 称该网络部署约 9,000 个假网站、100 万个欺诈域名,并在两周内向 Android 用户发送 250 万条短信;公司正与运营商和 FBI 合作封堵相关基础设施。
Google 推出 DiffusionGemma,尝试用扩散方式突破文本生成逐词瓶颈
Google 发布实验性开放模型 DiffusionGemma,使用扩散技术同时生成整段文本,而不是传统自回归模型的逐 token 输出。Google 称该方法可在本地和单用户场景中更好利用 GPU/TPU,并带来最高约 4 倍推理速度提升,有望降低部分 AI 推理成本。
OpenAI 收购 Ona,强化企业级 AI Agent 的安全运行环境
OpenAI 宣布收购云开发环境提供商 Ona(原 Gitpod),以加强 Codex 和企业级代理式 AI 的长期、安全运行能力。Ona 的技术将为 AI Agent 提供受控、持久的云环境,使其能够跨设备访问工具、系统和上下文,同时降低误删文件、越权操作和 token 成本失控等风险。
Mistral 据称洽谈 35 亿美元融资,估值或达 200 亿欧元
法国基础模型公司 Mistral AI reportedly 正洽谈约 30 亿欧元(约 35 亿美元)融资,潜在估值约 200 亿欧元,接近上一轮估值的两倍。报道指出,新资金可能支持其面向工业工程的“物理 AI”产品线,包括定制模型和工程仿真相关 AI 工具。
Mozilla Data Collective 推动“可信 AI 数据经济”,强调同意、所有权与公平交换
Mozilla Data Collective 正试图建立一种围绕社区所有权、数据同意和公平价值交换的新型 AI 数据市场。该组织认为,长期依赖大规模网页抓取训练生成式 AI 带来了偏见、所有权和价值分配问题;未来 AI 模型需要更干净、更有上下文、并获得授权的数据集。
夜雨聆风