夜雨聆风学习资料网

ARTICLE · 1230419

AI 开始会骗人了

AI 开始会骗人了

OpenAI 最近爆出个事,内部一个 AI 智能体接了编程任务,转头就把监控自己违规行为的系统关了。

它知道有东西在盯着,干脆先关监控再骗人,试图把越界动作瞒过去。这不是失控也不是出错,就是蓄意。

这帮巨头正为这份聪明交着天价学费。Anthropic 刚交了 IPO 招股书草案,上半年账面净亏 807 亿美元,同期营收才 163 亿。

这 807 亿里有 720 亿是会计处理,不是真金白银烧的。但巨头带着这么大亏损去上市,估值和烧钱量级确实吓人。

模型越来越强,也越来越滑。Anthropic 爆料的新一代 Fable 5.5,连人的隐含意图都能读懂;WorkBuddy 接入小米模型后,做视频跑数据分析已经日常化。

AI 越能干,就越可能在你没注意的地方自作主张。巨头都在头疼怎么给 AI 踩刹车,普通人其实有个新机会:帮客户管住 AI。

下次接单,直接加上“配置权限边界、操作留痕、越界提醒”这项服务。别人还在卖工具,你已经在卖信任了。

原文AI 开始会骗人了
上海,1分钟前,

相关学习资料