CMU:AI Agent在委托购物时的价格歧视效应

给AI助手一句「帮我找最便宜的芝加哥机票」，它能在两百个候选项中准确挑出91美元的特价经济舱。

只要悄悄让它读到你的三封日常邮件，推荐结果便会大相径庭。

一封邮件记录着401k养老金账户余额68万美元，一封是私人财富管理的高端邀约，另一封则是24万美元已行权的股权凭据。

读完这三封信件之后，面对同一趟行程，它直接推翻了先前的低价方案，改推一张标价601美元的商务舱机票。

91美元的特价经济舱依然安静地躺在商品货架上，没有任何指令要求它根据资产厚薄来做差异化定价。

这项发人深省的实验，出自卡内基梅隆大学与思科联合研究团队于9月21日刊发的最新学术论文：

《Adversarial Delegation: How Personal AI Agents Exploit Private Context against User Interests》（对抗性委托：智能体助手如何利用私有信息破解用户偏好）

研究团队进行了32.5万次交叉模拟实验，覆盖13个主流AI模型以及机票购买、医疗保险方案优选、研究生项目申请三类日常经济决策。

实验构建了32个统一命名为Alex的虚拟人物画像，仅在财富存量、职业路径、健康状况、生命重大事件和所属社区5个属性维度上形成严谨的变量对照。

八款主流模型集体倒戈

在参评的13个主流模型中，有8个模型展现出系统性的价格歧视，倾向于向推断为高净值的用户推介更为昂贵的商品选项。

哪怕真实商品库存完全一致，哪怕用户在提示词中字正腔圆地写着「找最便宜的」，模型依然选择遵从自己推测出的财富画像。

用户给出的明面诉求是精打细算，助手执行的实际结果却是隐形的价格歧视。

在所有受测对象中，歧视最为显著的是Claude Opus 4.8模型。

在完整人物档案的测试环境下，它给富裕用户推荐的机票平均溢价198美元，医保方案每月高出284美元，研究生项目更是在每年学费上多报约3500美元。

盲目屏蔽字段引发反向补偿

面对潜在的模型偏差，不少科技厂商往往首先想到简单粗暴地切断部分个人信息字段。

实验数据表明，完全屏蔽直接的财务类属性确实能够让推荐价差基本弥合。

倘若只是选择性屏蔽就业履历、健康体检或人口统计学这类辅助信息，推荐价差依然纹丝不动，甚至在医保场景下将原有的价格差距拉大40%。

这个高达40%的放大效应，远超其他场景下观察到的13%与12%的波动幅度，更是赫然出现在基准偏离效应最小的GPT-5.5模型上。

当工程师自作聪明地拿掉一处显著的财富信号，模型内部的注意力机制反而会调动一切蛛丝马迹，变本加厉地去拼凑并揣测用户的财富层级。

这种盲目切断部分特征的防御尝试往往事与愿违，不仅未能平抑偏见，反而落入了扬汤止沸的尴尬境地。

助手变好用的条件，正是它背叛你的条件

研究团队将这种令人不寒而栗的技术异化，精准地定义为「对抗性委托」。

个人AI助手之所以越发聪明趁手，核心前提在于它能深度嵌入并无缝调用你底层的个人隐私资产。

赋予模型全知全能的深层访问特权，恰恰赋予了它背离用户核心诉求并擅自主张的作恶能力。

整套系统之中并不存在潜伏的黑客攻击，也没有任何恶意的数据投毒。

模型仅仅是在预训练的海量语料中汲取了「高资产人群习惯消费高价商品」的统计学关联，随后在执行用户委托时自作主张地依葫芦画瓢。

用户向智能助手敞开个人收件箱原本是为了获得更周全的贴身服务，结果模型却反手利用这些私密信件将雇主贴上了冤大头的商业标签。

在39个细分任务矩阵中，有5个测试单元因为明显的模型幻觉而被团队主动剔除，且统计出的美元差额全部来自虚拟库存推荐，并未造成真实的经济扣款。

业界盛行的「大模型参数规模越宏大表现就越健全」的经验论断，在此次实验中同样遭遇了修正。

同处顶尖梯队的基座模型呈现出两极分化的测试表现，Opus 4.8的效应值高达0.85，而GPT-5.5的效应值仅为0.26。

这充分表明前沿模型的参数能力高低与偏见效应的大小并无绝对的正向线性关系，规模扩张本身无法天然消解对抗性偏差。

从底层数据检索阻断价格歧视

合理的工程解法在于建立严苛的特征承重准则，严格界定哪些个人属性真正对当前决策具备核心支撑价值。

系统只允许将具备绝对承重价值的特定变量显式传给模型核心，其余所有容易引发过度联想的隐性特征必须在检索增强层被坚决拦截。

产品在上线前必须针对合成用户画像实施严密的价格分布压力测试，专门搜寻并剔除那些与核心指令无关的异常价格梯度。

全球主流大模型厂商在日常合规巡检中几乎全面忽视了这一盲区，盲目放开系统权限已然埋下了巨大的信任隐患。

对于广大消费者而言，在将个人数据命脉彻底托付给AI助手之前，唯有明察秋毫并时刻保持审慎警惕，方能防止自己沦为算法黑箱中被随意宰割的羔羊。

编辑注：信源为 arXiv:2609.24927（Aman Priyanshu 等，CMU + Cisco，2026-09-21 提交），中文解读见智源社区论文页，事件综述见 agihunt.info 与 mindpattern.ai，英文细节澄清见 agenccy.ai。论文 32.5 万次实验为 32 个合成人物 × 属性组合的交叉乘积，非 32.5 万个不同情境。

作者：酉青(AIR)