夜雨聆风
如果你问资深 AI 从业者：在研发领域，是什么拖慢了智能体 AI（Agentic AI）的落地？你也许会听到算力成本、模型能力或系统集成的挑战。但真实的答案更“人性化”：在采用之前，你得先信任它。
来自百时美施贵宝（BMS）的Helena Deus、雪佛龙菲利普斯化学（CPChem）的Brent Railey和Alexander Thamm的Marc Feldmann就这一话题进行了讨论：如何构建一个人们愿意真正依赖的 AI 系统？
Helena Deus
百时美施贵宝公司转化医学与语义数据产品总监
“负面数据”的正面意义
作为转化医学与语义数据产品总监，Helena 已经看到生成式 AI 如何加速工作流程——但她也清醒地认识到“信任”的必要条件，而信任往往始于你喂给系统的“食物”。
BMS是最早在全公司范围给科研人员开放生成式 AI 工具的制药企业之一。最初的直觉很简单：让系统吸收所有已发表的论文、摘要和海报，然后让科学家提问。“但这其实有点天真。”她笑着说。
问题出在结构性偏差。“公开领域的大多数内容往往偏向‘成功’。”发表偏倚意味着系统从一个经筛选的现实中学习——系统性地排除了失败。
修复之道不是更复杂的技术，而是更好的数据。BMS开始把自己的实验数据集（包括从未发表的结果）喂给系统。很快，科学家们就能看到同事是否已经试过某个靶点——以及那次实验到底发生了什么。其价值不止于更快找到更好的答案，还在于避免不必要的重复工作。
Brent Railey
雪佛龙菲利普斯公司全球数据与分析经理
“量”不如“准”：无法衡量，就无法验证
作为一家大型化工企业的首席数据与分析官，Brent 把风险管理（尤其是安全与环境）放在首位。他立下一条看似显而易见、却常被忽视的规则：如果你无法衡量或验证准确性，就不要投入生产使用。
这条规则在 CPChem 的一次“大修（turnaround）计划”应用中得到了体现——这是他们较为成功的案例之一。大家原本预期历史计划能提供有用的训练信号，但事实并非如此。真正有效的是基于专家知识精心设计的提示词，外加正确的计算工具（Brent 干脆地说：“你不会想让一个大语言模型给你算数。”）
最大的挑战恰恰在“验证”。传统机器学习会给出误差率，但语言模型的输出在表面上看起来可能一样，却可能语义上完全正确或完全错误。“同一个意思，你可以用一千种方式表达。”他说。这个验证鸿沟是把试点推向生产时最关键、却往往被低估的问题之一。
Marc Feldmann
Alexander Thamm数据与人工智能高级主管
信任从解决真实问题开始
Marc Feldmann 是欧洲领先的 AI 咨询公司 Alexander Thamm 的数据与 AI 高级负责人。他同样认为关键在“信任”，而他的经验表明：信任不会凭空产生，必须被刻意设计。
他观察到，欧洲的制药与化工企业在 AI 数据战略上通常有两种思路。第一种：坚持在动工前让所有数据都达到某个“可用标准”。第二种：从一个具体的业务问题出发，反向确定所需的工具与数据。
根据他的经验，第一种方式往往推进缓慢甚至停滞不前。“你很难指望哪天醒来就说：好，今天我的数据终于够好了。”第二种方式能聚焦目标，迫使组织明确真正的需求。
如果有更简单的方案，就用这个方案
Marc 也坦陈了一点常被 AI 热潮忽略的事实：不是所有问题都需要“智能体”。“很多问题用简单的线性回归就能解决。不要为了‘用智能体’而用智能体。”
Brent 表示赞同：“如果一个更简单的方法几乎能做得一样好，那用它反而更好——因为更容易理解，也更容易建立信任。”
在实践中如何构建信任？Marc 有亲身体验。在一次部署中，系统在聊天答案里附上可点击的超链接，指向来源文档，让用户自行核查。随着时间推移，链接的点击率下降了——并非因为系统变差，而是因为用户逐渐有了足够的信心，不再次次核对。“我还会再这么做，”他说，“从一开始就把信任当作需要刻意设计的系统属性。”
语义层既是“护栏”，也是“路线图”
当 Helena 谈到语义层在智能体系统中的角色时，引发了进一步的深入讨论。AI 中“查准率与召回率”的拉扯众所周知：什么都保守，系统就变得没用；什么都自信，系统就会出现幻觉。
她提出：设计良好的语义层能帮助智能体管理这种拉扯——知道什么是已被证实的事实（比如“TP53 在约一半的癌症中发生突变”），什么是推断，什么时候应该坦率承认知识边界。
这也就是“神经-符号 AI”的世界——将大语言模型与专用工具为特定任务组合起来。正如 ChatGPT 现在把数学问题交给 Python 解释器，而不是用语言方式“硬解”，高级智能体系统需要明白何时该用什么工具。Brent 在大修计划中的实践清楚说明了这一点：成功来自把语言模型与正确的计算工具配对，而不是指望模型“一招鲜吃遍天”。
Helena 说： “没有语义，就不可能有复杂的智能体框架——它根本不存在。如果要在真实世界使用，你需要让智能体感知到大量的治理要求和流程。”
尚未被攻克的“授权难题”
Helena 承认，当智能体在高度监管的环境中代表用户行动——比如访问临床数据或对接供应商系统时——给智能体与用户相同的权限，并不意味着它会完全像用户那样行事。相应的防护还在发展之中。
“我觉得我们现在都在边缘探索。”她说。技术进步很快，但治理框架往往滞后。这不是要停下来的理由，而是要更谨慎的理由。
结语
三位专家分别用一句话总结了他们的观点：
Helena：“这不只是 AI 的事，请确保你在追踪每一次决策以及做出决策的原因。智能体需要这些证据来支撑决策。我认为这将成为真正的差异化因素。”
Brent：“如果你要落地一个 AI 方案，请先回答这个问题：我怎么知道它在起作用？”
Marc：“别因为一个答案‘看起来可信’就去相信。把信任建立在明确定义的验证机制之上。”
简而言之，最难的不是技术，而是信任。
1
END
1
关于励讯集团
励讯集团(RELX) 是一家为专业和商业客户提供基于信息的分析和决策工具的全球提供商。我们为180多个国家和地区的客户提供服务，在约40个国家和地区设有办事处，拥有37,000多名员工。母公司 RELX PLC 的股票在伦敦、阿姆斯特丹和纽约证券交易所交易，交易代码如下：伦敦：REL；阿姆斯特丹：REN；纽约：RELX。
▶公司市值请查看官网：
https://www.relx.com/investors
▶访问励讯集团中文官网：
https://www.relx.cn
推荐阅读
●
●
●
●
你 “在看” 我吗？
