乐于分享
好东西不私藏

《AI学走我的代码,学不走我的判断》第39章 升级

《AI学走我的代码,学不走我的判断》第39章 升级

四月初,北京的春天终于来了。街上的柳树抽了新芽,风里带着花粉的味道。

此时此刻,在望京一栋写字楼的十八层——智判科技的办公室里——周明亮正在开一个内部复盘会。

会议室不大,坐了六个人。都是核心团队:技术VP、产品总监、数据负责人、两个高级算法工程师,加上周明亮自己。

白板上写着三个字:金融案。

"把这个案例吃透。"周明亮站在白板前,声音平静但很认真,"我们的诊断报告在技术层面完全正确——这一点不需要质疑。但客户按照我们的方案执行失败了。为什么?"

技术VP先开口:"执行层面的问题不在我们服务范围内——"

"我知道。"周明亮打断他,"但客户不管你的'服务范围'。客户只知道——用了你的方案,没成功。然后找了一个人类顾问——成功了。这在客户心里意味着什么?意味着我们不如一个人。不管原因是什么——市场认知就是这样。"

会议室安静了。

产品总监问了一句:"那个人类顾问——就是那个'老黄'——他做了什么我们没做的?"

"他做的核心事情是:判断出问题不在技术,在团队协作。然后他用三天时间解决了两个团队之间的沟通问题。"周明亮在白板上画了两个框,一个写"技术",一个写"组织"。"我们的系统只能看到左边这个框。右边这个——我们是瞎的。"

"那怎么解决?"

周明亮沉思了一下。"短期方案——在诊断流程里加一个'环境评估'模块。不是AI自动分析,是让客户手动填写一些非技术信息。比如:团队规模、最近是否有人员变动、各部门协作情况怎么样、上次系统改造是什么时候、有没有遗留问题。通过这些信息,我们至少能做一个'风险提示'——告诉客户:你的环境里有一些非技术因素可能影响方案执行。"

"这能管用吗?"算法工程师表示怀疑。

"不能完全管用。但比现在什么都不做强。"周明亮坦率地说,"长期方案——我还在想。可能需要外部的人帮忙。"

他没有说那个"外部的人"是谁。但在场的人都猜到了。


四月中旬,黄维国正忙着一个新案子——一家做智慧医疗的公司。

这家公司的产品是一个AI辅助诊断系统,帮助基层医院的医生做初步诊断参考。系统本身做得不错,准确率在临床验证中达到了百分之八十五以上。但他们在申请医疗器械注册证的过程中卡住了——不是技术问题,是合规问题。

找到黄维国的是他们的CTO,通过林昊介绍的。电话里说了情况:"我们的系统在技术审评上没问题。但在临床评价这一关——审评中心的专家提了一些问题,我们回答不了。不是技术层面的,是'临床应用场景'层面的。"

黄维国去了之后花了两天了解情况。他发现问题很有意思:审评专家关心的不是"你的AI准不准"——而是"当AI判断错误的时候,你的系统有没有兜底机制?医生会不会盲目相信AI?如果出了医疗事故,责任算谁的?"

这些问题不是技术问题。是"技术在真实应用场景中可能遇到的制度性、流程性问题"。

黄维国的判断是:系统本身没问题,但你们需要补充一整套"人机协作流程"的设计——明确AI只是参考、医生是最终决策者、出现分歧时的处理机制、审计追溯机制等等。这些东西不写进系统设计文档里,审评不会通过。

他花了一周时间帮他们梳理了这套流程,写了一份"人机协作规范"文档,作为注册申报材料的补充。

这个案子收了四万。

做完之后黄维国想:这又是一个"AI看不到"的问题。AI能帮你做诊断系统,但它不知道审评中心的专家关心什么、监管的底线在哪里、以及"责任归属"这种人类社会特有的概念怎么在技术系统中体现。

这些——还是得靠人来判断。


四月底的一天晚上,林昊转来一条消息:"你看看这个——智判平台更新了。加了一个'环境评估'功能。"

下面是一个链接,黄维国点开看了看。智判的产品更新公告,核心内容是:新增"项目环境评估"模块,在提交技术问题之前需要先填写一份环境问卷——包括团队情况、历史变更、协作模式等十五个问题。系统会基于问卷结果给出"执行风险提示"。

黄维国看完,靠在椅背上想了一会儿。

周明亮动作挺快。从复盘到产品更新——不到一个月。这说明两件事:第一,他确实把金融案当回事了;第二,他的团队执行力很强。

"看到了。"他回林昊,"进步了。"

林昊:"你觉得有用吗?"

黄维国想了想。他认真地把那十五个问题在脑子里过了一遍——团队规模、协作方式、最近的人员变动、历史系统变更、跨部门沟通频率……这些问题确实有意义。如果客户认真填写了,AI至少能判断"这个项目的执行环境是否复杂"。

但问题在于——

他打字:"有一定用处。能过滤掉一部分明显的执行风险。但有限。"

"为什么有限?"

"两个原因。第一,它依赖客户'准确填写'。但很多关键信息——客户自己都不知道应该填。比如'你们两个团队之间有没有历史矛盾'——谁会在问卷里写'有'?这种事只有当面聊才聊得出来。"

他停了一下,继续打字:

"第二,问卷只能捕捉'已知的风险因素'。周明亮的团队是根据金融案总结出来的——'团队协作''人员变动'这些维度。但下一次出事的原因可能完全不在这些维度里。真正的盲区——是那些连问卷设计者都没想到要问的东西。"

林昊回了一个"受教"的表情。

黄维国放下手机。他没有因为这次更新而感到威胁——相反,他觉得这是好事。智判在进化,这说明整个行业在进步。AI能做的事越多越好——剩给他的,自然就是AI真正做不了的。

但他也提醒自己:不能停下来。AI在进化,他也得进化。今天AI做不了的事,明天未必做不了。他需要让自己的判断力永远跑在AI前面——哪怕只快一步。

一步就够了。