夜雨聆风
一是大型软件的架构非常重要，但大模型的软件架构能力偏弱，是比较重要的短板；
二是大模型编程即使功能正确，代码正确率已做得很高，仍会产生不同程度的“技术债”。技术债是软件开发的专业术语，包括面条式代码无法阅读、性能问题、安全问题等，这些问题大模型编程还尚未完全解决。
招行的Token消耗量，主要是业务部门的消耗量。最新数据到5月底，日均Token消耗已达330亿，是业务单位在经营管理服务中应用大模型消耗的。
关于Token使用的预算控制。去年招行提出AI First工作方向，在全行全面推广大模型应用。
但是，招行是超过10万人的大企业，全面推广容易出现做了很多事，但业务成效不高的问题。因此必须建立完善的Token成本受益核算机制。
3. 关于成本收益度量体系
成本投入主要是两块：一是研发人员投入，包括科技条线和总行业务部门；二是Token成本。
收益方面，招行建立了六个维度的度量体系，其中银行视角四个维度、客户视角两个维度，形成了相对完整的度量体系。当前招行大模型方向的成本收入比，我们测算约20%上下，即投入20元可创造100元收益。
成本方面能算得比较精准，已建立细致的度量体系，数据质量也较好。
但收益度量更复杂，因为银行价值链本身比较复杂，今年以来招行进一步审视收益度量的算法、数据来源和数据质量，不断改进。
招行一直高度重视科技，全年科技总投入约130亿，当前算力已初具规模，但算力采购在130亿总盘子里占比不高，未来还有不小空间。
4. 关于AI实际应用效果
如何评价AI高投入与实际生产力、客户体验的实质性效果。这个是企业最关心的问题，对企业来说，不管AI技术多么先进，关键还是看生产力的提高情况，以及客户体验的实质性效果，并科学的评估投入产出比。
首先，AI是工业革命级的突破，这点不能质疑，中美两国政府都高度重视，也印证了这一点。这一轮人工智能突破的核心是大语言模型，是非常大的技术突破，可以说是颠覆性的。不论是科技行业领袖还是头部公司，到今天观点非常一致——这是工业革命级别的突破。
但回顾历史上同级别的突破——远的蒸汽机、内燃机，近的电脑、互联网。技术突破后，从行业到社会发生变化需要一个过程。大模型技术诞生至今才三年多，时间还很短，还需要时间。
招行对这个方向一直高度重视，已做了一段时间，也能看到效果。招行建立了两个指标：一是成本收益比，二是AI贡献比，即AI处理的业务量对应的工时，和人类员工实际投入的工时，去年底这个数字是1:13，到5月底已提升到接近1:9，大模型在实实在在地发挥作用。
目前招行各领域发展不平衡，总的来说零售业务部分领域已能看到较明显的作用。技术还在发展过程中，今年以来Foundation Model和Agent技术又取得了不错的突破，招行在积极跟进。
大模型在各领域的深入应用，招行保持一定强度。整个过程比较复杂，因为银行业受严格监管，客户对银行工作的严谨性也有非常高要求，应用中不断检视和改进。
总体来看招行积极拥抱，探索应用，也取得了一定的成绩，比如采用了AI编程，AI贡献比达到1：9，提升了10%左右的总体劳动生产力。
但是，从AI应用中存在的问题，还是限制了AI在银行中的应用速度。
1. AI编程在大型软件上捉襟见肘。招行AI编程算力仅占5%，可见实际招行AI编程没有在核心业务系统上使用。
2. AI贡献仅有10%。离业界预估的生产力提高30%还有相当的距离。
招行是每年净利润超过1000亿的大型企业，要钱有钱，要人有人，但从招行的AI实践来看，企业转成AI原生组织，整体生产力提高30%还非常遥远。充分说明AI可能在某些场景，比如AI编程，科学研究以及个人知识问答等方面得到广泛应用，但是离改变社会——达到工业革命级别的影响还有很长的路要走。
人们在追逐AI算力，大模型公司的时候，结合招行的案例，是时候冷静下来思考，追逐AI股票的步子是不是迈的太大了。
来源： 银杏文博
