ARTICLE · 1164417
通过证券AI开户助手思考券商应用场景落地难点
通过证券AI开户助手思考券商应用场景落地难点针对于AI在证券行业应用，目前我们在证券市场做了全面的调研。调研对象包括全国各区域券商，以及证券主流ISV。证券行业AI建设正在从“模型试点”进入“生产运营”。客户不再只关心有没有大模型，而是开始关注场景能否跑起来、调用能否管得住、Token成本能否算得清、业务效果能否持续评估；昇腾服务器的机会不只是单点算力采购，而是支撑证券客户建设本地化AI推理底座与Token运营体系。 但是，目前有一个脱节。目前AI人才比较紧俏，很多AI人才都被互联网大厂高薪挖走了。现在除了头部券商以外，其他券商的AI研发人员基本上都是从自身原有IT团队进行培养的。与此同时，证券主要ISV目前的主要精力都在券商的核心交易系统改造上，没有精力，也没有专业的AI人才去做AI相关应用场景在券商落地。现在证券ISV整体营收在萎缩，AI人才又贵，这些ISV老板也不舍得花大价钱去投入。在这双重因素叠加下，这就造成了券商，尤其是中小券商，在AI上缺具体场景。 我最近也一直在思考，在证券公司做相关场景落地难不难？ 之前我觉得特别简单。之所以有这个判断，是因为证券公司业务都是强监管的标准业务，所有的业务品种和业务流程都是固定的。券商之间拉开差距的地方不在业务本身，而是自身服务能力。所以，我就自己选了最简单的业务场景，做尝试。 我选的业务场景是证券开户助手，最最简单的应用场景。客户可以通过对话了解开户需要准备的材料，以及具体的开户流程，开户条件。用的平台是阿里百炼平台，选择的模型是Qwen3.8-Flash。目前，整体对于个人开户流程可以完全跑通，并且在6轮对话过程中准确率达到90%以上。大模型所有回答屏蔽了各种不合规的词语，每次输出确保百分百合规。与AI助手对话，如果问的问题非开户相关，大模型也可以做正确解答，并保持合规。接下来我就跟各位分享下的使用过程中的一些感悟和历程。 第一，刚开始由于对百炼平台不熟悉，以及对组件各种传参不熟悉，刚开始做起来是非常痛苦的。需要不停的查百炼对应组件的文档，然后才能把流程跑通。不过，从逐渐越来越熟悉，整体流程构建起来越来越快。这也让我想到一句话：学之则难者亦易矣，不学则易者亦难矣。 第二，我开始做的流程很简单，就是开始-知识库-大模型-结束。特别简单，对话智能支持一轮对话，后续的多轮对话就不支持了。不过，快速跑通也能够让自己积累一些成就感，也坚定了能进一步完善的信心。 第三，后续在基础版本之上，加上了意图判断，可以根据客户的输入判断是那种业务开户。目前区分了经纪，两融，期权，场外，和其他（包括非证券开户问题问答）。 第四，又在意图判断基础上，增加了多轮对话判断，以及通过大模型，对后续多轮问答进行问答润色转写，确保多轮对话的输入准确性。 第五，对RAG知识库切片进行了调整，最开始是按照字数切分的，切分的不好，很多回答不完整。我对基础的上传的文档进行了进一步完善，同时通过标题把文档进行了进一步结构化。RAG切片调整为按照标题切片，并且增加了召回量，使得整体的回答进一步准确。 第六，对大模型整体系统提示词和用户提示词进行了进一步调整优化，使得大模型回答准确率进一步提升。 第七，整个流程“零代码”，目前通过多人的随便问答测试，基本上流程没有卡顿，没有异常，可以基本应用。 
后续，这个agent可以有如下几方面进行进一步优化： 第一，在开始时候进行类别判断，区分个人和机构开户，这两者还是有去别的。 第二，Rag知识库对应的文档应该支持word、pdf等文件类型，最好是券商真实的开户流程文档，并且上传券商自己的内规流程，确保大模型最终问答进一步合规； 第三，大模型整体提示词需要进一步优化，目前回答的还是比较公式化的。我相信券商的业务人员在这方面经验更丰富，提示词可以写的更完整； 第四，在输入端可以对接客户的券商基本信息，持仓情况，资金规模，适当性等信息，确保后续大模型回答内容更详实丰满； 第五，在输入端需要支持语音输入，通过ASR进行语音识别。 第六，需要更多的测试，可以通过大模型，生成100道优质问答，100道错误问答，来进一步训练模型，提升模型回答准确率； 第七，可以在展示页面创建数字人，使得整体问答更高大上。 这就是我做证券开户助手的一些思考和感悟，开始的时候我想的太简单了，做起来发现没有这么简单。遇到困难，解决问题。同时，我还有一个非常重要的经验：让AI教你做AI，当很多问题无法解决的时候，可以通过Claude进行沟通交流，借鉴AI的经验来完善业务流程。 AI时代已经来了，我反对All In AI，我支持AI In All。尤其是证券行业，这种极其标准化的业务场景下，AI应该是落地最容易的。除了做一些基础的，简单的试用。我建议各家证券公司，尤其是中小券商，要从自身最特色业务开始入手。因为自身特色业务，人员能力最强，经验最丰富，数据最完整，流程最清楚，写的提示词也最完善。 如果，谁对这个小demo感兴趣，可以后台私信。我司目前在证券公司AI应用上有丰富的积累，从前期咨询，中期大模型调优，后续的持续Token运营有非常完整的解决方案和落地经验。欢迎各位一起交流。