2026年10月29日，由中国计算机学会系统软件专业委员会青年工作组主办、南方科技大学斯发基斯可信自主系统研究院承办的“AI时代的可信软件与系统技术研讨会”，在南方科技大学工学院成功举办。

本次活动聚焦人工智能时代软件与系统可信保障这一前沿方向，邀请了来自帝国理工学院、康考迪亚大学、蒙特利尔大学理工学院、澳门科技大学、哈尔滨工业大学（深圳）、香港中文大学（深圳）、南方科技大学、华为等高校与企业的知名学者，围绕伦理可溯源的代码生成、AI驱动的形式化程序验证、AI赋能的软件可靠性与安全性，以及软件可观测性四个议题做精彩报告并展开了深入交流。

本次活动由南方科技大学斯发基斯可信自主系统研究院可信软件中心负责人刘烨庞副教授主持。在活动开幕环节，刘烨庞副教授进行欢迎致辞，介绍了专委青工组的职能与基本情况，并对与会嘉宾和汇报主题进行了简单的介绍。

加拿大康考迪亚大学Shin-Hwei Tan副教授以《Towards Ethically Sourced Code Generation》为题进行了首场专题报告。报告以食品供应链中的溯源理念引入，提出可信的代码生成同样需要覆盖模型开发全流程的伦理化来源管理。报告中的研究主要通过跨领域文献综述和问卷调查，梳理了数据许可、隐私保护等关键伦理维度的研究进展与挑战。报告指出，训练数据的使用应由事后退出的opt-out机制转向事前授权的opt-in机制，且现有模型大多未能满足伦理化来源要求。报告也提出了系统度量有害内容的测试方法，通过双路径推理同时兼顾代码安全性与功能性。最后，报告对训练数据溯源、伦理化依赖管理等方向进行了展望，为构建透明、可信且可持续成长的代码生成模型提供了新的思路。

帝国理工学院曹嘉伦助理教授以《从AI辅助到AI驱动：形式化程序验证的新探索》为题进行了第二场专题报告。首先她用简单的例子介绍形式化程序验证是什么，指出形式化验证只能保证程序满足给定规约，而无法确保规约准确表达了开发者意图；规约本身也可能过于宽泛或存在错误。针对人工编写规约成本高的问题，报告介绍了AI自动生成程序规约的基本框架：首先分解程序并识别规约插入位置，再由大模型生成规约，最后通过验证器检查并根据反馈进行修复。围绕这一流程，报告进一步探讨了多采样、指令微调、迭代修复和基于决策模型的插入点识别等优化方法，展示了AI从辅助形式化验证向驱动形式化验证的潜力。

澳门科技大学张涛教授以《AI赋能的软件可靠性与安全性研究：过去、现在、未来》为题进行了第三场专题报告。他指出高质量数据、稳健系统和可信模型是AI赋能软件可靠性与安全性研究的重要基础，并围绕这三个模块介绍了团队的研究进展。在高质量数据方面，报告展示了用户评论筛选、故障定位和自动回复等技术，帮助开发者从软件仓库中高效获取有价值的信息。在稳健系统方面，报告介绍了智能合约重入漏洞的静态检测方法，以及利用元学习和大模型应对恶意软件样本不均衡、未知威胁识别和检测结果解释等问题的探索。在可信模型方面，报告探讨了缺陷报告的统一表征、预训练模型的“过度解读”现象及其缓解策略，并以GitHub Actions日志诊断为例展示了多智能体方法在错误识别与缺陷定位中的潜力。最后，报告指出，需求理解、多智能体协同和Token开销等问题，仍是未来研究需要应对的重要挑战。

蒙特利尔大学理工学院李亨副教授以《Software Observability: Challenges, Research, and Opportunities》为题进行了第四场专题报告。他指出软件可观测性是通过外部观察理解系统内部状态、支撑软件和系统可信性的重要基础。在数据收集方面，针对观测行为可能改变系统运行状态的“观测效应”，报告介绍了根据性能变化特征选择关键观测点、降低观测开销的方法。在数据呈现方面，报告比较了传统表征方法与大模型方法，并讨论了日志数据中的敏感信息识别和隐私保护问题。在数据分析方面，报告指出目前的观测方法经常陷入“盲人摸象”式的局部观测；为提升观测的效果，应展开综合程序行为、资源使用和时间信息的跨软件栈的全栈分析。同时，报告指出，随着AI模型能力的快速演进，软件可观测性既面临智能体主动改变行为、隐藏意图等挑战，也存在着利用AI提升系统理解与研究效率的新机遇。

本次研讨会围绕AI时代可信软件与系统技术展开深入研讨。四场专题报告从多个方面展示了相关领域的前沿研究与最新进展。与会人员积极交流，分享经验，在观点交流与思想碰撞中启发了新的研究思路，也为可信软件与系统技术的持续发展凝聚了智慧与力量。