FAA首席科学家畅谈航空AI/ML软件安全保障

在RTCA于8月举办的网络研讨会上，Rebecca Morrison与FAA（美国联邦航空管理局）人工智能/机器学习首席科学家兼技术顾问Trung T. Pham博士，共同探讨了FAA最新发布的《人工智能安全保障路线图》。本次关于AI/ML算法的研讨会，围绕航空系统软件的作用、DO-178C等现有标准的应用，以及AI/ML技术指南的未来发展方向展开。这一系列活动紧随FAA人工智能路线图发布和RTCA近期举办的AI/ML研讨会之后，后者吸引了超过100名参与者。

核心观点：FAA的航空AI安全路线图指导原则包括：尽可能有效利用现有法规、采取渐进式方法，并加强FAA与行业的广泛协作。

一、FAA人工智能安全路线图核心原则

Pham博士指出，随着航空业寻求将AI/ML融入航空开发，政府和行业必须开展研究与开发以提供指导，并利用计算数据分析来支持验证。一个重要的观点是，任何AI/ML算法都是工程师的创造，开发者将始终对其生产的产品负责。

1.1 安全监管的核心地位

Pham博士提醒听众，FAA负责监管安全，而FAA的路线图重点在于将AI集成到航空安全关键应用中。他提到，航空业享有良好的安全记录，这得益于现有的法规和标准，如关于航空软件开发的DO-178C。航空业在AI发展道路上仍将沿用这一现有框架。

二、AI实施面临的挑战

实施AI的挑战包括：需要明确定义术语、将其集成到现有批准流程并实现可追溯性，以及协调各方以减少重复工作的风险。

2.1 技术概念文件即将发布

Pham博士宣布，FAA将在近期发布其技术概念文件。这些文件将涉及机器学习软件开发指南、模型开发背景下的机器学习、计算算法的软件实施，以及与现有标准（如DO-178C）相关的具体用例示例。他期待看到关于AI安全应用的研究，并表示FAA将与技术界合作，制定合理可行的AI技术指导/法规。

图