五角大楼为AI辅助软件开发制定程序

五角大楼首席信息官克尔斯滕·戴维斯批准的一项新指令包含了AI辅助软件开发的程序，以适应该部门进入“软件定义战争”时代。

这份关于“加速任务软件”的指导文件由戴维斯于8月31日签署，并于9月8日生效。

这项影响深远的文件为该部门内的软件现代化和管理制定了政策、职责和程序，并鼓励全企业范围的软件复用。

“国防部认识到，AI辅助软件开发是提升交付速度和质量的重要力量倍增器，”官员们在37页的文件中写道，使用了“国防部”（Department of War）的缩写，这是特朗普政府对国防部的首选称呼。

该指令指出，国防部各组成部分应利用AI技术来现代化软件系统、提高运营效率并加速能力交付，并指出该技术可用于自动化软件开发流程、优化系统集成以及提升韧性和安全性。

这项新指令出台之际，科技界和其他方面正对AI发展速度及这些进步给人类带来的风险感到担忧。

官员们写道，该国防部指令的发布是为了“建立安全、问责和透明度基线，使团队能够有信心在任务关键型软件开发环境中采用AI，同时管理相关风险”。文件暗示，如果事情出了问题，人员可能要承担责任。

“开发者和开发团队对使用AI生成或修改的任何代码的安全性、功能性和完整性仍负全部责任，”官员们写道。

他们指出，AI对安全或安保关键功能生成的更改必须由人类审查和批准。

根据该指令，“AI生成的代码将被视为未经验证的输入，其使用并不免除开发者或政府对最终工作成果的责任。”

文件指出，所有“由AI建议或生成”的代码也将接受与人工编写代码相同类型的审查和安全测试流程。

根据该指导文件，“在集成到代码库之前，必须明确审查代码是否存在安全漏洞、安全隐患、逻辑错误、细微缺陷、潜在知识产权侵权、许可证义务以及安全控制的正确实施。”

国防部各组成部分的任务是确定每项AI赋能能力的用例特定风险和缓解要求，在部署前验证性能基准和风险补救工作是否充分，并确保在能力运行期间持续监控性能基准。

“为确保使用AI时的透明度，软件工作将保留用于生成或测试软件的模型、版本和重要数据集的记录。这些信息将作为综合软件证据包的一部分，类似于SBOM，以实现AI驱动组件的风险评估和可追溯性，”官员们写道。

该指导文件还呼吁使用能够检测和标记AI系统中“意外偏见”的数字能力，供人员处理。

这项新指令反映了五角大楼官员对商业可用生成式AI工具激增之际敏感信息可能通过网络泄露的担忧。根据该命令，非公开的国防部代码、配置脚本、基础设施定义、示意图或文档等内容，不得输入或交由不在该部门信息系统上或未经五角大楼人员批准使用的生成式AI应用或服务处理。

对于该部门专有软件开发所批准的应用程序或服务，官员们希望获得合同保证，确保政府数据和用户提示不会被共享或用于训练任何公共或“国防部外部模型”。

国防部各组成部分被指示确保“开发团队的适当成员”接受该指令中概述的AI赋能软件开发原则培训，并让他们“了解常见的AI生成漏洞模式、为获得安全代码而进行提示工程的最佳实践，以及理解知识产权和许可证污染的风险。”