夜雨聆风4月15日，FDA发布了Purolea Cosmetics Lab (Owner: Ms. Maria N. Mattina)的警告信，其中提及在药品生产中不当使用AI的缺陷，这是FDA发布是首个涉及AI用于GMP使用的警告信了：
FDA在检查过程中发现一个令人担忧的情况：
该公司告诉检查人员，该公司使用AI代理程序来协助公司满足 FDA 法规要求。具体来说，该公司利用AI来制定：
药品质量标准
操作规程
主生产记录
控制记录
这本身没有错，但FDA指出使用AI辅助编制文件，必须对AI生成的文件进行审核，确保其内容准确且切实符合GMP要求。然而该公司并没有这么做。
FDA还发现该公司，未执行工艺验证，结果该公司表示并不知晓该项法规要求，原因是所使用的AI代理程序从未提示该要求。FDA批评该公司过度依赖AI。
FDA在警告信中表示：该公司若使用AI协助开展GMP相关工作（如制定操作规程与质量标准），则AI代理程序生成的所有输出内容或建议，均须由贵公司质量部门经授权的人员进行审核并批准。
Inappropriate Use of Artificial Intelligence in Pharmaceutical Manufacturing. 在药品生产中不当使用AI。 During the FDA inspection of your drug manufacturing facility, you stated to FDA investigators that you utilized artificial intelligence (AI) agents (b)(4) to help your firm comply with FDA regulations. Specifically, you used AI to create drug product specifications, procedures, and master production or control records to be in compliance with FDA requirements. 在FDA对贵公司药品生产设施开展检查期间，贵公司向FDA检查人员称，贵司使用AI（AI）代理程序 (b)(4) 协助公司满足 FDA 法规要求。具体而言，贵方利用AI制定符合FDA要求的药品质量标准、操作规程以及主生产或控制记录。 If you use AI as an aid in document creation, you must review the AI generated documents to ensure they were accurate and actually compliant with CGMP. Your failure to do so is a violation of 21 CFR 211.22 (c). Overreliance on artificial intelligence for your drug manufacturing operations was also documented during the inspection. For example, the FDA investigators found that you had not conducted process validation prior to distribution of your drug products, as required under 21 CFR 211.100, and informed you as such. You replied that you were not aware of the legal requirement, as the AI agent you used (b)(4), never told you it was required. 若贵方使用AI辅助编制文件，必须对AI生成的文件进行审核，确保其内容准确且切实符合GMP要求。贵方未履行该义务，违反了 21 CFR 211.22 (c) 条款。检查同时记录到贵公司在药品生产操作中过度依赖AI。例如，FDA 检查人员发现，贵方未按照 21 CFR 211.100 条款要求，在药品分销前完成工艺验证，并就此告知贵方。贵方回应称并不知晓该项法规要求，原因是所使用的AI代理程序 (b)(4) 从未提示该要求。 We recognize that you have ceased drug production. If you plan to resume drug production, and use AI to help with CGMP activities, such as development of procedures and specifications, any output or recommendations from an AI agent must be reviewed and cleared by an authorized human representative of your firm’s QU in accordance with section 501 (a)(2)(B) of the FD&C Act. See also 21 CFR 211.22; 21 CFR 211.100. 我方知悉贵方已停止药品生产。若贵方计划恢复药品生产，并使用AI协助开展CGMP相关工作（如制定操作规程与质量标准），则AI代理程序生成的所有输出内容或建议，均须由贵公司质量部门经授权的人员依据FD&C Act 第 501 (a)(2)(B) 条审核并批准。另参见 21 CFR 211.22；21 CFR 211.100。 |
FDA并不反对使用AI协助开展GMP相关工作（如制定操作规程与质量标准），但FDA也关注到了AI用作GMP使用过程的风险，FDA要求AI代理程序生成的所有输出内容或建议，均须由公司质量部门经授权的人员进行审核并批准。如公司正在或计划在GMP相关活动中使用AI，建议：
建立AI生成文件的审核流程，明确审核人和批准人
确保质量部门对AI输出有最终决定权
不要用AI替代对法规的主动学习和理解
保留AI使用记录，以备需要时检查
AI是强大的助手，当AI仍然是工具，但它没有质量签名权，也没有决策权，正如网友评论：
有关AI用于GMP的合规要求，欧盟和PIC/S已于2025年7月发布了EU及PIC/S GMP附录22《AI》,中英文对照：欧盟及PIC/S GMP附录22《AI》-2025（中英文对照）！
