AI在医疗科技领域的成功,取决于其底层的软件基础设施

Device Talks Minnesota汇聚了监管领域领袖、临床医生、工程师及产品团队，共同探讨医疗技术的未来发展方向。在本周的活动上，两大主题贯穿了整个讨论：一是人工智能在临床实践中的应用，二是将网络安全视为患者安全的基本要求。严峻的监管环境与不断扩大的威胁态势，进一步凸显了这两大主题的重要性。

然而，最引人深思的，却是各场专题讨论中很少被直接提及的一个问题。AI专题讨论的大部分时间都集中在算法设计、数据完整性以及美国食品药品监督管理局（FDA）的预期要求上；网络安全专场则聚焦于威胁建模和设计优先级。而在这两个话题背后，隐藏着一个更根本的思维模式问题：我们开发软件，是为了“上市即止”，还是为了“贯穿产品全生命周期”的持续运营？一旦算法通过验证、设备投入市场，软件实际上该如何演进和变更？

稳健的软件更新基础设施，正是这一问题的答案。它正在成为决定AI赋能医疗设备能否兑现其承诺的关键层。随着数据的重要性日益提升，合规要求也在加速或阻碍产品的上市节奏与成败。在此背景下，能够安全且有效地管理软件更新的机制，正变得愈发关键。

医疗科技中的人工智能与监管环境密不可分

由梅奥诊所（Mayo Clinic）、美敦力（Medtronic）和明尼苏达大学（University of Minnesota）的领军人物组成的AI专题讨论组，涵盖了当前已广为熟知的应用场景：诊断、工作流程优化、个性化监测以及新型护理模式。演讲嘉宾们逐一阐述了这些新解决方案所伴随的监管考量，包括算法验证、数据完整性，以及满足美国食品药品监督管理局（FDA）不断演进的预期要求。

然而，较少被关注到的一个问题是：医疗设备上的人工智能模型并非一成不变的。当新的数据可用时，它们会重新训练；当临床性能发生偏移时，它们会被优化调整；当某个更新在现场环境中表现异常时，它们有时还需要被回退。上述每一种情况，本质上都属于软件变更。而在FDA的监管框架下，AI/ML模型的重新训练或重新部署，被归类为受监管的软件更新。每一次更新周期，都要求重新验证、重新确认，并具备可追溯的文档记录。

一位专题讨论嘉宾精准地表达了一种普遍的困扰：“很多时候，监管环境比你所开发的技术本身还要艰难。” 在AI赋能的医疗设备中，监管环境与技术已密不可分。模型即设备，而设备的更新频率，与模型的更新频率保持同步。

稳健的软件更新，让安全的AI成为可能

网络安全专题讨论进一步印证了一个基本事实：安全不能是一个晚期介入的环节。试想有一台联网输液泵，在进入上市前测试阶段后，安全审查才发现该设备与其网关之间存在一条未经认证的通信通道。在此阶段解决问题，意味着需要重新设计固件的通信模块、重新运行验证、更新风险管理文档和510(k)申报资料，最终导致产品上市推迟数月，并产生高昂的成本。而如果威胁模型从一开始就与系统架构同步构建，该通信通道本应通过设计实现认证，无需任何返工。

同样的逻辑——甚至以更大的力度——适用于AI模型。AI模型的复杂性、不透明性以及快速的更新节奏，使得晚期介入的安全工作从根本上比传统软件更加困难。想象一下，在预提交验证阶段才发现训练管道缺乏完整性控制——模型行为无法像传统软件那样通过补丁修复；唯一的补救方式是重新整理数据、重新训练、重新验证。数据来源追溯、签名模型工件（signed model artifacts）以及管道完整性控制，在设计之初进行规划，远比事后追溯补救要经济得多。

一个被投毒的模型、一条被破坏的训练管道，或一次未经授权的固件变更，都会导致同样的结果：设备的行为将不再符合监管机构最初批准的形态。

稳健的软件更新基础设施能够从多个角度、在产品全生命周期内应对安全风险：

• 加密签名的工件（Cryptographically signed artifacts）确保只有经过授权的模型更新才能到达设备，从而满足FDA第524B条关于安全更新能力的要求。
• 具备自动回滚功能的A/B分区方案（A/B partition schemes with automatic rollback）可在新模型在现场表现不佳时保持设备正常运行——当设备用于患者护理时，这一点至关重要。
• 分阶段部署与集群可观测性（Phased rollouts and fleet observability）使制造商能够先在少量设备子集上验证模型性能，再行扩展，这与监管机构所期望的分阶段临床验证思路相呼应。
• 全面的审计日志（Comprehensive audit logs）将每一次模型部署转化为可追溯的证据，用于上市后监管和510(k)申报。

另一位专题讨论嘉宾精准地概括了这一更宏观的转变：设备曾经是整个系统的中心，而现在，设备所产生的数据才是核心。这一观察引出了一个值得注意的推论：数据的可信度，取决于生成它的设备；而设备的可信度，取决于其当前正在运行的软件。如果没有一种可靠的方式来更新和验证软件，那么设备所产生的数据，一旦某个漏洞或模型漂移未被及时处理，其价值便会随之丧失。

下一代医疗设备的定义，在于其上市之后所发生的一切

Device Talks Minnesota上的讨论，勾勒出了医疗设备行业正在迈向的、动态且由数据驱动的发展方向。医疗设备的创新，不再仅仅关乎产品某个获批版本本身，而在于该产品如何演进、其AI组件如何重新训练、其安全态势如何维护，以及其合规文档如何与上述各项同步跟进。软件更新，正是贯穿所有这些要素之间的纽带。

对于正在构建AI赋能医疗设备的OEM厂商而言，战略性问题已不再是“是否要投资软件更新基础设施”，而是“这套基础设施是否真正为医疗行业的监管、安全与运营现实而设计”。软件基础必须能够支持AI在医疗科技领域实现安全、合规且持续得到验证，从产品上市贯穿至最终退役的全生命周期。

关注我们

获取更多物联网行业前沿动态、

技术解析与趋势预判

解锁物联网规模化落地的核心密码

若您在IoT设备更新、OTA升级、

固件管理等方面有任何疑问或需求，

欢迎随时联系我们，

专业团队为您答疑解惑、提供定制化解决方案。

一起探讨行业新机遇、应对新挑战～