贵组织是否已做好人工智能检测的准备？

特蕾西-希伯斯

阅读时间：5分钟
在实验室工作的年轻科学家们

对监管机构而言，对人工智能进行审查并非新鲜事。相关要求早已确立。关键问题在于，贵组织能否可靠地证明已达到这些要求。

作者：特蕾西·希布斯和托尼·萨切蒂，沃特斯公司

在受现行良好生产规范（CGMP）监管的实验室中探索人工智能（AI）和机器学习（ML），对贵机构而言可能尚属新鲜事物。但对监管机构而言，对人工智能的审查并非新鲜事。以美国食品药品监督管理局（FDA）为例，如下图所示，自2018年以来，采用人工智能/机器学习技术的医疗器械批准数量已大幅增长。1,2

博客 2 图 1
博客 2 图 2

监管预期：基本面依然稳固

作为整个行业，我们多年来一直在讨论人工智能监管问题，而监管机构则迅速采取行动，以应对技术领域的快速变革。基本原则依然未变： data integrity，数据治理和风险管理继续构成人工智能监管的基础，监管机构对这些核心原则的审查力度正进一步加大。

日常使用并纳入贵公司药品质量体系（PQS）的基础性指导原则保持不变。 ICH Q9(R1)《质量风险管理》³以及PIC/S《受监管GMP/GDP环境下的数据管理与完整性良好实践》⁴继续为负责任的使用提供依据。最新发布的文件和指导原则草案将这一基础具体扩展至人工智能领域，包括欧洲药品管理局（EMA）的《附件22》⁵以及美国食品药品监督管理局（FDA）与欧洲药品管理局（EMA）联合发布的《药物开发中人工智能良好实践指导原则》⁶。

综合来看，这些内容已为制定负责任的人工智能应用策略提供了充分的指导。如需更全面地了解监管环境，请阅读我们的博客文章《GMP中的人工智能：应对受监管实验室不断变化的期望》。

执法并非纸上谈兵

迄今为止的检查和授权工作均依据现行法规和最终版指南进行。监管行动也同样以此为依据。美国食品药品监督管理局（FDA）在2023年至2026年间发布了多封提及人工智能的警告信，其中2026年4月的一封CGMP警告信首次将不当使用人工智能列为一项独立的CGMP缺陷。7


根据《联邦法规》第21篇第211.22(c) 8条以及质量控制部门的职责，这封警告信的内容直截了当：如果使用人工智能（AI）来支持现行良好生产规范（CGMP）活动，则人工智能代理提出的建议和产出必须由贵公司质量部门（QU）的授权人类代表进行审查并批准。

即使涉及人工智能，质量部门的责任也不会减轻

责任归属保持不变。利用人工智能辅助并不会减轻贵单位合格人员的义务。贵单位的合格负责人必须清楚了解人工智能在整个组织中的应用情况。如果目前尚不具备这种可视性，则应立即将其作为优先事项加以建立。

您的供应链合作伙伴也属于监管范围。合同开发与制造组织（CDMO）和合同检测实验室作为制造商的延伸机构运作，检查人员仍会将其视为制造商的延伸。如果某家合同组织在缺乏监管的情况下使用人工智能起草批次记录、规格说明或标准操作规程（SOP），相关风险将转移至委托方。质量协议和供应商审计现需明确规定人工智能的使用：允许的应用场景、人工监督要求、审计权限以及证据要求。

无论您是否对其进行过正式评分，您的AI都会被评分

FDA9框架草案提供了一种评估监管负担的实用方法。人工智能系统的复杂性及其对产品质量的影响决定了其所属类别，两者的交集则表明了所需的监管力度。这一原则在各项指南中保持一致：监管力度必须与对产品质量和患者安全的风险相称。

从风险类别来看，各方预期各不相同：

类别期望
极简仅限文档记录，基本监督。
低基本验证、例行监测。
中加强验证和持续监测。
高全面的验证和监管。
关键已获得监管部门的全面预先批准。

未分类的AI系统并不意味着不受监管。无论贵组织是否已对其进行分类，检查人员都会对其进行分类，并且会要求相应的控制措施和证据与之相符。

对你们的检查工作有一定期望

如果明天有检查员来对您进行审计，您能否针对以下这五个问题，凭借确凿的书面证据自信地作出回答？

  1. 目前，人工智能在您的CGMP/GxP工作流程中的哪些环节得到应用，且处于哪个风险等级？
  2. 由谁来审核和批准人工智能生成的结果？有哪些书面证据？
  3. 您的训练数据是如何与验证数据和测试数据区分开的？
  4. 如何在生产环境中检测数据漂移和模型性能下降？
  5. 贵公司针对员工制定了什么样的人工智能素养计划和基于代理的人工智能治理方案？

控制状态会在何时失效？

在受监管的实验室中，证明处于受控状态至关重要。随着人工智能的应用，这种证明可能会以几种可预见的方式出现问题。以下每种情况都对应上述五项检查员提问中的一个：

博客 2 图 3

现在正是做好准备的时候

在不断演变的全球监管环境下，现在正是评估贵公司是否做好了采用人工智能准备的时机。无论您是首次探索人工智能，还是正在扩展现有能力，符合监管要求都能充分释放人工智能的潜力，同时不会影响产品质量或患者安全。

Connect with one of our experts 以帮助评估您在人工智能及人工智能检查方面的准备情况。

参考文献

  1. Innolitics 510(k) 年度回顾（2025）
  2. Imaging Wire · FDA 人工智能/机器学习设备清单（2025年12月）
  3. ICH Q9(R1) 质量风险管理
  4. PIC/S PI 041-1，《受监管的GMP/GDP环境中的数据管理与完整性良好实践》
  5. 欧洲药品管理局（EMA）附件22（2025年草案）
  6. 美国食品药品监督管理局（FDA）和欧洲药品管理局（EMA）《药物研发中人工智能良好实践指南》（2026年1月）
  7. 美国食品药品监督管理局（FDA）警告信 722591（2026年4月）
  8. 《美国联邦法规汇编》第21篇第211.22条
  9. 美国食品药品监督管理局（FDA）关于利用人工智能辅助药品和生物制品监管决策的考量，人工智能/机器学习风险分类框架（2025年1月草案）

其他资源