【周末杂谈】AI在GMP上的应用，在重蹈Part11的覆辙吗？

让AI参与GMP控制，而不仅是单纯用于降本增效，会带来很多问题

Déjà vu，源自法语，意为“已见过”，表述的是一种强烈而短暂的错觉，让人感觉当前的情境仿佛早已经历过，尽管明知这是全新的体验（往往是不好的体验）。这是一位美国GMP领域资深人士，最近谈起如何监管AI在GMP上的应用时用的词，说感觉就像20多年前FDA制定电子监管规章21 CFR Part 11时一样。此规章出台后的悲惨处境源于FDA思考不周，提出了实操中难以满足的要求，结果事与愿违，不仅未促进、反而阻碍了IT技术的GMP应用。

这位人士觉得跨国药企对AI在GMP应用上的期望过高，欧美药监机构设想的监管又过严。这种情况下急着出台监管规章指南，容易重蹈当年Part11的覆辙。

这让笔者想起武田制药专家最近发的帖子（感谢Ian Thrussell先生的推荐），对AI在GMP上的应用，提出了一些需要考虑的问题。一方面，这些问题提得相当专业和具体，对指导实际工作有借鉴作用。另一方面，要妥善解决所有这些问题，恐怕是需要些时日和实践经验的。与其急着出台监管规章指南，不如先“让子弹飞一会儿”。

下面将武田专家的帖子翻译、简要编辑和摘录如下。供参考。

随着 AI 在 GMP 环境中的部署加速，对良好实施和控制最有用的诊断方法不是合规性检查清单，而是一系列操作性问题的存在，这些问题揭示企业的 AI 治理是实实在在还是徒有其表。每个制药质量领导者都应关注如下的问题。

1. 你是否拥有所有 AI 系统的完整、最新的清单，包括其所有者、GMP 等级及其验证状态？

大多数企业并没有做到这一点。三种隐蔽的部署途径正在造成清单缺口：供应商悄悄地将嵌入式 AI 功能添加到已经确认的平台中；员工用 ChatGPT 起草 CAPA 文件，但IT 或 QA 部门无法察觉；以及通过 API 访问的基础模型。你无法验证、监控或管理你尚未识别的事物。欧盟 AI 法案第49条要求在部署前注册高风险 AI 系统。GAMP5附录D11 要求编制全面的清单。FDA 检查员已经开始根据 21CFR§211.68(b) 处罚未登记的受 AI 影响的系统。

2. 自治是否按风险分级，并通过系统设计（而不仅仅是 SOP）来强制执行？

虽有 “AI 输出需人工审核”的政策，却允许审核人员在三秒内批准，且无证据表明真正的参与。这不是控制措施，是风险隐患。欧盟 AI 法案第14(4)(d) 条要求高风险 AI 具备技术上可实现的强制审核能力。经验证的 HITL（Human in the Loop）执行需多要素的协同运作：置信度评分门控、强制性人工审核队列、基于角色的访问限制，以及将统计上不合理的批准审核时间下限标记出来。

3. 已实施的 AI 智能体是否已根据 21 CFR Part 11 进行身份验证？

许多企业与智能体共享人用凭证，这意味着在审计跟踪中无法区分 AI 和人创建的记录。这会破坏智能体所接触的每条记录的 ALCOA+ 可归属性。在 GMP 系统中运行的每个智能体都需专用的、版本锁定的系统身份，并遵循最小权限原则进行访问范围划分，其方式与管理人用账户的方式相同。目前尚无指南明确涵盖这一点，但这方面的漏洞可能会在首次深入的现场检查中被发现。

4. 能否从头到尾重现每一个 AI 辅助决策？

不仅包括输入和输出，还包括模型版本、提示词版本、检索步骤（RAG 或 GraphRAG）、中间推理步骤（智能体），及人工审核决策及理由。这正是验证上游架构选择的关键原因所在。基于 GMP 特定语料库进行微调的小型语言模型，结合可检索并包含 SOP、偏差和监管关系知识图谱的 GraphRAG，其输出结果比使用扁平向量通用 LLM 搜索更具可追溯性，可精确展示哪些图节点和源文档对答案做出了贡献。这才是 AI 系统 GMP 审计跟踪应有的样子。

5. 对于每个 AI 系统，若模型更新会影响产品质量或患者安全，是否有经过测试的回滚计划？

不是那种未经测试、基于SOP的回滚计划，而是经过测试、拥有真实记录和数据的回滚计划。模型版本归档、回滚决策权限、在非生产环境中的回滚测试，及与受影响工作流程的通信协议。若用户通过云供应商的 API 访问基础模型，是否有合同约定版本锁定？因为未能触发变更控制，供应商的静默模型更新机制会导致企业在审计间隙丢失已验证的状态。

这些问题的共性是：AI 治理模型的设计初衷是针对确定性、版本稳定的软件，还是针对概率性、架构不确定且会悄无声息地改变行为的系统？关键是企业否将这些要求转化为系统设计需求，而不是未经验证的理想化政策声明。

欧盟/PIC/S附录22草案禁止在关键的 GMP 应用中使用动态和生成式 AI，而 FDA 的 预定变更控制计划（PCCP）框架允许在预定义的变更范围内使用自适应模型。企业是按司法管辖区制定不同的验证策略，还是在全球范围内采用最严格的标准？

识林^®版权所有，未经许可不得转载

点击绑定/注册识林，获取最新全球监管动态

【关于识林-常见问题与解答】