AI进了GMP，谁来负责？

6月23日，上海市药学会药品监管科学专委会大会暨优秀论文报告会在沪举行。

上海市药学会理事长陈红专、副理事长兼秘书长刘丙龙出席致辞，复旦大学药学院邵黎明教授、中国医药工业研究总院何军教授作特邀学术报告。来自全市药监机构、高校、科研院所、医疗机构和制药企业的专家学者汇聚一堂，围绕药品监管科学的前沿问题深度研讨。

蒲公英合伙人、上海临港产业大学生物医药学院院长杨清，代表蒲公英团队作了《人工智能在药品制造与GMP合规中的悖论与监管演进》专题报告，经多轮专家评审，获评一等奖。

过去两三年，"AI+制药"的故事讲了很多。

AI辅助研发、AI优化工艺、AI预测质量偏差。每一个场景听起来都合理，PPT做得都很好看。

但有一个问题，很少有人正面回答：AI真正进入GMP体系之后，合规逻辑发生了什么变化？

这篇论文从这个问题出发，触碰的是一个结构性矛盾——

传统GMP验证框架的底层假设是：工艺和软件固化、可重现、可追溯。AI/ML的本质却是动态的、概率性的、高度依赖数据的。

两套逻辑，从根上就不一样。硬把AI塞进GMP，不是升级，是制造新的风险。

AI确实有用。麻烦也是真实的。

论文并没有回避AI的价值。

连续制造中的闭环工艺控制、计算机视觉对片剂缺陷的自动检测、NLP对批生产记录的智能解析、生成式AI辅助偏差调查报告起草——这些应用都已经在发生，效果也有数据支撑：引入AI辅助偏差根本原因分析后，历史数据调查检索时间缩短83%，报告撰写时间缩短87%。

但论文同时指出，GMP场景中存在三类真实的、目前尚无定论的合规难题。

第一，黑盒效应。

深度学习模型的决策过程对操作者和审计人员不透明。用于批放行、偏差调查、CAPA决策时，模型输出的是一个概率结论，不是一条推理链。这根本无法满足GMP"可追溯、可解释、可复核"的审计要求。

解释性的先天缺失，是AI进入关键放行节点的硬障碍。

第二，数据可靠性与算法偏见。

AI的上限，取决于训练数据的质量。但制药行业的历史数据，本身就不干净。

举一个具体案例：用单一厂区成熟产品训练的清洁验证预测模型，迁移到新产品或其他厂区时，泛化能力可能下降——直接后果是把高残留风险产品判定为可以缩短清洁周期，交叉污染风险随之上升。

还有一个更隐蔽的问题：FDA警告信多次提到，手工记录中存在系统性主观差异，不同班次对偏差严重程度的判断本来就不一致。用这些数据训练AI，模型不会纠正偏差，只会把偏差放大并固化。

第三，模型漂移。

传统CSV的逻辑假设：系统验证通过，性能恒定。

但自适应机器学习模型不是这样工作的。设备自然磨损、原材料供应商变更，都会让输入数据的统计分布悄然偏移。模型性能可能在没有任何报错、没有任何预警的情况下，慢慢退化。

FDA将其定义为"模型漂移"。静态验证框架，对这类系统根本不够用。

监管机构在做什么？这是行业关心的部分。

论文梳理了当前全球主要监管框架的动向。结论是：各方路径不同，但指向一个共同信号——传统CSV正在被重构。

FDA的思路是允许演进，但要求预先约定边界——在初始批准时就锁定性能基线、更新协议和再验证触发条件，把"持续学习"纳入合规通道，而不是让它在监管视野之外自由生长。

欧盟GMP附录22草案划了一条更硬的红线：关键GMP应用中，只允许使用静态的、确定性的机器学习模型。动态自学习模型和生成式大语言模型，明确不得用于核心控制环节。

英国MHRA选择了沙盒路线——用真实产品在受控环境里测AI的边界。结果显示，即使经过检索增强生成优化，模型在合规工作流中仍会出现关键信息遗漏。

三个法域，三种态度。但有一点是共识：AI不能替代人做最终判断。

这篇论文提出的核心结论，一句话：AI不是替代GMP，而是在改变GMP的执行边界。

这句话听起来平静，但含义很重。它意味着现行GMP框架不需要推倒重来，但在若干关键节点上，规则必须重新定义。

论文给出了一个可以落地的方向：以"用途与风险"为主线对AI用例分级。用途越关键、影响越直接，验证要求越严、可解释性要求越高、人工干预节点越多。

同时，论文明确提出"人类在环"不只是一个技术架构，而是一条问责底线。AI是决策支持工具，最终放行权和处置权必须归属人类。质量受权人需要真正具备评估AI输出证据的能力——而不只是在系统自动生成的报告上盖个章。

写在最后

这次论文的三位作者，分别是：

1、张金巍，蒲公英创始人、上海临港产业大学生物医药学院创始院长

2、许华平，蒲公英国际板块负责人、加拿大华人医药协会（SCPA）会长

3、杨清，蒲公英教育板块负责人、上海临港产业大学生物医药学院院长

产业实践、国际视野、教育体系，三个维度看同一个问题，得出的结论反而更扎实。

本届大会共评出特等奖3名、一等奖7名、二等奖9名，参评论文来自全市药监机构、高校、科研院所和医药企业。能在这个场合得到同行认可，是对这篇论文所触碰问题的一种确认：这些问题是真实的，值得认真对待。

AI进入制药行业，已经不可逆。真正的问题从来不是"用不用"，而是：

怎么用，才不会出事。