周末杂谈：只用AI降本增效，不做GMP控制，就不受监管吗？

以偏差调查报告为例，分析AI带来的风险，发现即使有HITL，也应受监管

本世纪初FDA发布关于电子化的监管规章21 CFR Part 11后，强调只要电子化不影响GMP受控文件，不作为GMP控制的一部分，就无需满足此规章，就不属于监管范围。例如，偏差调查报告的撰写，是用打字机还是Word，FDA不关心，只要最终报告是由人审阅和签署的就行。

AI是否也类似？即AI在药品生产和质量管理上的应用，若只涉及降本增效，不影响GMP受控文件，不作为GMP控制的一部分，是否FDA就不该监管？

笔者曾觉得AI也类似。但最近，开始有些动摇。现以偏差调查报告为例，做简要分析。

严格讲来，药品质量是由工厂负责的，这也是为何FDA的警告信常是写给工厂负责人的。但工厂负责人责任多，怎能对产品质量了如指掌？因此需要由质量负责人来把关签字，但其是否能对签字的文件中的所有内容负责呢？尤其是对生产很多产品的大厂，文件可能是由质量总监或经理们撰写的，质量负责人可能并不熟悉数据和资料与报告结论间的具体对应关系。他或她也许会具体询问，甚至自己来核实，也许不会。实际上，质量负责人的把关可能只是形式上的。

这些实际情况，FDA是了解的，所以才要求企业建立GMP生产质量管理体系，目的是靠体系来降低产品质量风险。电子化和AI技术，都是为了提升生产质量管理体系的运行效率。虽然GMP监管只关注产品质量，不关注运行效率，但效率的提升是否会增加质量风险，是值得关注的。

用Word取代打字机来撰写偏差调查报告，风险是增加、降低、还是不变？首先，无论是用打字机还是Word，都是用手打字，打错字的风险几乎一样。由于Word出错后容易修改，所以总体风险降低。但用Word写报告时，为省事，有时会将从前类似报告的相关内容copy/paste过来，再在上面修改。这样的修改，有时会有所遗漏，导致风险升高。但无论是用打字机还是Word，都是由人来控制过程和结果。也许可以认为风险基本不变。

用AI取代或部分取代人工来草拟偏差调查报告，最终由人审阅、修改并定稿报告，风险是增加、降低、还是不变？草拟报告其实是非常关键的一步，关乎数据和资料的收集、提取、计算和汇总。当人拿到草拟的报告后，原则上讲，可逐步、逐条地核对数据和资料的收集、提取、计算和汇总，但实际上会这样做吗？之所以用AI，不就是想省去这部分费时费力的工作吗？若是不做细致的核对，就审阅、修改和定稿报告，那表面上看是由人来把关，但实际上并未由此而降低风险。也就是说，使用AI草拟报告时产生的风险，可能会在人审查后的最终报告中继续存在。

按此思路，AI的应用与电子化的应用就有本质不同了。就撰写偏差报告这个具体例子而言，使用AI会带来新的风险，尽管AI只是用来草拟偏差调查报告的初稿，最终还是由人来审阅、修改和定稿，也就是有human in the loop（HITL）的管控机制，只是此处HITL容易流于形式。

所以，虽然现阶段FDA缺乏监管AI在GMP领域应用的规章（有相关指南草案），但从风险把控的角度看，FDA有理由关注企业在使用AI草拟偏差调查报告时是如何防范上述风险的，也就是可以并应该问询企业是如何把控AI应用的风险的。

识林^®版权所有，未经许可不得转载

点击绑定/注册识林，获取最新全球监管动态

识林网址:www.shilinx.com