前官员称企业过度解读FDA的AI指南

*题图仅作示意用

6月的生物技术创新组织（BIO）2026国际大会上，曾参与起草FDA的第一份药品AI指南、现任CRO公司Parexel首席AI和监管策略官的Tala Fakhouri分享一种令她困扰的现象：制药企业对FDA的AI指南的解读过于保守，与FDA的灵活性意图背道而驰。

作为重要参与者之一，Fakhouri认为FDA在撰写AI指南时的意图是“灵活、敏捷，不告诉申办者确切的步骤”。当她成为被监管的一方时，她却看到业界将该指南解读为“尽可能最保守的方式”以规避风险，而这种误读最终阻碍了FDA加速临床试验和药品批准的努力。

“误读”的焦点在于“验证”

Fakhouri指出，FDA需要更新或删除大量与软件和技术相关的旧指南，因为这些指南已经过时。但只要这些指南仍然有效，企业就总会想方设法遵循它们。

她举了一个典型案例：一家大型制药公司试图将FDA发布于2002年的《软件验证的一般原则》应用于生成式AI工具Claude。该公司以一种编程语言编写代码，利用Claude将其编译为另一种语言。然而，按上述指南要求，公司需验证用于编译代码的软件是否以可重复的方式完成工作。这甚至要求公司对软件中的每次点击都截图，以便如果检查员到来，可以有证据追踪他们的使用方法。Fakhouri将使用这种方法验证Claude描述为“疯狂”，“你不能对概率性、非确定性工具如生成式AI进行计算机软件验证，”她说。

回顾发布于2025年1月的AI指南草案：该指南提出新的概念作为AI监管的基础。可信度（credibility）被定义为通过收集可信度证据而建立的对AI模型在特定使用场景（context of Use, COU）中性能的信任。COU则明确了AI模型用于解决特定问题时的具体角色和范围。AI模型的可信度评估活动应与模型风险相称，并针对特定的COU进行调整，以确保AI模型输出在监管决策中的适用性和可靠性。从COU出发，FDA提出了一个“七步走”的可信度评估框架，指导企业评估AI模型的可信度。

全文检索Validation一词可知，FDA并未明确提出验证要求。

值得一提的是，作为另一前沿技术应用，“新方法学”（NAM）替代动物试验也遇到了类似的“验证瓶颈”。

“误读”的根因在于“怕检查”

Fakhouri坦言，对检查的恐惧驱动着许多制药企业的决策，使自己陷入不必要的过度工作。

“你不能将每条数据都视为对质量至关重要，应该关注重要的数据，”她说。她看到制药企业采取更加保守的立场，但“FDA不期望这样做，欧洲药品管理局（EMA）也不期望这样做。”

这种恐惧并非毫无来由。根据Fakhouri的说法，FDA内部，审评员和检查员与政策制定者之间并不总是保持一致，这正是业界采取此类预防性行动的原因。不仅如此，一些FDA部门对在临床试验中使用新型创新数字健康技术的风险规避程度高于其他部门——即使治疗领域或技术本身风险并不更高。

“这与使用技术或创新技术相关的风险教育有关，这需要培训和提高员工技能，以及员工或其领导层更积极地参与指南的审查和撰写，”Fakhouri说。她透露，AI 指南起草时，检查和调查办公室（OII）就已深度参与，这意味着检查员参与了AI政策制定并接受了培训。

Fakhouri还将FDA的风险容忍度降低归因于2025年的大规模裁员导致经验丰富员工大量流失。例如，本职工作恰是确保每个人都了解并实施新指南的政策办公室就被整体撤销。她认为，不同于新员工因缺乏经验而倾向于规避风险，经验丰富的员工通常更善于运用判断力解决问题。

那么如何解决这个困局？除了加强监管培训，Fakhouri也提到业界呼吁已久的AI案例分享。FDA官员此前表示已在筹划中。