人工智能生物安全防护机制可能阻碍公共卫生工作

图丨Pexels

据Larry's Substack网站8月6日消息，美国制药研究与制造商协会（PhRMA）全球卫生与多边事务副总裁拉里・克尔（Larry Kerr）发表文章指出，ChatGPT新增的限制措施，正在干扰对本迪布焦埃博拉（Bundibugyo Ebola）疫情应对工作的合理分析；而当其系统出现误判时，“可信访问”流程的透明度极低。

过去数周，克尔一直在使用OpenAI旗下的ChatGPT调取资料，评估国际社会针对本迪布焦埃博拉疫情的应对行动：临床试验启动速度、正在研发的医学应对产品、病原体与基因组序列的获取条件，以及企业是否公开披露哪些疫情数据被用于其研发工作。

以上均属于公共卫生政策问题。克尔并未索要特定基因组序列、生物材料，也没有请求实验室操作相关协助。但ChatGPT多次拦截了查询请求。

当下，世界卫生组织（WHO）各成员国正在磋商病原体获取与惠益共享框架（PABS）的条款，以及大流行条约的相关配套条文，这一现象带来的影响尤为突出。上述磋商恰恰依赖这类文件溯源分析工作。

OpenAI承认误判情况确实会发生。其官方帮助文档说明，ChatGPT如今会对部分生物类查询启用额外自动化安全校验；若内容未通过校验，就不会输出对应回复。值得注意的是，OpenAI表示，收到拦截提示，并不代表用户违反了平台政策。

这一区分十分关键：即便平台没有判定该请求属于违规请求，系统依旧会屏蔽输出结果。

OpenAI在生物学研究可信访问的部署安全说明中阐述了背后的风险考量：先进模型会降低高风险两用实验室研究的操作门槛，如调试病毒实验、优化毒素制备方法、复现受限实验流程。这些风险客观存在，具备现实合理性。

但分析协议文本不等同于调试实验；核查企业是否公开病原体分离株信息，不等同于设计疫苗。序列登录号只是元数据，相当于文献检索索引，并非它所指向的基因序列本身。

问题根源就在于系统无法区分以上不同类别的查询，模型正在妨碍公共卫生领域的分析工作。

OpenAI提出的解决方案是“生物学研究可信访问”。该申请表单要求个人或机构核验身份、所属单位、研究使命、内部治理机制、安全方案，以及计划开展的使用场景。获批使用的范畴包含公共卫生工作、疫苗与诊断试剂研发、医学应对产品、监管分析、生物安全与生物安保。

对于确实会产出高风险两用信息的深度科研工作，设置一定的身份核验合情合理。但普通的文件政策分析，不该要求用户完成机构审核、法律声明、内部风险管控等一系列流程，才能查询一份公开协议的具体内容。

克尔提交可信访问的核验材料之后，尚未收到任何受理状态反馈。整套流程透明度很差：公开申请页面既没有预估审核周期，也没有状态查询入口，更没有说明审批结果以何种方式告知用户。通用建议只有提交差评反馈或者联系客服。

申请者无从得知申请是待处理、材料不全还是已被驳回；也不知道就算申请通过，能否解决这类误拦截问题。

克尔指出，文章并非主张削弱生物安全防护，而是呼吁对防护机制做精细化校准。

OpenAI应当把实操性生物实验协助请求，和政策、法律、治理类分析请求区分开来；区分基因序列本体和溯源元数据。当查询的局部内容存在风险隐患时，ChatGPT应当屏蔽风险部分，输出安全的文件分析内容，而不是直接拦截全部回复。

批评者或许会担忧，分块输出会被攻击者通过多轮递进式提示绕过限制。但解决办法不是放弃分级处理，而是配套监控机制，识别同一对话内反复尝试拼凑被屏蔽内容的行为。

可信访问流程同样需要基础的程序透明度。至少OpenAI应当做到：

1. 提交申请后发送受理确认；

2. 向申请人告知预计审核时长；

3. 展示申请状态：待处理、材料不全、已批准、已驳回；

4. 驳回申请时给出实质性理由；

5. 建立可行的人工复核通道，处理反复出现的误判案例。

OpenAI称自身目标是加快医学应对产品研发、强化公共卫生应急准备。但实现该目标，不只是防止危险信息落入不当人员手中，还应当保障合规科研人员与政策从业者能够获取安全、不会被用于生物制造的信息，而不是被一套既不解释原因，也不会自我纠错的自动化系统拒之门外。

一套旨在保护公共卫生的生物安全防护机制，不该让复盘公共卫生应对工作变得举步维艰。

资料来源丨Larry's Substack

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”