GovAI：AI生物治理的生物安全议程

图丨Pexels

GovAI网站8月25日发布的文章指出，迄今为止，对因危险生物材料的设计、获取或释放而产生的人工智能相关风险的评估，主要集中在故意滥用以及旨在防止此类行为的生物安保措施上。文章认为，政策制定者和研究人员应加大对生物安全的关注，即对事故、错误和其他非故意伤害的管理。

加强生物安全关注的理由基于以下三点观察：

·实验室事故是与合法生物研究和非法武器化计划都相关的、持续存在且有充分记录的生物危害来源。

·人工智能正在提升开展高级生物工作的能力，并增加尝试这样做的行为体数量，这可能提高事故的总体风险。

·通过增加分散化程度，人工智能可能扩大灰色地带行为体的数量。他们在标准生物安全和生物安保规程之外或边缘处理危险材料。他们的意图是良性的或模糊的，而非有害的。

生物安全与生物安保在实践中相互重叠，许多缓解措施对两者都有益处。为此，文章提出一套以生物安全为中心的缓解措施组合，并强调四项优先干预措施作为近期下一步行动：

·要求将生物安全认证或保证作为获取具有足够高风险生物能力的人工智能模型以及其他构成生物风险的可控工具的管理访问条件。

·在现有生物安全报告机制基础上，建立中央AI生物事件和未遂事件分类法及登记册，并覆盖人工智能辅助工作流程。

·确保保险、资助和投资者的尽职调查将生物安全标准纳入考量。

·为自动引导实验室制定物理隔离标准和指南，包括应暂停实验进行审查的条件。

资料来源丨GovAI

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”