Foreign Affairs：人工智能与生物武器新时代

图丨Pexels

Foreign Affairs网站8月10日发布文章指出，突破性的科学发现可以创造变革性的可能，也能带来灾难性的风险。人工智能、生物技术和生物工程的整合已经在创造改变生活的成就，也在产生一种能力，这种能力比以往任何时候都更容易被越来越多的行为者武器化。美国对这些威胁毫无准备。

在可预见的未来，一个技能极低的恐怖组织可以利用经过“越狱”的、已在世界上最全面生物数据集上进行训练的人工智能模型，来设计一种新的H5N1禽流感毒株，该毒株比现有毒株更致命，也更容易从动物传播给人类。

通过远程连接新一代设备齐全、按需服务的“云实验室”，它可以匿名安排病毒的构建和测试，然后将其送到生物制造设施进行大规模生产。从那里，该组织可以通过美国主要牲畜养殖场的空气处理系统秘密地传播这种新毒株。

不久之后，美国的家禽、牛肉和乳制品行业将遭受巨大损失。当病毒不可避免地传播到人群时，它将导致严重疾病，并可能导致数十万甚至数百万人死亡。美国公共和私营机构的应对措施将过于缓慢、过于不协调、资源不足且不堪重负，无法阻止传播和减轻后果。很快，病毒还将跨越国界，在世界各地引发粮食不安全、广泛疾病和大规模伤亡。

美国迫切需要一个新的系统来增强对人工智能驱动生物威胁的韧性。

目前，将数字设计的病原体转化为现实威胁受到以下事实的限制：在美国，这项工作仍然由人类在传统的“湿实验室”中完成。但人类角色如今越来越多地由机器人和自动化辅助，特别是“云实验室”的出现，它可以接收数字订单，根据订单设计和执行实验并评估结果，同时，还有提供生物技术生产服务的专业合同制造商。目前，没有任何法规来管理这些活动。

如今，公共官员和私营部门领导人不仅需要担心发展和使用生物武器的先进国家，还需要担心有组织的非国家团体，包括恐怖分子、犯罪集团和雇佣兵，以及“独狼”。此外，本无恶意的人也可能因为不完全理解他们所掌握的威力而导致危险事故。

美国没有准备好处理其中任何一个场景。美国的生物监测和归因架构是一个存在严重差距的拼凑系统。其各个组成部分并不总是可互操作的，也没有实时整合和大规模分析多样化数据流的能力。美国的监测系统旨在诊断、识别和报告现有病原体，但它尚不能识别可能由人工智能驱动的生物技术创造的新病原体。同时，该国部署治疗和预防疾病对策的系统并未准备好快速行动，其激增应对能力也相对有限。

鉴于未来自然、意外和武器化生物事件几乎不可避免，对日益增长的风险的担忧是有道理的，而缺乏有效管理这些风险的策略加剧了这种担忧。面对这一划时代的挑战，美国需要一个全面的行动计划和对其适应性实施的持续承诺。

作为生物风险管理的基础能力，美国需要一个全国性的监测系统，能够为新出现的病原体提供早期预警，无论是自然发生还是合成的。这需要联邦和州投资建设传感和收集基础设施（如废水监测），并建立一个分布式实验室网络，以快速处理该基础设施生成的数据。

这些工具将支撑迅速识别恶意行为者的动作。虽然一些攻击者（如独狼）不太可能对惩罚威胁做出反应，但如果国家层面或国家支持的对手认为生物攻击永远不会被归因于他们，他们就可以不受惩罚地行动。

一个新的、有韧性的生态系统将取决于快速数据访问、整合和分析，这应由联邦政府所有、并作为与私营部门合作伙伴的协作联盟来进行管理。这将确保美国能够吸收、融合和评估来自全国乃至全球的人工智能和生物数据流。

这项事业将服务于国家和国土安全使命，包括能够持续识别新出现的生物威胁，了解它们是什么以及它们能做什么——例如识别与任何已知生物体列表都不匹配的工程病原体，并快速制定有针对性的应对措施。它必须具备在机密环境中工作的能力，提供专用的计算能力和基础设施，用于训练和评估前沿生物学模型以及管理敏感的生物学数据。

文章认为，通过跨党派行动，美国可以定位自身，不仅在开发具有巨大商业效益的生物技术应用方面表现出色，同时还能有效监测、归因和应对生物威胁。

这将需要私营部门创新与公共利益之间的协同和巧妙管理。但美国有能力平衡这两个当务之急。如果建立一个依赖私营公司提供服务的全国性生物监测网络，它将提供持续的好处。如果临床试验系统可以转型，它将通过加强美国工业的竞争力和将更多生物技术生产回流国内来使消费者受益。再加上对美国生物制造业的投资和激励措施，这些举措将建立起保障美国人民免受生物风险的必要基础设施。反过来也将使美国能够在发生蓄意攻击时迅速做出反应，使其不易受到供应链中断的影响。

资料来源丨Foreign Affairs

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”