不能因人工智能生物危害的过度炒作,转移对当下真实风险的关注

图丨Pexels
据Nature网站10月5日消息,在美国炭疽袭击事件过去25年后,如今对人工智能的担忧,正让大家忽略保障安全真正需要做的事:打造一套强大、受监管的生命科学行业体系。
2001年,在“9・11”恐怖袭击的背景下,美国遭遇炭疽袭击事件,有人将炭疽杆菌(Bacillus anthracis)孢子制成白色粉末,邮寄至佛罗里达州与纽约的媒体机构,以及华盛顿特区政府官员的办公室。
很快,调查确认已发现的22例肺炭疽病例(造成5人死亡)并非自然感染,而是恶意人员实施的袭击。美国联邦调查局(FBI)查明,这批孢子来自美国国内实验室,然而该案的肇事者始终没有被定罪。主要嫌疑人、微生物学家布鲁斯・埃文斯(Bruce Ivins)在被提起指控前离世。
这场代号为“美国炭疽袭击(Amerithrax)”的袭击事件发生时,社会陷入恐慌,信息沟通不畅,政府各机构之间协调笨拙,公众强烈要求获取预防性药物。事件暴露出一个矛盾:多年针对生物恐怖主义开展防范准备,可当危机真实降临,现实状况却与预案存在巨大脱节。
如今,美国的防范能力并未变得更好。更糟的是,对某一类威胁的关注,是以牺牲对其他风险的重视为代价。政策制定者、科研人员和公众把目光放在被过度渲染的生物危害,如由人工智能设计的病原体上,分散了自身对最紧迫风险的注意力,但所有这些风险都理应获得关注。
应当优先推进的事项包括,针对生物材料与实验设备建立更完善、灵活的安全防护机制,并配套持续、协同的治理体系。
人工智能能够降低制造生物武器所需的隐性专业知识门槛,还能辅助构思突破生物防御手段的方案。人们担忧的风险包括:人工智能系统失控,引发非预期后果、突破监管限制;恶意人员利用人工智能模型设计全新或毒性增强的病原体;这类工具会扩大具备制造生物威胁能力的人群范围。
许多人认为,这类担忧源于技术飞速进步和治理机制跟进迟缓。但实际上,生物学本身具有高度复杂性;认清风险,才能提前做好应对。
解决之道是建立有效的政府监管、强化监测流程,构建坚实的安全防护体系。需要注意的是,仅依靠行业自愿举措,无法替代独立监督;人工智能工具及其安全护栏的设计,必须保留其服务于合法科研的能力。
即便抛开人工智能不谈,长期以来,生物风险的监管本就十分困难。对于高风险的两用研究,如改造具备大流行潜力病原体的相关研究,科研界仍难以落实监督与务实治理。
美国生物学家频繁遭遇监管政策反复摇摆。2025年,特朗普政府下令,接受联邦资金资助的机构暂停或审查其开展的、所谓危险的功能获得研究,研究对象为具备大流行潜力的病原体。
2026年7月,相关政策正式落地。此前纳入审查范围的七类被界定为危险功能获得的研究,如今被直接禁止。研究人员需要评估所有可能“严重危及人类”的病原体研究风险,而不再仅仅局限于具备大流行潜力的病原体。
伴随生物威胁的出现,全球可开展生物研究的高等级密闭安全实验室的数量扩增与管理问题,也引发越来越多担忧。除炭疽袭击之外,埃博拉、H5N1禽流感病毒疫情都属于这类生物威胁。
尽管政府资助的研究项目已经拥有(虽不完善的)监督机制,但私人实验室领域存在令人担忧的监管空白,私人实验室的总数量尚无确切统计。
应对生物威胁,还需要具备调查蓄意疫情线索、判定生物材料来源的能力,这一流程被称为生物溯源。2001年后,病原体预警系统得到强化,如美国国家生物监测整合中心项目,以及美国国防部全球新发传染病监测项目的拓展。但溯源调查流程复杂、体系碎片化,高度依赖多方共识。
尽管生物信息学与法医遗传学取得长足进步,但基因工程可以改造现有病原体,使其躲避检测手段,还能设计出模仿自然病原体关键特征的人造病原体。地缘政治紧张、虚假信息、科研结论政治化,同样增加了调查所需的技术严谨性与国际合作的难度。
资料来源丨Nature
本文由生物安全情报网编译,仅用于学术分享,转载请注明出处
阅读原文献请点击“阅读原文”
