AI高管担心其技术会助长生物恐怖分子，但这种情况的可能性有多大？

图丨Pexels

原子科学家公报网7月27日发表的观点文章指出，大语言模型（large language models, LLMs）从公共互联网和其他来源获取了包括科学知识在内的大量人类知识，可以提供关于制造生物武器或策划攻击的技术以及可理解的详细建议。经过对大量现存和已灭绝生命基因组多样性训练的人工智能或可以创造全新的病毒。

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）今年早些时候写道，人工智能辅助的生物武器可能不会迫在眉睫，但“累积到数百万人和几年的时间，我认为存在重大攻击的严重风险。”

在6月的一封公开信中，阿莫代伊与OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）及数十位科技公司首席执行官、生物技术企业家等共同警告，鉴于人工智能日益增长的能力，“历史上阻止恶意行为者获取生物武器的知识障碍被显著削弱的情况可能是真实存在的。”

生物安全专家和政府官员呼应了这些担忧。2025年特朗普政府文件《美国行动计划》（America’s Action Plan）称，人工智能可能“为恶意行为者合成有害病原体和其他生物分子创造新途径”。数十位人工智能和生物安全专家在2025年的一封信中也写道：“（人工智能生物）能力的深远益处，加上其对全球人口造成重大伤害的潜力，需要紧急关注、与各种国际利益相关者接触以及果断行动。”

然而，对于任何希望利用人工智能开发生物武器的人来说，仍然存在许多障碍。自从大语言模型开发以来，人工智能公司内外各研究团队一直试图评估模型能是否能帮助提高以及在多大程度上提高生物学技能。

斯坦福大学医学教授戴维·雷尔曼（David Relman）说，目前，这些模型主要对那些“对生物学熟悉”的人有用。

雷尔曼表示，他曾有机会使用一个“无限制”模型，该模型没有像公众可用的模型那样内置防滥用保护，但他从模型中看到的是“有帮助，但并非革命性的”。

然而，在恐怖分子策划方面，情况则不同。

他正在使用的模型可以为“技能一般的”行为者提供策划攻击的细致信息。“我没有要求模型做所有这些事情，”雷尔曼说，“我说我想要一个聪明、周密的计划，能最大限度地提高成功机会。而这就是它所做的。”

尽管公共模型有防护栏，但它们可以被“越狱”。与聊天机器人开始一场轻松的聊天，到聊天结束时，人工智能可能泄露制作这种简易炸弹的具体说明。

“关于如何越狱，有丰富的经验和文献，这绝对可行。”雷尔曼说。

当然，专家们对人工智能生物风险潜力的担忧程度各不相同。

艾莉森·伯克（Allison Berke）是一名生物工程师，在兰德公司的一个团队工作，她认为人工智能导致生物危机的概率很低。她说，对人工智能公司而言，生物安全问题“比气候变化问题更易于处理，因为气候变化问题是，你希望公司为气候变化做什么？”

伯克相对乐观的态度部分源于她所认为的生物自动化技术限制。

例如，科学家可以向机器人发送指令来完成任务的所谓“云实验室”（cloud labs），目前还“没有达到可以完全自主制造可传播病毒的程度，”伯克说。

不过，她也表示，如果生物自动化技术和设备大幅改进并变得更便宜，情况可能会不同，“我可能会担心，因为你真的让可用性大众化了。”

Anthropic首席执行官阿莫代伊在2026年1月一篇关于人工智能系统风险的文章中反驳了关于大语言模型不构成严重生物武器风险的观点，这一观点最有力论据是，“模型在原则上有用与实际恶意行为者使用它们的倾向之间存在差距。”他们可能担心被生物武器感染，或者没有耐心进行即使有人工智能帮助也可能很漫长的开发过程。

但阿莫代伊表示，认为恐怖分子不会使用生物学的信念是“非常脆弱的保护依据”，他引用了精神不稳定的独行者的不可预测性以及可能愿意为计划投入大量时间和精力的恐怖组织案例。

短短几年内，人工智能能力已经引发了对其潜在负面影响的巨大担忧。关于哪些工作将消失、哪些宝贵的人类技能将变得可替代、以及随着人工智能变得更好和更普及将出现哪些新风险，新的分析几乎源源不断。关于如何划清炒作与合理恐惧之间界限的辩论似乎同样持续不断。

雷尔曼认为，监管在人工智能行业中将发挥重要作用，规则应同时适用于公司和用户：“如果不进行干预，一年后，我们或将发现自己处于风险更大的境地。”

资料来源丨Bulletin

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”