纽约时报：Anthropic称其阻止了可能构建生物武器的行为

图丨Pexels

据纽约时报网9月10日报道，Anthropic公司称其今年已经阻止了若干涉及科学家使用其人工智能模型进行可能有助于开发生物武器之研究的潜在图谋。

在一份描述其人工智能模型被滥用的报告中，Anthropic表示，它无法确定该研究是服务于合法还是邪恶目的，因为那种可能带来疫苗等突破的有效生物学探究也可能帮助工程化危险病原体。面对这种不确定性，Anthropic称其选择谨慎行事，因为漏掉恶意活动的后果可能很严重。

Anthropic 威胁情报主管雅各布·克莱因（Jacob Klein）在接受采访时指出：“没有人会像漫画书里看到的那样说‘嘿，我想造一个生物武器杀死所有人’。这是一个极其微妙的情况。”

尖端人工智能模型促进已知或全新生物病原体开发的潜力，是专家们对这项发展如此迅速、以至于连其主要构建者都怀疑人类能否完全控制的技术的最大担忧之一。

与灾难性网络攻击或未能与人类意图对齐的AI智能体威胁相比，生物滥用作为人工智能的存在主义风险（existential risk）获得的关注较少，部分原因是过去的例子通常只在研究环境中显示，而非在现实世界中。

战略风险委员会（Council on Strategic Risks）高级研究员安德鲁·韦伯（Andrew Weber）在该报告发布前审阅了它，他表示，这些发现是“国家支持的生物武器开发者利用领先人工智能模型快速发展之能力的令人不寒而栗的例子”。

资料来源丨纽约时报网

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”