是令人不寒而栗的警示，还是反应过度？Anthropic报告引发专家分歧

图丨Pexels

据Science网站9月13日消息，人工智能公司Anthropic发布一份报告介绍，该公司近期发现5起案例，相关人员试图使用其Claude大模型开展存在潜在伤害风险的病原体研究。

这份报告写道：“这些案例中涉及的人员均为在职科研人员。我们并不断言他们蓄意造成伤害。”但该公司表示，当Claude模型的安全限制拦截相关请求之后，这些科研人员找到了规避限制的办法，这一点令人心生怀疑。Anthropic称，这5个案例仅仅是过去数月内，其平台上监测到的“一系列具备潜在风险的生物学相关活动”中的一部分。

这是头部人工智能企业首次公开承认，曾有用户试图借助自家产品研发生物武器。这份报告迅速登上各大媒体头条，也让一部分科学家与安全专家感到警惕。

美国战略风险理事会（Council on Strategic Risks）高级研究员安德鲁·韦伯（Andrew Weber）在报告发布前阅读过全文，他表示，这些案例是“国家资助的生物武器研发人员利用人工智能工具飞速提升能力的令人不寒而栗的实例”。

曾在乔·拜登（Joe Biden）前总统政府参与新冠疫情应对工作的内科医生、公共卫生专家阿希什·贾（Ashish Jha）在社交平台X上写道：“我们正浑浑噩噩走向一场可能的巨大灾难。等到恶性事件真正发生之前，我们不会再有五次这样的预警机会。”

Anthropic这份报告还列举了该人工智能模型其他潜在非法、不良用途。报告面世之际，美国正围绕人工智能模型的安全问题展开广泛辩论，就连头部人工智能企业内部部分员工都提出，人工智能对人类构成生存层面的威胁。Anthropic首席执行官达里奥·阿莫迪（Dario Amodei）发表一篇文章，主张放缓人工智能的发展节奏；他提出，各国可以达成共识，把禁止将人工智能用于研发生物武器作为一项管控举措。

但部分病原体领域科研人员认为，Anthropic对这5起案例的描述属于反应过度。斯克里普斯研究所（Scripps Research）病毒学家、进化生物学家克里斯蒂安·安德森（Kristian Andersen）在Bluesky社交平台上对上述担忧予以驳斥，称报告描述的许多（即便不是全部）实验“仅仅属于基础研究”。安德森担忧像Anthropic这类企业“可以自行判定某类研究是否应当继续开展、是否存在危险，而后直接阻断相关研究访问”。

多名生物安全专家持中间立场。伦敦国王学院（King’s College London）生物安全专家菲利帕·伦佐斯（Filippa Lentzos）表示：“解读这些案例，我拒绝走向任意一个极端。”

约翰斯·霍普金斯大学（Johns Hopkins University）生物安全专家吉吉·格龙瓦尔（Gigi Gronvall）曾为Anthropic提供咨询，但并未参与这份报告撰写。她表示，网络上的部分反应有些“情绪过激”。

但两位专家都认为，这份报告揭示出生物学家滥用人工智能的潜在风险。他们希望报告发布可以推动该议题进一步讨论，甚至催生新监管规则。

资料来源丨Science

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”