在企业和政府就AI安全问题展开博弈之际，研究人员陷入两难境地

图丨Pexels

据Science网站6月19日报道，多年来，那些极力打造人工智能系统的企业也一直是最响亮地警告人工智能潜在危险的主体之一。

许多研究人员曾热切期待Anthropic公司在6月9日发布Fable 5，但发布后很快就变味了，因为他们遇到了对该模型使用方式的广泛限制。

即便是这些限制措施也未能让白宫满意——仅仅三天后，白宫就完全叫停了Fable 5。

对许多科学家来说，这个教训显而易见：他们正日益依赖自己无法控制的人工智能研究工具。

访问权反而掌握在少数企业和政策制定者手中，他们仍在实时摸索这些强大系统应如何治理。

开放科学研究平台alphaXiv的联合创始人Rehaan Ahmad表示，这一事件在监管人工智能与放任利用人工智能开展研究之间的斗争中“只是冰山一角”。

Fable 5受到广泛安全措施的限制，但也被宣传为科学工作的重大进步。伊利诺伊大学厄巴纳-香槟分校（University of Illinois Urbana-Champaign）的生物学家Sierra Bedwell说，Anthropic“大力宣传Fable的生物学能力”。

然而，用户在社交媒体上报告称，Fable 5甚至拒绝回答关于生物学的基本问题。一些人怀疑，该人工智能正在利用先前的对话历史来识别具有生物学背景的用户，并施加更严格的限制。

人工智能企业和研究人员都担心人工智能被用于不良目的，例如制造生物恐怖武器。

但Bedwell认为，Anthropic的限制反映了对基础生物学风险和收益过于狭隘的看法。

她认为，如果该公司在Mythos发布到Fable 5发布之间的几个月里与生物学家合作，本可以提出更实际的限制措施。

对于网络安全、生物学和化学问题，Fable 5至少使其限制透明化了，并告诉用户他们将被重新导向一个能力较弱的模型。

但该模型的内部规则说明显示，如果查询的问题涉及任何前沿人工智能研究，它会以用户不可见的方式默默降低自身能力。

这一功能很可能旨在防止竞争对手利用Anthropic自己的系统来推进竞争性人工智能模型。

批评者认为，对于其他研究人员来说，这带来了不必要的挫败感，限制了人们可以或不可以从事哪些研究。

广泛的反对声浪促使Anthropic迅速退缩。

它更新了Fable 5的政策，使得拒绝回答人工智能问题的行为变得可见。但这一缓解措施是短暂的。

6月12日，特朗普政府以国家安全为由发布了一项出口管制令，禁止外国国民——包括Anthropic自己的员工使用Fable和Mythos。

为遵守该命令，Anthropic将这两个模型下线。

这一举动让研究人员措手不及。

对于普林斯顿大学的计算机科学家Sayash Kapoor来说，这一连串事件暴露了一个关键问题。

随着所谓前沿模型变得越来越强大，独立研究人员对这些系统实际能做什么的了解可能越来越少。他表示：“这些事件揭示的关键问题是，迫切需要建立一个第三方评估生态系统。”这样高管和政策制定者就不会是唯一完全了解模型能力的人。

一些人乐观地认为，通过合作，科学家、企业和政府监管者能够找到方法，安全地将最强大的商业人工智能模型提供给研究人员使用。

另一些人则表示，Fable 5争议也表明研究人员应加倍努力开发替代方案。

这一想法促使人们呼吁大力加速开源模型的构建，这些模型的内部结构公开可用，并且可以由科学家个人定制。这类模型通常被认为落后于领先的商业系统6个月到一年。

但支持者认为，它们提供了一个不会随时消失的稳定研究基础。

资料来源丨Science

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”