人工智能与CBRN风险

图丨Pexels

据AI Policy Perspectives网站8月27日消息，AI时代有一个挥之不去的疑问：如果这项可能延长人类寿命、保护地球的技术，反而被用来发动涉及化学、生物、放射或核材料的攻击，该怎么办？值得庆幸的是，这类被统称为“CBRN”的风险在历史上极为罕见，且潜在的攻击者通常以失败告终。

CBRN风险的威胁形势几乎是无限的，并且充满不确定性。历史案例数量很少，而那些最了解新兴威胁的人通常不能公开谈论它们。因此，AI公司必须与政府和专家密切合作，以了解最可能的威胁行为者的动机、能力和方法。

这种威胁建模需要绘制行为者在特定场景中会遵循的中间步骤，并确定AI可能在哪些最关键瓶颈上提供超越公开信息的助力。例如，在构思阶段，威胁行为者可能会就不同攻击的可行性寻求指导。在规划和准备阶段，他们可能会寻找实用的蓝图或培训。在生产和武器化阶段，他们可能会寻求武器合成、制造或运输方面的故障排除，或获取逃避检测的技巧。

威胁行为者的特征决定了他们需要的助力类型。一个资源有限、专业知识不足的独狼式恐怖分子可能希望获得清晰的指令和现成的材料。一个大型民兵组织可能希望获得关于如何攻击基础设施或开展培训计划的建议。

某些类型的助力也比其他类型更具后果性。AI是解锁了一种新颖的能力，还是加速了威胁行为者已经能做的事情？这种助力是否移除了关键瓶颈，还是更难的挑战依然存在？潜在的攻击者能否通过其他方式获取这些危险信息？

一个挑战是，专家们通常对对手的能力和动机意见不一。当涉及民族国家时，一些人认为生物武器缺乏战略合理性，因为它们难以开发和控制，且使用会导致公众谴责。另一些人则反驳说，民族国家的行动取决于对手的行动。

AI实验室需要既足够稳定以使其能够在风险问题上取得进展，又足够灵活以应对动态地缘政治和快速AI进步的威胁模型。

领先的AI开发者通常会设定他们认为有风险的CBRN能力的阈值。实验室及其外部合作伙伴使用各种评估方法来测试AI模型是否达到这些阈值——尽管大多数评估仍未公布，以避免无意中帮助恶意行为者。

第一类是自动化评估，如Lab-Bench，它向AI模型和智能体提问（例如关于分子生物学操作规程的问题），或让它们执行任务（例如编写代码来操作液体处理机器人），并由其他AI系统进行评判。这些评估具有广度和速度，但严重偏向生物学，而忽视了放射性和核武器等其他领域。它们也难以捕捉生物学杂乱无章的特性，无法提供关于是否已达到风险能力的清晰信号，并且可能低估了熟练人类能从模型或智能体中诱导出的能力。

第二类是专家主导的评估，可以提供更高置信度的评估，因为它允许有经验的人类通过多轮交互来探测AI，并探索特定场景。这包括专家红队成员试图对抗性地从模型中提取知识。这些评估可以提供更强的信号，但运行复杂，输出可能长达数百页，使其难以解释和标准化。

第三类是现实世界试验，如活性位点随机对照试验（Active Site RCT）。它们评估模型在现实世界环境中指导人类（以及可以想象的机器人）的能力。此类评估可以提供最丰富的洞察，但也缓慢、昂贵且难以设计得当。它们也可能无法推广到所研究的特定群体和任务之外。

展望未来，有几种方法可以改进AI对CBRN的评估。优先事项包括：连接不同的方法——例如，使用快速的自动化评估来检查模型是否在较慢的现实世界试验所突出的局限性上取得进展。设计针对快速改进的AI智能体更复杂的评估，这些智能体将前沿大语言模型与专业科学模型以及第三方数据库和工具相结合。开发保护隐私的方法，以允许第三方安全地评估AI实验室的模型，而不会让任何一方泄露敏感信息。

前沿模型论坛（The Frontier Model Forum）概述了四大类缓解措施：1）限制模型的底层能力；2）塑造模型拒绝风险请求的能力；3）实时干预以阻止风险输出；4）访问限制。

关键是，需要与政府和外部专家紧密合作，包括管理人工智能应用可能带来的多种两用风险。

资料来源丨AI Policy Perspectives

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”