防范人工智能生物武器的路线图

图丨Pexels

据Axios网站8月21日网站消息，一份最新报告指出：人工智能赋能的生物武器是一类具备潜在灾难性，但仍可管控的风险，前提是政府、科学界、公共卫生部门以及头部科技企业能够建立起配套防护机制。

医疗与科研领域绝不能忽视这场围绕人工智能与公共安全展开的讨论。

兰德公司发布新报告，提出风险缓解策略，针对各类有可能利用人工智能设计、投放生物武器的主体。

目前社会已经围绕政府对前沿人工智能企业的监管与安全防护展开大量讨论，而兰德公司呼吁出台更多管控措施，推动跨行业广泛协作。

报告建议对那些推动当下诸多重大医学突破的生物工具与数据集实施保护。

通常大众将公共卫生应急准备视作疫情暴发后的应对手段，但该报告将其定义为一种威慑手段。

报告提出的举措旨在防范大规模人工智能驱动的生物袭击，手段包括管控敏感信息避免其落入不法之手、切断制造武器所需的材料获取渠道、主动识别滥用迹象，以及从源头威慑恶意行为。

人工智能飞速发展带来的一大问题是，能够制造生物武器的主体范围被扩大，既包括个体极端分子，也涵盖国家支持的行为主体。

兰德报告主作者斯蒂芬・格雷拉（Steph Guerra）表示：“生物领域的人工智能能力发展速度极快，但所幸目前尚未跨过绝大多数危险临界线。面对这类威胁，我们需要一套多层级、各项措施互相支撑的防护体系。”

格雷拉提到，人们经常谈论人工智能助力候选药物研发，但支撑这项工作的部分技术，一旦落入居心叵测之人手中，就会变成危险工具。

药企与生物科技公司产出的大量工具和生物数据属于专有资料，本身就设有访问限制。

而开源生物工具与数据的风险更值得警惕，其中就包括高校与科研机构产出的相关资源。

格雷拉称：“现阶段，生物学相关数据大多公开免费，生物学的初衷是科学探索、拯救生命，而非用于作战，这一点是好事。”

但存在矛盾，限制公开可获取的资源，有可能拖累科学进步。

格雷拉提出：“我们可以搭建生物数据平台，产出攻克疾病所需的数据；同时建立分级访问体系，保证只有合规的科研人员，才能够访问那些极易被滥用的数据集。”

兰德研究团队一直在研究人工智能智能体如何降低生物研发的技术门槛，让更多人有能力开展生物研发，进而降低制造生物武器所需的专业能力门槛。

近日，Anthropic公司宣布Claude成功针对14个靶点设计出蛋白结合分子，这是药物研发流程中的关键一步。

Anthropic既肯定该技术的发展前景，也点明潜藏风险，指出蛋白质设计和其他研究生物学能力在公司最强大的模型中尚未对普通用户开放。

该公司指出：“人工智能模型日益强大的自主研究能力，无疑会加速人类治疗药物的研发与基础科学发现。但倘若缺少完善的安全防护，这些能力也可能被不法分子利用，开展研发生物武器这类危险研究。”

资料来源丨Axios

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”