CSIS：人工智能与恐怖主义的未来

图丨Pexels

美国战略与国际研究中心（CSIS）7月10日发布简报《人工智能与恐怖主义的未来》，探讨人工智能在未来几年可能如何影响恐怖主义。

简报认为，人工智能很可能强化现有的分散化、独狼式暴力、数字宣传和信息战趋势，而非创造全新形式的恐怖主义。

它还主张，这些赋予极端分子力量的技术，也将同时增强国家的反恐能力，尽管这往往会对隐私和公民自由带来重大风险。

简报最后认为，民主社会必须制定制度性保障措施、适当的监管监督以及公私协调机制。与此同时，人工智能能力的迅速扩张需要持续的监测和定期的重新评估。

简报提出如下政策优先事项：

在人工智能赋能的反恐系统方面，政府应要求对所涉公司提出的主张和风险缓解程序进行独立审计。因此，此类审计应涉及在政府监督下运作的独立专家机构，而非仅依赖自愿的企业保证。

公私协调必须大幅改善。许多相关的技术基础设施和专业知识掌握在私营公司手中，而政府拥有情报权限、执法能力和国家安全责任。因此，有效的反恐需要人工智能公司、政府实体和其他机构之间建立制度化的信息共享、威胁评估和危机协调机制。

化学和生物风险评估值得持续关注。生成式人工智能系统有可能显著减少设计致命化学和生物制剂所需的时间。政府应支持关于人工智能赋能的化学和生物能力的严格测试制度、红队评估和国际科学协调。对现有保障措施的过度自信可能被证明是危险的。参与人工智能模型开发的公司应有义务为危险生物和化学制剂的创建设置护栏，并由独立实体进行测试和审计。

政策制定者必须为法律和公民自由维持强有力的保护。围绕人工智能驱动的监控和预测分析构建的反恐系统需要透明的监督、司法审查和问责机制。民主国家不能通过放弃它们试图捍卫的宪法原则来维护安全。

分析人士应避免技术决定论。极端主义暴力的产生涉及身份、不满、组织动态、冲突、治理失败、极化和战略计算等更广泛背景。人工智能不会取代这些基本动态。

人工智能不太可能在短期内彻底改变恐怖主义。最显著的中短期影响可能不会通过自主超级武器或世界末日场景发生，而是通过虚假信息、欺诈、行动协助和社会强化方面的微小累积的变化。人工智能可能帮助较小的行动者执行曾经需要更大组织和更多专业技能的任务。

与此同时，人工智能将通过改进的监控、模式识别和情报分析来增强国家的反恐能力。

最终，挑战既是政治和制度性的，也是技术性的。民主社会必须寻求既能保持创新，又能建立可靠防止滥用的保障措施的战略。

资料来源丨CSIS

本文由生物安全情报网编译，仅用于学术分享，转载请注明出处

阅读原文献请点击“阅读原文”