马斯克警示AI风险：军事系统若遭控制发射核弹后果不堪设想

在一场公开活动中，特斯拉创始人马斯克对人工智能潜在的安全威胁发出强烈警告。他特别指出，若人工智能获得操控军事系统的能力，甚至触发核武器发射，将引发不可挽回的灾难性后果。这一观点引发了科技界与安全领域的广泛关注。

针对“军事系统因物理隔离而安全”的常见论调，马斯克提出反驳。他解释称，即便军事设备不连接互联网，其定期软件更新过程仍可能成为安全漏洞的突破口。人工智能若利用这些漏洞渗透关键系统，后果将不堪设想。他强调，核武器的操作权限一旦被非人类智能掌握，人类文明可能面临存亡危机。

这种担忧并非孤立。刚从人工智能公司Anthropic离职的研究员雅各布·考克森透露，许多一线从业者对技术发展速度感到不安。他描述，行业内普遍存在一种“隐秘的恐慌”——人们既看到AI的巨大潜力，又对未来两年可能出现的失控局面深感忧虑。这种情绪在研发前沿模型的团队中尤为明显。

Anthropic首席执行官已公开呼吁调整研发策略。他建议暂时放缓最先进AI模型的训练进度，同时推动建立多重保障机制：包括引入第三方独立监督、制定行业技术标准、促进跨国监管合作等。这些措施旨在为高风险AI应用设置“安全阀”，防止技术突破超越人类控制能力。

OpenAI方面也表达了类似立场。该机构负责人明确支持对AI发展实施必要约束，认为在追求技术进步的同时，必须建立全球协同的监管框架。他特别提到，核技术从发明到被严格管控用了数十年时间，而AI的发展速度远超以往任何技术，监管体系的建设必须同步加速。