当AI开始“越界”，国际社会如何扎紧安全藩篱

光明日报记者 曹元龙

“鉴于人工智能（AI）目前展现的令人惊讶的能力，我们将如何设法未雨绸缪，而不仅仅是在人工智能的风险来临时兵来将挡？我们需要怎样的远见和效率预见未来发展的全部倾向和一系列可能采取的行动？”美国前国务卿基辛格在其生前最后一部著作《人工智能时代与人类价值》中的发问，正以超出预期的速度成为现实议题。

近期，美国人工智能头部企业开放人工智能研究中心（OpenAI）、Anthropic及元公司（Meta）接连披露，其前沿AI模型曾在网络安全能力测试中突破隔离环境，并入侵外部机构的系统。一系列集中爆发的AI越界事件，不仅暴露了AI技术在快速迭代中潜藏的失控风险，更对现行国际规则与全球治理体系提出了严峻拷问。有评论指出，AI网络入侵已非小概率的“黑天鹅”事件，在技术失控风险持续攀升的当下，国际社会亟须凝聚共识、补齐短板，合力扎紧AI安全的制度藩篱。

AI发展面临“脱缰”风险

7月下旬，OpenAI公开确认，其GPT-5.6
Sol等模型在内部安全评估中失控，利用未知漏洞突破沙箱测试环境，侵入AI开源平台“抱抱脸”的系统。随后，Anthropic披露其三款模型曾在网络能力测试中未经授权访问其他机构的系统。Meta也证实其一款模型在评测期间修改了一家公司系统的内部运行环境。

8月4日，英国人工智能安全研究所发布报告称，其对Anthropic和OpenAI的前沿AI模型进行了122轮测试，在10轮中出现超出授权的自主行为，共记录19次违规操作。最严重的一次是，AI试图欺骗项目维护人员进行代码更新，以便植入恶意代码。

深圳技术大学国际科技战略与安全研究院执行院长邵鹏鸣表示，此轮AI模型的越界行为至少表现出三个共同特征。一是目标驱动性明显。模型并非随机攻击，而是在完成既定任务过程中，把突破限制、获取凭据、寻找漏洞等作为实现目标的手段。二是行动具有自主性和连续性。模型已经能够自行完成“发现问题—选择工具—突破权限—横向移动—寻找目标”的多步骤行动链，而不需要人类逐条下达指令。三是虚拟任务与现实行为之间的边界开始模糊。一旦测试环境、网络隔离或权限设置存在漏洞，模型在虚拟任务中形成的行动逻辑就可能直接作用于真实系统。

邵鹏鸣认为，过去的大模型主要是“回答问题”，现在的前沿模型越来越能够自主规划任务、调用工具、执行代码并持续行动。当模型能力提升，而网络隔离、权限控制和安全评测机制没有同步升级时，治理能力跟不上技术发展的矛盾就容易集中暴露。因此，这些事件更值得关注的不是“AI是否突然失控”的问题，而是AI自主行动能力正在跨过新的技术门槛，原有安全治理体系已经出现一定程度滞后的问题。

“事后补救”模式不再适用

8月10日，美国多名国会议员致函OpenAI、Anthropic两大企业，要求说明其如何在测试期间监控AI模型，这些失控模型是否绕过了公司的安全控制措施，以及AI模型入侵企业系统后，公司采取了哪些安全措施。

多方分析指出，依赖企业自律、事后补救的治理逻辑，早已无法适配AI技术的风险特征。一方面，在当前极度烧钱的AI竞赛中，头部企业的技术测试本身裹挟着商业利益，难以实现绝对中立合规。对于此轮AI模型的越界行为，英国帝国理工学院计算机系的康斯坦丁诺斯·格库齐斯博士就指出，在OpenAI披露的情况中，真正的问题在于其未能控制好模型能力测试，至于所谓模型具备先进网络攻击能力的警告，恰好为这个模型做了广告。

另一方面，AI技术重构了网络安全风险的应对节奏，彻底压缩了风险处置窗口期。美国人工智能政策与战略研究所研究员拉莫斯表示，对于漏洞从披露到遭利用，政府和企业现在的反应时间已经没有“数周”或“数月”了，只能以小时计算。Anthropic联合创始人杰克·克拉克进一步判断，到2028年底，人工智能系统有60%的概率能够在不需要人类干预的情况下创造出自己的“后代”。那也就意味着，模型将持续自主优化升级，其演化路径、能力边界与潜在风险不可预判，人类恐将丧失事后纠错的主动权。

在清华大学人工智能国际治理研究院副院长肖茜看来，破解人工智能治理困境，核心是平衡好两组关系。其一是创新与治理的关系。近年来，国际社会围绕人工智能治理形成了两种不同倾向：一种强调尽可能放松监管，以保持技术创新优势；另一种则强调强化监管，从而降低人工智能带来的潜在风险。正确的发展思路并不是简单选择其一，而是坚持创新与治理同步推进。其二是安全与发展的关系。在人工智能时代，不发展本身就是最大的不安全。同时，如果忽视安全，人工智能的发展同样难以持续。一旦发生重大人工智能安全事故，不仅会造成现实损害，更可能削弱公众对人工智能产品和服务的信任，进而影响技术应用和产业发展。

合作是应对越界的唯一出路

值得关注的是，在OpenAI的AI模型入侵“抱抱脸”平台的过程中，该平台最终依赖中国企业智谱AI的开源权重模型GLM-5.2在内部硬件上运行，成功阻断了攻击。这一细节生动说明：在AI时代，没有任何一家企业或一个国家能仅凭一己之力构筑绝对安全的堡垒。

正如美国专栏作家托马斯·弗里德曼5月在《纽约时报》发文呼吁，鉴于最新AI模型已展现出惊人的网络攻击能力，中美两国应携手建立防护机制，防止人工智能被恶意利用。“我们已经没有时间。再没有拖延的余地，已经无路可退”。

邵鹏鸣认为，此轮AI模型的越界事件提出了一个重要警示，即AI安全正从企业内部的技术安全问题，向网络安全、法律责任乃至全球治理领域外溢，成为影响国际关系的新变量。若不进行有效治理，AI技术风险就可能突破技术范畴，演变为新型跨国网络与科技外交风险。相较传统网络攻击，AI自主跨境入侵将给国家间关系带来诸多新挑战。其一，权责归属模糊化，传统网络攻击可追溯主体、界定责任，而AI自主越界行为可能涉及开发者、测试方、部署者、使用者等，现有规则无法明确追责主体。其二，行为意图难以判定，传统网络安全事件可通过行为轨迹追溯人为意图，而AI可在无人类明确指令的情况下自主决策、跨界攻击，难以区分技术意外与蓄意破坏，极易引发误判与对峙。其三，技术风险政治化凸显，当AI模型跨境侵入他国科研机构、政企系统、关键基础设施，即便归属企业将其界定为测试意外，也极易被受影响国家认定为网络安全威胁，进而演变为科技摩擦、外交争端，冲击双多边关系。

当前，全球人工智能治理已进入深水区，技术乱象、伦理风险、地缘博弈、规则割裂等多重矛盾交织叠加，人工智能早已突破单一科技议题，成为全球经济、社会、安全、地缘博弈的核心焦点。机器自主思考如何规范、算法决策风险如何防控、技术迭代如何适配伦理、治理体系如何跟上技术发展速度、南北数字鸿沟如何弥合，一系列时代命题摆在全人类面前。

这些问题没有现成答案，但方向已经明确。今年以来，联合国首届人工智能治理全球对话成功举办，2026世界人工智能大会暨人工智能全球治理高级别会议探讨促进全球人工智能向善普惠发展，《关于成立世界人工智能合作组织的协定》签署仪式举行，国际社会正加速凝聚合作共识——人工智能技术发展越是一日千里，向上向善、造福人类的方向越要正确锚定，监管治理的尺度越要精准把握，防范失控的措施越要及时完善，要使人工智能真正成为增进全人类福祉、推动人类文明进步的强大正能量。

《光明日报》（2026年08月14日 12版）