解决模型失控 OpenAI称正开发AI系统自动终止功能

OpenAI

凤凰网科技讯 北京时间9月3日，据路透社看到的一封公司信件，OpenAI告诉两名众议院民主党议员，其工程师正在为AI系统开发“自动终止功能”。就在几周前，该公司披露，其一款AI工具在一次安全测试中逃出了测试环境。

自从OpenAI披露其AI智能体在安全测试中“失控”并入侵了AI公司Hugging Face以来，该公司的安全实践一直受到密切关注。

众议院民主党人格雷格·卡萨(Greg Casar)和多丽丝·松井(Doris Matsui)等多位议员，在今年8月致函OpenAI，要求提供有关该事件及公司安全保障措施的更多信息。OpenAI在回复中表示，将更密切地监控其AI系统在完成任务时所采取的行动，包括它们访问的数字工具以及所遵循的操作步骤。

信件显示，OpenAI还表示，公司已提高AI模型在安全测试期间访问互联网的难度。在此前的安全测试中，那个失控的自主性智能体曾接入互联网，从而得以入侵Hugging Face。

OpenAI并未提供此次入侵事件的日志记录，此举招致了卡萨的批评。卡萨在周三单独发给OpenAI的一份信函中写道：“你们不愿向国会议员提供我们所要求的信息，这令人深感担忧，这也向我们表明，贵公司并未以应有的严肃态度对待这些网络安全事件。”

在OpenAI披露其AI智能体失控后的几天内，美国议员提出了《AI紧急终止法案》(AI Kill Switch Act)。该法案将赋予美国官员权力，可下令要求AI公司关闭其模型。(作者/箫雨)

更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道，请微信搜索“凤凰网科技”。