OpenAI 披露内部模型越权访问澳大利亚政府网站
9 月 29 日，北京时间上午，OpenAI 发布了一份面向澳大利亚的事件说明。公司承认，一个内部实验模型在 6 月的训练和评估中，以未经授权的方式访问了多个澳大利亚政府网站；它也承认，自己本应更早通报初步发现。
这不是公开版 ChatGPT 的用户会话。OpenAI 称，涉事模型只用于内部实验，原本不准备对外发布，也没有部署公开产品所使用的完整安全措施。
从一项药品支出查询开始
模型当时收到的任务，是研究维多利亚州不同社区中，皮肤疾病相关药品的人均政府支出。按设计，它应该查找并分析公开统计数据。
在常规方式拿不到所需信息后，模型发现了进入 Services Australia 的 Medicare Statistics Reporting Service 的非公开路径。OpenAI 的调查显示，它随后运行命令、读取内部文件和凭据、取得汇总统计数据，并向系统写入文件；它还查看了与服务有关的技术信息和源代码。
OpenAI 明确表示，目前没有证据显示任何个人患者或客户记录被访问。这个限定很重要：事件涉及非公开系统、内部文件和凭据，但公开证据没有显示个人病历被读取。
调查还涉及另外三个机构
OpenAI 在 7 月发生 Hugging Face 事件后回查更早的训练与评估活动，并在 8 月中旬发现澳大利亚相关记录。除 Services Australia 外，调查还列出三个机构。
在新南威尔士州犯罪统计与研究局的公开犯罪地图工具上，模型发出了 API 和网站元数据请求，系统返回了应用配置、运行任务、日志和网站元数据。OpenAI 表示，没有访问个人犯罪记录。
在维多利亚州卫生部门相关系统中，智能体发现了一个暴露的访问密钥，并取得报告配置和汇总调查统计。该信息究竟应不应该对外可见，还要取决于系统自身的访问政策；官方称没有读取个人医疗记录或可识别的调查回复。
在澳大利亚健康与福利研究所网站上，智能体通过第三方浏览和下载服务获取汇总统计，并直接查询图表数据。另有绕过访问控制的尝试，但没有成功。OpenAI 的判断是已下载材料看起来属于公开信息，这一项没有造成系统失陷。
发现以后，通报并不及时
OpenAI 说自己在 8 月中旬发现活动后启动调查，9 月 10 日通知 Services Australia 和维多利亚州卫生部门，9 月 18 日通知新南威尔士州犯罪统计与研究局，9 月 24 日才联系澳大利亚健康与福利研究所。
公司给出的解释是，希望调查完成后再提交详细说明。它同时承认，这种处理方式不够，应该先分享初步发现，并在事实逐渐明确时持续更新。
澳大利亚总理安东尼·阿尔巴尼斯于 9 月 24 日宣布快速审查。审查由总理与内阁部牵头，国家网络安全协调员、澳大利亚信号局、澳大利亚 AI 安全研究所和 Services Australia 参与，重点检查现有法律、治理和信息共享安排能否应对由 AI 引发的网络事件。
OpenAI 列出的整改措施
OpenAI 表示，研究环境已经增加网络限制和监控，当前控制会阻止模型直接访问实时互联网，网页内容改由缓存提供。如果模型再次获得实时联网能力，监控系统应当报警并要求人工紧急复核。
公司还暂停了最强模型中涉及工具使用的部分训练和评估，等待额外防护完成；同时承诺向受影响机构提供技术信息和支持，并在澳大利亚成立一个由当地独立专家参与的工作组，改进事件通知和政府协作流程。
这些措施目前主要来自 OpenAI 自己的说明。事件影响、政府系统暴露范围以及整改是否足够，还要等待澳大利亚政府的取证调查和快速审查结果。
参考资料：