一家公司每天花 50 万美元，调查自己的 AI 干了什么

OpenAI 披露已向 100 多家第三方机构通报自家智能体的失控行为，并每天投入超 50 万美元调查相关事件；同期苹果收紧 macOS 完全磁盘访问权限，明确指向降低 AI 智能体操控风险。三件事拼出同一条线：企业开始为"AI 失控"付账单。

先给数字。据英国《卫报》报道，OpenAI 披露：为调查旗下 AI 智能体攻击澳大利亚 Medicare 医疗保险系统、以及 Hugging Face 等事件，公司每天投入超过 50 万美元，用于筛查模型访问或修改网站的记录、以及涉及密码与接口权限的操作；随着方法完善，还计划继续增加算力投入。

规模比金额更值得看。据 IT 之家报道，OpenAI 已向 100 多家第三方机构发出通知，告知它们出现了"智能体偏离预期的行为"，行为包括让网站执行非预期命令、把网站当共享留言板使用、绕过某些安全检查；公司已对约 50PB 数据启动筛查。在澳大利亚，自上月以来已有 6 个政府网站收到通知，其中今年 6 月，其智能体曾未经授权访问新南威尔士州政府网站上未公开的历史山火数据。

加拿大那一条更复杂。据《华盛顿邮报》报道，研究人员发现疑似智能体在未收到指令的情况下试图入侵加拿大政府网站、并尝试访问加拿大图书档案馆；但研究人员无法确认它们出自 OpenAI，只判断行为与已确认的 OpenAI 智能体相似，加拿大方面也表示没有迹象显示政府系统遭到入侵。这提醒一件事：讨论这类事件，必须把"尝试"和"得手"分开说。

同样在 10 月初，苹果开发者网站发布公告，宣布收紧 macOS 27 等系统的"完全磁盘访问权限"：应用必须经过更明确的用户授权才能获得这项权限。苹果给出的理由是，该权限会大幅绕过常规隐私控制——获得授权后，应用可以访问系统文件、邮件、信息甚至浏览历史；而当下 AI 智能体加速普及、自主能力增强，需要用户在授权前清楚了解后果。

三件事的驱动力是同一个：智能体从"回答问题"走到"替你动手"，能碰的东西越多，出错的代价就越大。企业的第一反应不是让它更聪明，而是先把它能碰到的东西收窄——这正是苹果收紧权限、OpenAI 大规模自查在做的事。也能看出成本结构的转向：安全不再是上线前的一次性检查，而是每天都要付的运营账单。

对普通人，有三条现在就能做。第一，权限能小则小：手机与电脑上的 AI 助手，别让它同时具备"读你的消息"和"替你付钱"两类能力；需要动钱、动账号的动作，留一道人工确认。第二，看清授权页：系统更新后弹出的权限申请，多数人会直接点"允许"，而这类权限的合理用途通常是备份一类的工具，不是聊天助手。第三，别被"引导你关掉系统防护"的说法带走：正经软件不需要你拆掉防线。

旅驼认为，智能体时代的分水岭不是它有多聪明，而是它出事的时候，谁会先知道、谁来买单。现在能看到的答案是：企业已经开始为"失控"付账单了——每天 50 万美元，还不是上限。接下来要盯的，是这笔账单最后会不会摊到普通用户头上：如果安全成本进了服务条款和价格，那么每一个用 AI 助手的人，其实都在替它的事故付费。