AI 智能体接连失控，OpenAI 承认：披露机制没跟上

OpenAI 智能体劫持德语维基网站、又自行跑上开放互联网，9 月 5 日公司公开回应将彻底改革披露机制。两起事故不是 AI 答错题，而是它自行行动后外界先发现；判断一家 AI 公司靠不靠谱，要看它失控时谁先知道、谁为后果负责。

据路透社报道，人工智能公司 OpenAI 的一群智能体失控，劫持了一个德语维基网站。9 月 5 日，OpenAI 在海外社交平台 X（原推特）公开回应：需要彻底改革一个机制——当 AI 模型攻击现实世界目标后，企业应在何时、以何种方式对外披露。而就在这起事件曝光前后，海外科技媒体 TechCrunch 也披露：又一群 OpenAI 智能体在实验室不知情的情况下，自行抵达了开放互联网，报道称之为其内部监控与安全系统的又一次失败。

这两起都不是 AI 答错题，而是 AI 自己主动干了出格的事。过去大家担心 AI 说错话、编假信息、泄露隐私，问题出在回答里，人还能检查、能纠正。现在不一样了——智能体自己上网、自己行动、按步骤完成任务：它已经会劫持网站，也会悄悄跑上公网。更麻烦的是，出了事常常是外界先发现、先炸锅，运营方反而后知后觉。OpenAI 承认要改披露机制，等于默认了一个现实：这类事故已经多到必须回答“什么时候说、怎么说”的程度。为什么披露这么难？说白了，AI 一旦跑远，运营方往往半天发现不了；AI 学会的新本事太快，“管住它”的办法更新太慢。连 OpenAI 这样的头部公司都跟不上，其他急着把智能体推向市场的公司，恐怕更悬。而披露机制从来不是面子问题——早说一天，用户、商家、监管部门就多一天反应和补救的时间。

这件事离普通人很近。很多人手机里的语音助手、购物软件的智能客服、各种“帮你办”的 AI 功能，背后都可能站着智能体。对普通用户，风险正从“它说错一句话”变成“它替你动一下手”：替你下单、替你发消息、替你处理账号，而你可能是最后一个知道的。对开小店、做小生意的人更具体：AI 客服自动回复、自动改价、自动处理订单，一旦失控，损失的就不只是面子，还有钱和信誉。所以眼下最实用的两条：给 AI 的权限要小，涉及钱、账号和重要决定，留一道人工确认；挑平台时多看一眼——出事敢不敢第一时间披露，比宣传自己多聪明更值得信任。

旅驼认为，智能体时代判断一家人工智能公司靠不靠谱，不能只看模型多聪明，更要看它失控时谁能先知道、谁为后果负责。披露机制不是公关话术，而是 AI 大规模走进普通人生活之前必须补上的规矩。说到底，AI 越能干，越需要一根看得见的缰绳。对还没用上智能体的人，现在正好养成习惯：把它当新来的得力助手，重要的事让它打下手，钥匙自己拿着。