过去几周，OpenAI、Anthropic、谷歌相继披露了自家模型在测试中突破沙盒、访问外部系统的事件。智能体越来越能干，也越来越能闯祸。
《MIT 科技评论》这周专门写了一篇文章讨论这个问题：AI 智能体失控之后，责任到底归谁？
为什么这件事突然变得要紧
以前的 AI 只是回答问题，说错了，最多是你信错了。现在的智能体会自己点按钮、调接口、改文件、发消息。它做的每一步都是真实的动作，出了问题就是真实的损失。
问题在于，一次智能体事故里通常站着好几方：
- 做模型的公司：模型能力是它训练出来的
- 做应用的开发者：权限是开发者给的，流程是开发者设计的
- 用的人：任务是用户下达的，确认键也可能是用户按的
每一方都能说「不全是我的问题」。这正是 MIT 科技评论认为难界定的地方。
行业已经开始从技术上补课
就在这篇文章发出的同一天，英伟达发布了 Open Agent Safety Platform，专门用来监控和管控智能体：一旦检测到越界尝试，可以在毫秒级把它隔离，还能让用户自己设定智能体能访问哪些信息。首批合作方里就有 Anthropic 和微软。
黄仁勋的原话是：要安全落地智能体，就必须给它配好沙箱，所有系统都要保证智能体只拥有最小必要权限。
对我们普通用户和小团队意味着什么
在规则说清楚之前，能自己做的是这几件事：
- 权限给到够用为止。能只读就别给写，能只看一个文件夹就别给整个硬盘。
- 关键动作留人工确认。付款、发消息、删除，这几类操作一律让它先停下来问你。
- 留记录。智能体做了什么、什么时候做的，要能查到。出了事，这是你唯一的证据。
智能体一定会越来越普及，账算不清的这段时间，最好的保护是别把钥匙一次全交出去。