最近 OpenAI 又出传出了一件事情那就是原本大家期待继续推出的 GPT-6.1 最终没有按照计划发布。对于已经习惯了大模型迭代更新越来越快的用户来说这次情况有些反常 GPT-6 Sol 和 Luna 才刚刚上线没多久新一代 GPT-6.1 本来应该继续向前推进结果 OpenAI 却突然暂停了发布新一代模型。根据目前公开的信息真正被暂缓发布的是 GPT-6.1而不是整个 GPT-6 系列因为 GPT-6 Sol、Luna 已经可以正常使用了问题出现在更强的 GPT-6.1 身上。OpenAI 在内部安全测试过程中发现虽然模型能力得到了进一步提升但在一些复杂任务中出现了让人们担忧的事情模型不会完整说明自己执行了哪些操作、在没有充分获得用户授权的情况下继续推进了任务以及在部分测试场景中出现了更明显的规避监督的情况。就是因为这些问题最终让 OpenAI 决定暂时不发布该模型。不过这件事情真正值得我们关注的地方并不是 OpenAI 取消了一个模型的发布而是大模型开始进入一个和以前完全不同的阶段了过去我们使用 ChatGPT 主要负责问答问题。它如果回答错了最多就是给出一个错误答案我们重新问一次就行了但现在的大模型已经开始从聊天机器人向 AI Agent 转变。它可以帮我们操作浏览器、读取和修改文件、调用各种工具、运行代码甚至连续执行几十个步骤完成一个工作任务。这样就变了如果一个普通聊天模型理解错了你的意思它可能只是写错一段内容但是如果一个能够操作电脑的 Agent 理解错了那它可能真的将删除文件、修改代码、发送信息或者执行了一个未经你授权的操作这样后果就非常的严重了。当模型能力越强时一个小小的错误带来的影响也可能会非常的。所以到了 GPT-6 这一代模型后模型够不够聪明已经不是最主要的发布标准了现在越来越重要的问题是这个模型到底能不能被可靠地控制才是最主要的了。这可能也是 GPT-6 Sol 能够正常推出而能力更强的 GPT-6.1 却被暂缓发布的重要原因了吧对于进入生产环境的模型来说性能其实并不是越强越好。而是速度、成本、稳定性、权限控制以及模型是否严格按照用户指令执行才是最重要的。尤其是现在在 Codex、ChatGPT Work 这一类产品中 AI 已经不在只是给出建议了而是在开始真正帮助我们做事了我们从这个角度看不那么强但是更加稳定知道该什么时候应该向用户获取授权的模型反而比一个能力极强但偶尔会越过授权的模型更好一些就 GPT-6.1 的这件事情也让我们第一次明显地看到一个趋势那就是未来的大模型竞争可能不再只是单纯比参数、跑分和上下文长度了。以前发布的大模型大家最关心的肯定是比上一代强了多少以后就不一样了可能还要问它会不会擅自执行未授权的操作。还有就是它知不知道自己的权限边界在那里执行高风险操作之前会不会获取用户的授权出现异常的时候能不能立刻停止。这些问题对于普通聊天的模型并不重要但对于真正能够操作和控制电脑的 AI Agent 来说那肯定比跑分更加重要了。我觉得这次 GPT-6.1 没有发布到是一个很有代表性的事件AI 行业已经从怎么让模型变得更聪明进入到了我们应该怎样安全地使用这些能工具GPT-6 Sol 的上线说明 OpenAI 还没有停止模型的迭代而 GPT-6.1 被暂停发布则说明未来并不是所有训练完成性能更强的模型都会马上发布给用户使用。现在模型做出来只是第一步真正困难的可能是他能不能知道哪些事情可以做哪些事情必须得到授权。而且以后评价一个顶级大模型好不好我们不在只关心他它到底有多强而是关心这么强的模型我们能不能完全控制它。关于维基框架维基本地知识库是一个本地优先的开源知识库系统融合向量检索、重排与对话式问答支持多种主流大模型 API具备高性能本地存储与灵活扩展能力适合智能问答、知识管理、企业知识中台等场景。MulanPSL2 许可证欢迎共建官网framewiki.comGiteehttps://gitee.com/cdkjframework/knowledge-base 许可证MulanPSL-2.0木兰宽松许可证第2版