新闻详情

新闻详情

首页 / 资讯中心 / 详情

GPT-6 Astra跑分反复被改,大模型评测还能信吗

发布时间:2026/9/7 21:09:27来源:尧图网络
GPT-6 Astra跑分反复被改,大模型评测还能信吗
上周四9月3日OpenAI 发布了新旗舰模型 GPT-6 Astra。发布还没到三天据 Fortune 报道它官方公告里的多项评测数据被修改过不止一次Astra 的幻觉率一度从 4.2% 降到 2%后来又改回 4.2%。这事对普通开发者最大的意义不是看 OpenAI 的热闹而是提醒所有人拿跑分数字选模型得多留个心眼。发布过程本身很折腾原定美东时间 9 月 3 日下午 2 点发的公告先撤下又重发官方先说是内容管理系统故障后改口称网络中断并强调与评测成绩无关。但网页存档显示重新上线后里面的数字确实变了之后还在变。据网页快照逐项对照主要变化有幻觉率Astra 从 4.2% 一度降到 2%接近砍半后又回到 4.2%前代 GPT-5.6 Sol 也从 12.2% 降到 9.4%再改回 12.2%FrontierMath Tier 4Astra 一直是 97.6%竞品 Fable 5.1 却一度从 87.8% 被调到 78% 再回到 83%Sol 也在 83% 与 80.5% 之间来回ARC-AGI-3预发布草稿里 Astra 是 98.6%公开版变成 99.99%据评测方 Arc Prize Foundation 独立复测配很强的工具框架能到 99.9%用标准框架则是 63%也有反向改动医疗评测 HealthBench 上Anthropic 模型的分数反而被调高了OpenAI 发言人解释模型检查点、评测框架、运行方式不同多数评测本就有几个百分点的正常波动改数字是为了代表对可用性能的最佳估计对草稿和最终版的出入官方称发布前验证评测属正常流程。公告还声明这些分数是在任何计算资源投入下能够达到的最高成绩——并不是普通用户默认配置下能拿到的体验。技术本质是跑分不是模型有多聪明的直接度量而是一组测量设置的输出。同一道题给不给工具、用哪个检查点、采几次样、跑在什么推理等级上结果都不同。几个百分点的出入确实算正常波动但4.2 砍到 2这种量级已经不是误差能解释的了。斯坦福的研究者把这类操作称为 Benchmaxxing即反复调整测试条件刷高分还指出 Astra 的系统卡几乎没写幻觉率评测的方法细节也有工程师认为发布前几小时调数字不罕见但行业应形成规范——改分时说明评测条件变了什么。往前看2025 年 Meta 的 Llama 4 也闹过类似成绩对不上实物的争议官方先否认后来 LeCun 承认做过修饰。变了的是模型发布节奏快到评测成了营销素材和厂商间的记分牌有报道提到 OpenAI 可能在 2027 年 IPO宣传数字的分量更重了。没变的是跑分从来不能直接等于你业务里的真实表现。那普通开发者怎么选、怎么用我的建议是三条官网数字只当线索别当结论。重点看第三方独立评测和社区真实用例的反馈拿自己的业务数据压测比看任何榜单都实在。挑 5~10 个高频场景固定参数多跑几次importosfromopenaiimportOpenAI clientOpenAI(api_keyos.getenv(OPENAI_API_KEY))defprobe(model:str,prompt:str,times:int10)-None:同问题同参数跑多次看稳定性胜过单个跑分。foriinrange(times):respclient.chat.completions.create(modelmodel,# 替换成要对比的实际模型名messages[{role:user,content:prompt}],temperature0,)print(f[{i1}],resp.choices[0].message.content[:80])3.**留意评测条件脚注**给没给工具、什么推理等级、哪个日期快照。采购或立项汇报时别把厂商最好成绩写成承诺注明某评测、某条件下取得坑也有几个把某榜单第一名直接当业务最优解不读评测方法就引用分数只测它能答对什么不测它在你的脏数据上会怎么错。跑分是体检报告不是疗效保证书——指标再好也得拿自己的病历说话。 发布会上的跑分你会直接采信吗你怎么看评论区聊聊。
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

免费开源FanControl风扇转速控制软件:10分钟跑通CPU风扇调速,搞定电脑散热 2026/9/7 23:27:58

免费开源FanControl风扇转速控制软件:10分钟跑通CPU风扇调速,搞定电脑散热

免费开源FanControl风扇转速控制软件:10分钟跑通CPU风扇调速,搞定电脑散热 【免费下载链接】FanControl.Releases This is the release repository for Fan Control, a highly customizable fan controlling software for Windows. 项目地址: https://…

阅读更多 →
非对称纳什谈判多微网电能共享MATLAB复现全解析 2026/9/7 23:27:58

非对称纳什谈判多微网电能共享MATLAB复现全解析

这两年复现过不少电网方向的优化调度论文,实话说,博弈论类的文章是最容易让MATLAB代码"翻车"的。上周刚刚把这篇《电网技术》上基于非对称纳什谈判的多微网电能共享策略完整跑通,中间卡了整整一周,翻来覆去排查问题&…

阅读更多 →
Crawl4AI v0.7.0 自适应智能升级深度解析:自适应爬虫、虚拟滚动、链接评分与 URL 种子发现 2026/9/7 23:27:58

Crawl4AI v0.7.0 自适应智能升级深度解析:自适应爬虫、虚拟滚动、链接评分与 URL 种子发现

Crawl4AI v0.7.0 自适应智能升级深度解析:自适应爬虫、虚拟滚动、链接评分与 URL 种子发现 【免费下载链接】crawl4ai 🚀🤖 Crawl4AI: Open-source LLM Friendly Web Crawler & Scraper. Dont be shy, join here: https://discord.gg/jP8…

阅读更多 →
电源电路设计全攻略:LM317、DC-DC、纹波实测与排障实战 2026/9/7 23:27:58

电源电路设计全攻略:LM317、DC-DC、纹波实测与排障实战

做电子电路这些年,我越来越觉得“电源是电路的心脏”这句话不算夸张。一颗心要是跳不动了,全身都歇菜;电源要是输出不稳、纹波超标、带载掉压,后面接的MCU再强、运放再精密也是白搭。尤其是最近帮人看了不少课程设计和入门项目&am…

阅读更多 →
freeCodeCamp Basic CSS 课程实战:用 font-family 设置元素的字体族 2026/9/7 23:27:58

freeCodeCamp Basic CSS 课程实战:用 font-family 设置元素的字体族

freeCodeCamp Basic CSS 课程实战:用 font-family 设置元素的字体族 【免费下载链接】freeCodeCamp freeCodeCamp.orgs open-source codebase and curriculum. Learn math, programming, and computer science for free. 项目地址: https://gitcode.com/GitHub_Tr…

阅读更多 →
Obsidian接入Agent:让第二大脑自动进化 2026/9/7 23:24:58

Obsidian接入Agent:让第二大脑自动进化

我用 Obsidian 差不多三年,笔记攒了两千多篇。一开始老老实实建文件夹、打标签、加双链,后来折腾 Dataview、Templater、Excalidraw,一度觉得自己已经把“第二大脑”玩明白了。直到我把一个 Agent 接进 Vault 之后,才发现之前的“…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞