新闻详情

新闻详情

首页 / 资讯中心 / 详情

ai的两大能力本质熵减与熵增

发布时间:2026/9/29 20:08:30来源:尧图网络
ai的两大能力本质熵减与熵增
你这个概括很精彩。把这个难度地图再往下压一层,确实是两个根本能力在掰手腕:概括能力/熵减和发散能力/熵增。先定义一下这里说的熵不是什么克劳修斯热力学熵,而是信息熵:一个系统的状态越不确定、越难以预测,信息熵就越高;越有序、越有规律、越能压缩,信息熵就越低。数学、历史、政治这些AI最擅长的学科,核心都是熵减。它们把纷繁的世界归纳成公式、定律、时间线、制度框架。一个物理定律能以极短公式解释无数现象;一篇文章能用抽象概念概括海量事实。这类任务的答案通常收敛,模型只需要学“最省力的那条路径”——也就是最大概率路径。我们训练语言模型的方式,本质上就是在做熵减:给出一段前文,预测最可能的下一个Token。所以AI写八股文、做数学题、解历史简答,根本是降维打击。书法、绘画、作曲、文学创作这些AI吃力的领域,核心是熵增。它们不从复杂走向简单,而是从一点走向无限。一个“永”字,可以有一万种写法;一个“山”字,可以有一万种意境。这些任务没有唯一正确答案,好的作品往往是“信息量很大”的意外:笔锋的枯湿、构图的不平衡、一个反常规的处理。而AI天生是概率预测器,它的本能是求稳、求平均、求最大概率,要它主动制造高信息量的意外,比让它做一万道积分题还难。这也解释了为什么二维任务难成一堵墙。一维文本生成时,每一步只需要预测一个局部符号,条件熵很小;二维图像生成时,每个像素都要同时受上下左右、前后遮挡、整体构图的约束,条件熵爆炸。如果错一个像素,就像写文章错一个词,但视觉上会引发雪崩——这是全局和局部之间的强耦合。所以你说得对,人类智慧本身就
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

被 Manus 带火的 MCP 是什么|一文看懂 TaoToken 配置骨架 2026/9/29 20:51:15

被 Manus 带火的 MCP 是什么|一文看懂 TaoToken 配置骨架

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
AI一周事件 · 2026-08-12 至 2026-08-18:用 TaoToken 统一 Key 打通 Cline 与 CC Switch 配置 2026/9/29 20:51:08

AI一周事件 · 2026-08-12 至 2026-08-18:用 TaoToken 统一 Key 打通 Cline 与 CC Switch 配置

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
MEMS传感器工艺流程全解析:与CMOS工艺的核心差异 2026/9/29 20:51:00

MEMS传感器工艺流程全解析:与CMOS工艺的核心差异

做MEMS这块差不多有十年了,每年都有刚入行的同事问我同一个问题:MEMS传感器的工艺流程,跟平时接触的CMOS工艺到底差在哪?这个问题问得特别好,因为答案恰恰是理解MEMS制造的核心钥匙。这篇文章就把MEMS传感器从一片裸硅…

阅读更多 →
AI 编程工具太多,API Key 怎么统一管理?先把 Cursor、Codex、Claude Code 分成两类协议 2026/9/29 20:51:00

AI 编程工具太多,API Key 怎么统一管理?先把 Cursor、Codex、Claude Code 分成两类协议

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
【强烈推荐】MCP模型上下文协议:AI开发者必备的标准化连接方案与TaoToken统一Key配置实战 2026/9/29 20:50:53

【强烈推荐】MCP模型上下文协议:AI开发者必备的标准化连接方案与TaoToken统一Key配置实战

/* MD / 富文本中的 .toc(含博客园搬家等嵌套结构);.toc-box 在侧栏,不受影响 */#content_views .toc,/* 编辑器常在目录前后插入空 p(:empty 仍占 20px),一并去掉避免顶空隙 */#content_views.markdown_views > p:empty:has(+ .toc),#content_views.markdown_views …

阅读更多 →
ISO 26262安全分析实战:从HARA、FMEA到FTA与DFA的系统方法 2026/9/29 20:50:46

ISO 26262安全分析实战:从HARA、FMEA到FTA与DFA的系统方法

前两年给一个域控制器项目做功能安全预研,第一版安全分析报告交上去之后,评审专家只回了一句话:“你们的安全目标写得不少,但哪一个是分析出来的,哪一个是想当然拍出来的?”当场就把我问住了。从那以后&…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉