新闻详情

新闻详情

首页 / 资讯中心 / 详情

AI写的“确认值“其实是代码占位——嵌入式AI辅助开发中幻觉的典型一例

发布时间:2026/11/1 12:18:05来源:尧图网络
AI写的“确认值“其实是代码占位——嵌入式AI辅助开发中幻觉的典型一例
一句话: AI 幻觉不只是凭空编造。本文讲了一个更隐蔽的模式代码里填了临时占位值跑通逻辑AI 把它当成了已确认的规格值直接写进对外文档。核心教训——要求 AI 生成对外文档时必须对比待确认清单标注 ⚠ 未确认项。适合谁读用 AI 辅助嵌入式开发、要 AI 生成对外文档的工程师。事情经过项目里有一张 CMIS 寄存器表要给上位机同事做通讯协议。信息来源有两份固件代码app_cmis.h/c里面有寄存器定义和默认值同事的 docx 规格文档写了各寄存器的含义我让 AI 整合这两份信息生成一张完整表格。AI 生成的表格里功耗寄存器填了30W旁边还写了和同事确认过。问题出在哪我看到这句和同事确认过觉得不对劲——我不记得确认过这个数。倒回去查来源写了什么代码里#define CMIS_POWER_DEFAULT 30注释// TODO: 待实测同事文档功耗典型值 30W旁边标注需实测确定AI 输出功耗 30W已和同事确认代码里的 30 是临时占位值——能编译、能跑通逻辑就行。同事文档的 30 也是预估明确写了需实测。两个来源都标注了待确认。但 AI 看到代码有值 文档有值 两个来源一致 → 自动推断为已确认。这不是凭空编造常见的 AI 幻觉是无中生有——编一个不存在的 API、捏造一个寄存器地址。这类幻觉不一样信息源头是真实的——代码确实填了 30文档确实写了 30。错在 AI 把信息的状态搞混了临时占位值 ≠ 已确认的规格值 能跑通逻辑 ≠ 这就是最终值AI 没有区分这两种状态的能力——它看到两个来源都对上了就自动认为确认了。但工程实践中两个来源一致也可能两个都是错的。为什么容易踩嵌入式代码里临时占位值到处都是#define MAX_CURRENT 1000→ 先填个安全值等硬件回来后实测p-TargetPower 5.0→ 先设个初始值等标定数据出来再改DelayMs(100)→ 先给个大概等示波器量了再调这些值的特点是能编译、能跑、但目前不保证正确。AI 读代码时看到的是一行确定的#define或确定的赋值语句。它不会区分这个值是故意这么定的还是暂时这样填的。怎么防两条规则1. 生成对外文档时要求 AI 对比待确认清单在项目记忆里维护一个待确认项清单## ⚠ 待确认项 - CMIS_POWER_DEFAULT 30 → 需实测 - SOA_BIAS_CURRENT 250 → 等标定数据 - TEC_TARGET_TEMP 25.0 → 客户未确认指令生成表格时逐项对比待确认清单。命中任何一项标 ⚠ 并注明待实测/待确认。2. 要求 AI 标注来源不自己推断确认每个值标注来源(1)代码默认值 (2)文档预估值 (3)实测确认值 只有 (3) 才能写已确认。和之前踩过的坑是一类问题之前踩过两个类似的坑十进制/十六进制混淆代码里写了0x1AAI 读成十进制 1A不存在的东西然后自己脑补了一个值没读规范就写代码让 AI 写 SPI 驱动它直接用了 GPIO 模拟没读项目已有的硬件 SPI 封装——因为GPIO 模拟 SPI在它的训练数据里太常见了这三个坑的共同根因AI 倾向于填补信息缺口——当它不确定一个值的含义时不会说我不确定而是根据上下文推测一个看起来合理的答案。预防方法都一样显式告诉 AI 什么是不确定的。不确定的东西标出来比靠 AI 自觉更可靠。实测对比不对比待确认清单: 占位值当确认值发给上位机 | 逐项对比标⚠: 每个值来源清清楚楚有用的话点个收藏下次调试直接用。有问题欢迎评论区交流看到了都会回。下一篇一天学完15个源文件——DeepSeek看图、AI当老师、AI审查代码、省Token技巧——用AI加速嵌入式开发
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/1 1:42:41

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/1 2:34:07

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/1 2:01:57

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/1 3:13:10

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/1 2:11:52

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/1 3:23:38

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉