新闻详情

新闻详情

首页 / 资讯中心 / 详情

TFLM_day7

发布时间:2026/11/17 22:31:07来源:尧图网络
TFLM_day7
轻松学习 TFLM Day 7:把.tflite模型接到 TFLM 示例里摘要:本文以 TFLM 仓库自带的hello_world示例为入口,完整演示如何把一个.tflite模型接入 TFLM 并完成一次真实推理。内容涵盖:模型接入的完整链路、.tflite转 C 数组的三种方式(Bazel 规则、命令行脚本、手动生成)及验证方法、最小接入代码、完整可编译示例、int8 量化模型的输入量化与输出反量化、Bazel 模型规则配置、常见报错定位,以及面向 AI 芯片的接入检查清单。核心思路是:先把模型编译成 C 数组,再通过GetModel→MicroMutableOpResolver→MicroInterpreter→AllocateTensors→Invoke完成推理,并强调「先 host 后硬件」的调试顺序。Day 6 我们已经知道如何从模型找出需要注册的 op。今天继续做完整实战:把一个.tflite模型放进 TFLM 示例,让它完成一次真实推理。本章以仓库自带的hello_world为入口。它的结构简单,适合先在 macOS/Linux host 上验证,再迁移到 MCU、DSP 或 NPU 平台。1. 模型接入的完整链路TFLM 不能直接把文件路径传给MicroInterpreter。嵌入式程序通常需要把.tflite内容编译成 C/C++ 数组:my_model.tflite | | Bazel generate_cc_arrays v my_model_data.cc + my_model_data.h | v const unsigned char g_my_model_data[] | | tflite::GetModel(...) v MicroInterpreter | v AllocateTensors - 写入输入 - Invoke - 读取输出除了模型本身,还必须准备:内容作用op resolver给模型中的每种 op 找到 registration。tensor arena保存 tensor、OpData 和 scratch buffer。输入转换把应用数据转换成模型需要的类型和量化格式。输出转换把模型输出转换成应用可以理解的结果。构建规则把模型数组、示例代码和 TFLM runtime 链接起来。2. 先选择一个具体模型本文使用仓库中的:tensorflow/lite/micro/examples/hello_world/models/hello_world_float.tflite它的模型特点是:输入:float32,单个数值 输出:float32,单个数值 op:FULLY_CONNECTED对应 resolver:tflite::MicroMutableOpResolver1resolver;resolver.AddFullyConnected();如果你要接入自己的模型,先把下面的路径替换成自己的.tflite文件,并按 Day 6 的方法重新分析 op。3.1 从 .tflite 到 C 数组的完整转换步骤上一节介绍了generate_cc_arrays的 Bazel 规则,这一节我们把它拆开,看看一个.tflite文件到底是怎么变成 C 数组的,以及如何验证转换结果。3.1.1 官方转换工具TFLM 仓库提供了两种方式把.tflite转成 C 数组:方式一:Bazel 规则(推荐,集成到构建系统)在models/BUILD中声明generate_cc_arrays,构建时自动生成:generate_cc_arrays(name="generated_my_model_cc",src="my_model.tflite",out="my_model_data.cc",)generate_cc_arrays(name="generated_my_model_hdr",src="my_model.tflite",out="my_model_data.h",)方式二:命令行工具(适合快速验证)TFLM 仓库提供了独立的转换脚本,可以直接在终端运行:# 从 tflite-micro 仓库根目录执行python tensorflow/lite/micro/tools/convert/convert_to_cc_source.py\--input=my_model.tflite\--output=my_model_data.cc\--output_header=my_model_data.h\--namespace=tflite如果你不想依赖仓库脚本,也可以用xxd或 Python 手动生成:# 用 xxd 生成 C 数组(Linux/macOS)xxd-imy_model.tflitemy_model_data.cc# 用 Python 生成 C 数组(跨平台)withopen("my_model.tflite","rb")asf:data=f.read()withopen("my_model_data.cc","w")asf:f.write("const unsigned char g_my_model_data[] = {\n")foriinrange(0,len(data),12):chunk=data[i:i+12]f.write(" "+", ".join(f"0x{b:02x}"forbinchunk)+",\n")f.write("};\n")f.write(f"const unsigned int g_my_model_data_len ={len(data)};\n")3.1.2 生成文件的格式说明generate_cc_arrays会生成两个文件:my_model_data.cc—— 包含模型字节数组:// 由 generate_cc_arrays 自动生成,不要手工编辑constunsignedcharg_my_model_data[]={0x1c,0x00,0x00,0x00,0x54,0x46,0x4c,0x33,0x01,0x00,0x00,0x00,0x00,0x00,0x00,0x00,// ... 更多字节};constunsignedintg_my_model_data_len=12345;my_model_data.h—— 声明数组供其他文件引用:// 由 generate_cc_arrays 自动生成,不要手工编辑#ifndefTENSORFLOW_LITE_MICRO_EXAMPLES_HELLO_WORLD_MODELS_MY_MODEL_DATA_H_#defineTENSORFLOW_LITE_MICRO_EXAMPLES_HELLO_WORLD_MODELS_MY_MODEL_DATA_H_externconstunsignedcharg_my_model_data[];externconstunsignedintg_my_model_data_len;#endif// TENSORFLOW_LITE_MICRO_EXAMPLES_HELLO_WORLD_MODELS_MY_MODEL_DATA_H_关键点:数组名g_my_model_data由out参数推导,实际名称以生成文件为准。数组类型固定为unsigned char,每个元素是一个字节。g_my_model_data_len记录模型文件的总字节数,可用于校验。3.1.3 验证生成的数组与原始模型一致转换后一定要验证,避免数组损坏导致运行时崩溃。有三种验证方式:方式一:比较文件大小# 原始 .tflite 文件大小ls-lmy_model.tflite# 生成数组声明的长度grep"g_my_model_data_len"my_model_data.cc两者应该完全一致。方式二:用 Python 校验字节内容importre# 读取原始模型withopen("my_model.tflite","rb")asf:original=f.read()# 从生成的 .cc 文件中提取数组withopen("my_model_data.cc","r")asf
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/17 7:04:08

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/17 5:42:44

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/17 19:43:34

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/17 6:55:04

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/17 5:57:47

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/17 19:43:32

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉