新闻详情

新闻详情

首页 / 资讯中心 / 详情

Single-to-mix Modality Alignment with Multimodal Large Language Model for Document Image Machine ...

发布时间:2026/9/27 10:29:16来源:尧图网络
Single-to-mix Modality Alignment with Multimodal Large Language Model for Document Image Machine ...
文章主要内容总结本文针对文档图像机器翻译(DIMT)任务中因训练数据有限、视觉与文本信息交互复杂导致的泛化能力不足问题,提出了一种名为M4Doc的单模态到混合模态对齐框架。该框架利用多模态大语言模型(MLLMs)的优势,通过训练阶段将仅图像编码器与MLLM的多模态表示对齐,使轻量级DIMT模型学习关键的视觉-文本关联;推理阶段则绕过MLLM,在保持计算效率的同时复用其多模态知识。实验表明,M4Doc在翻译质量上有显著提升,尤其在跨域泛化和复杂文档图像场景中表现优异。创新点提出M4Doc框架:利用MLLM的预训练知识辅助小型DIMT模型训练,实现翻译质量与推理速度的平衡。开发单模态到混合模态对齐方法:仅以图像为输入,即可与MLLM的混合模态(图像+文本)表示对齐,有效传递MLLM的知识。提升泛化能力:实验验证了该方法在跨域、长上下文、复杂布局等挑战性DIMT场景中的有效性,显著优于现有级联、端到端及知识蒸馏方法。翻译部分(Markdown格式)Abstract(摘要)文档图像机器翻译(DIMT)旨在翻译文档图像中的文本,由于训练数据有限以及视觉和文本信息之间的复杂交互,该任务面临泛化挑战。为解决这些挑战,我们提出了M4Doc,这是一种利用多模态大语言模型(MLLMs)的新型单模态到混合模态对齐框架。M4Doc将仅图像编码器与
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

嵌入式偶发Bug排查实战:串口假故障、蓝牙断开与烧录失败的差分定位法 2026/9/27 11:22:04

嵌入式偶发Bug排查实战:串口假故障、蓝牙断开与烧录失败的差分定位法

干嵌入式这行,最怕的不是那种逻辑写错、一查就出的硬 bug,而是“偶尔出现、一测就好、一放就坏、换个环境又消失”的偶发问题。你蹲在板子面前守了半天,它稳如老狗;你刚把示波器探头收起来,它又当场表演。尤其串口通信…

阅读更多 →
搞懂如何运营一个网站完整流程,别在备案上栽跟头 2026/9/27 11:21:58

搞懂如何运营一个网站完整流程,别在备案上栽跟头

搞懂如何运营一个网站完整流程,别在备案上栽跟头 你是不是也遇到过这种情况?网站代码写完了,UI也调好了,满心欢喜准备上线,结果卡在备案环节。看着工信部的系统提示,心里直打鼓,流程一头雾水,不知道先填什么、后传什么,更怕填错资料被驳回,白白浪…

阅读更多 →
专业购物网站建设哪家好:避开5大坑的选型注意事项 2026/9/27 11:21:51

专业购物网站建设哪家好:避开5大坑的选型注意事项

专业购物网站建设哪家好:避开5大坑的选型注意事项 改个商品详情页的按钮颜色,建站公司拖了一周还没动静?这种憋屈事在电商圈太常见了。选对专业购物网站建设哪家好,核心不在看PPT多炫,而在吃透这些 注意事项…

阅读更多 →
可视化网站建设速查手册:零基础避坑与SEO实战 2026/9/27 11:21:51

可视化网站建设速查手册:零基础避坑与SEO实战

可视化网站建设速查手册:零基础避坑与SEO实战 自己不会代码想做网站,别慌。 这份可视化网站建设速查手册,专门救急。 3秒看清坑,7天上线站,不花冤枉钱。 一、 为什么你做的可视化网站没人看?…

阅读更多 →
凤岗网站仿做图解步骤:5步搞定高仿站 2026/9/27 11:21:51

凤岗网站仿做图解步骤:5步搞定高仿站

凤岗网站仿做图解步骤:5步搞定高仿站 模板网站太丑不够用,直接买模板又显得没档次。很多东莞凤岗的老板或者运营想搞个“凤岗网站仿做”,看着别家网站不错,就想照着做一套。但真动手才发现,改来改去全是坑。今天这篇【凤岗网站仿做】的【图解步骤】,就…

阅读更多 →
嵌入式开发偶发故障排查:串口假故障、蓝牙断连与烧录失败的实战方法论 2026/9/27 11:21:17

嵌入式开发偶发故障排查:串口假故障、蓝牙断连与烧录失败的实战方法论

做嵌入式开发这些年,最怕的不是那种必现的bug,而是偶发bug。串口通信一天掉几次线,蓝牙连上十分钟莫名断开,十块板子里有一块烧录失败——这种问题时有时无,你没法稳定复现,又不敢出货。更气人的是&#xf…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉