新闻详情

新闻详情

首页 / 资讯中心 / 详情

300亿参数大模型装进手机,端侧云端各管一段

发布时间:2026/11/15 11:31:32来源:尧图网络
300亿参数大模型装进手机,端侧云端各管一段
一场开了三天的海外芯片峰会今年有两个第一次这家移动芯片公司历史上头一回同时发布第六代的两款旗舰移动平台一家国内厂商头一回把300亿参数的大模型完整装进手机端侧运行。整场峰会反复出现同一个词——AI智能体。用这家公司掌门人的话说行业正从点开应用走向说出意图。手机不再只是回答问题的工具开始替人把事办了。从回答问题到替人办事这场变化被称作端侧智能体AI计算越来越多地在手机本地运行从回答问题走向理解意图、在获得许可后代用户完成任务。这背后需要的不只是更强的芯片性能而是一整套重新安排更快的处理器来跑任务规划系统更强的端侧算力让多个模型同时在终端运行还要压住功耗因为即便用户没有碰手机AI智能体也可能在后台干活。这家公司的做法是在处理器旁加了一颗专门的AI协处理器并引入新的高带宽计算架构——算力和内存之间的通路拓宽了重活才搬得动。掌门人给出的判断是用不了太久手机将能运行超过1000亿参数的模型——到那时今天的天花板就是明天的起跑线。体验的另一半没有变影像、响应速度、续航一样都不能退。混合架构两端各管一段AI智能体并不是什么都装在手机里。这家公司给出的架构是混合式一部分模型常驻端侧一部分模型留在云端由一个任务规划器先读懂意图再负责调度——该本地算的本地算该云端算的云端交出去。端侧常驻的好处是响应快、数据不出设备云端按需调用补上本地装不下的超大算力。哪些留在手边、哪些交出去判断标准其实就两条够不够快值不值得托付。两种安排各管一段谁也不替代谁。这套分工逻辑做企业对外内容的人看着会非常眼熟。装一次就位的和每天按需来跑的企业的对外内容一样分两种路数。装一次就位的东西和每天按需来跑的东西安排的思路完全两样站点的基础框架、核心页面、事实信息属于装一次就长期管的讲究一步到位日常的问答更新、内容增补、信息维护属于按需来跑的讲究按日推进。两样混在一起安排要么前期反复返工要么日常慢慢松懈该一次做完的没做完往后天天补课该天天做的拖成突击两头吃亏。手机厂商把AI的常驻算力留给高频任务、把云端留给低频重活企业同样可以常驻的归常驻、按需的归按需把对外内容的两套步调分开安排各安其位。转型的不止是手机芯片这家公司自己也在重新分工转型的版图还在变宽。掌门人说它已经不只是一家移动芯片公司计算能力正在向电脑、汽车、机器人和数据中心延伸而省电的基因始终没变——设计芯片时永远假设另一端连着一块电池。汽车业务已连续23个季度保持同比两位数增长工业和数据中心是接下来的增长点。谈及中国合作方他的评价集中在两个字上速度——合作超过30年从智能手机到电动汽车中国厂商拥抱新体验的速度让它们站进了这轮变革的第一排。速度背后是整条产业链的配合。结语回到那两个第一次两款旗舰一起发是给智能体腾地方300亿参数进手机是把最常用的智能放在离人最近的位置。远端与近端各司其职快与省各得其所——这既是芯片的安排也该是企业安排自己对外内容的方式。当AI设备开始替人办事一家企业的信息能不能被这些设备准确读取取决于今天把哪些事一次装好、哪些事按日推进。下一个询问一家公司信息的可能不是人而是一台本地跑着大模型的手机——它读到的版本经得起托付吗
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/15 4:54:16

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/15 2:04:12

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/14 10:11:15

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/14 17:14:38

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/14 16:35:50

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/15 4:06:36

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉