新闻详情

新闻详情

首页 / 资讯中心 / 详情

给 Agent 挂了 50 个工具,为什么它开始胡言乱语?深扒 Function Calling 的数量陷阱

发布时间:2026/11/18 0:59:44来源:尧图网络
给 Agent 挂了 50 个工具,为什么它开始胡言乱语?深扒 Function Calling 的数量陷阱
给 Agent 挂了 50 个工具为什么它开始胡言乱语深扒 Function Calling 的数量陷阱很多刚开始做 AI Agent 的同学最喜欢的操作就是给大模型塞各种工具。查天气的、查库的、发邮件的恨不得把公司所有 API 都通过 Function Calling 挂上去。刚挂 5 个工具的时候测试效果完美。挂到 50 个的时候不对劲了。大模型开始瞎编参数或者放着明明能用的工具不用硬给你输出一段它自己编的“正确答案”。最离谱的是两个功能差不多的工具它偏偏挑那个错的调用。你以为是 prompt 写得不够清楚其实这是大模型典型的“工具数量陷阱”。大模型的注意力是有限的。当你把 50 个工具的 JSON 描述包括每个参数的名字、类型、描述全部塞进上下文里这部分本身就占了成千上万个 token。就算模型支持 128k 上下文它的注意力也会在这个巨大的工具列表里被稀释。这就好比你让一个人去五金店买螺丝刀。如果你给他一张只写了 3 种工具的清单他一眼就能挑出需要的。如果你给他一张写了 500 种五金工具的清单他很可能会看花眼最后随便拿个长得像螺丝刀的扳手回来。而且工具越多描述重合的概率就越大。比如你有一个get_user_info和一个search_user_profile。人类能分清前一个是查底层库后一个是查前端展示页但大模型只能靠你写的 description 去猜很容易就调错了。怎么解决目前业界落地的常见方案就两个。第一个思路是做工具分类也就是分层路由。别把 50 个工具平铺给一个 Agent。把系统拆成多个子 Agent。比如一个专门负责“用户查询”的子 Agent 只有 5 个相关工具一个专门负责“订单操作”的子 Agent 有 3 个工具。主 Agent 的工作不是直接调工具而是判断用户的意图属于哪个子系统把任务丢给对应的子 Agent。这就把一个 50 选 1 的难题变成了 5 选 1 然后再 10 选 1。第二个思路是给工具做 RAG检索增强生成。把这 50 个工具的描述向量化存到向量数据库里。用户输入一个问题系统先去数据库里查出相关度最高的 Top 5 个工具。然后再把这 5 个工具的 JSON 结构跟用户的提示词一起发给大模型。这样大模型每次看到的工具列表都很短命中率和准确度就直线上升了。工具不是挂得越多越好。给智能体一把只有两个功能的瑞士军刀它能用得很溜给它一个装了 100 把刀的工具箱它只会把手割破。下次再遇到 Agent 乱调工具先查查你到底在系统提示词里塞了多少个工具定义。
网站建设高端定制企业官网
RELATED

相关资讯

更多精彩内容,欢迎继续阅读

较早相关资讯

最新相关资讯

【外设】之大彩串口显示屏 2026/11/17 7:04:08

【外设】之大彩串口显示屏

大彩串口屏初步使用 1 .官网下载 STM32 屏幕 GUI 设计资料 http://www.gz-dc.com/category/typeid/4112 找到 STM32 Keil 工程,移植相关代码因项目而异进行移植,由于项目简单,本人只对用到的指令接口进行修改。 比如:注意事项&…

阅读更多 →
无法下载Windows系统iso文件 2026/11/17 5:42:44

无法下载Windows系统iso文件

当我遇到这个问题的时候,我打开了一个网站: 登录 然后我打算下载的时候: 突然那个官方的连接就可以下载了:

阅读更多 →
【清华代码熊】DeepSeek V4.1 Flash 后训练详解 2026/11/17 19:43:34

【清华代码熊】DeepSeek V4.1 Flash 后训练详解

📌 上期解析了 DeepSeek V4.1 Flash 模型架构改进,本期解析 DeepSeek V4.1 Flash 预训练/后训练技术: 🌟 预训练:45T 文本 多模态混合语料、直接训练 sparse attention(取消 DeepSeek V4 的 dense 冷启动&…

阅读更多 →
Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ... 2026/11/17 6:55:04

Shuffle-R1: Efficient RL framework for Multimodal Large Language Models via Data-centric Dynamic ...

文章主要内容和创新点 主要内容 本文聚焦于多模态大语言模型(MLLM)强化学习(RL)训练中的效率问题,提出了一个名为Shuffle-R1的框架。研究发现,当前RL训练存在两个关键缺陷: 优势值坍缩(Advantage Collapsing):批次中大多数优势值集中在零附近,导致有效梯度信号被淹…

阅读更多 →
PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction 2026/11/17 5:57:47

PRvL: Quantifying the Capabilities and Risks of Large Language Models for PII Redaction

一、文章主要内容总结 本文聚焦于利用大型语言模型(LLMs)实现个人身份信息(PII)脱敏的研究,旨在解决传统脱敏方法(如基于规则的系统、领域特定命名实体识别(NER)模型)泛化能力差、跨格式/跨语境适应性弱的问题。 研究通过全面评估多种LLM架构(包括密集型LLM(D-LLM…

阅读更多 →
LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model 2026/11/17 19:43:32

LLaVA-RE: Binary Image-Text Relevancy Evaluation with Multimodal Large Language Model

文章主要内容和创新点 主要内容 本文聚焦于二进制图像-文本相关性评估任务(判断图像与文本“相关”或“不相关”),针对该任务中文本格式多样、相关性定义随场景变化等挑战,提出了基于多模态大语言模型(MLLM)的解决方案LLaVA-RE。 模型设计:LLaVA-RE基于LLaVA 1.5架构,…

阅读更多 →

今日资讯

本周资讯

本月资讯

看完文章仍有疑问?

联系尧图顾问,获取一对一建站咨询

立即免费咨询 📞 400-888-8888
📞 ✉