AI导航

Gemini API上线Tool Retrieval预览:工具按需加载,智能体省token了

AI资讯
2 min read
1 次阅读

2026年11月19日,谷歌在官方博客宣布,Gemini API的Interactions API新增Tool Retrieval功能,现已开放预览。智能体不用再把几十上百个工具的完整参数schema塞进每一次请求,模型只在需要时才按名索取,输入token和工具选择准确率的问题一次解决。工具库越大的开发者受益越直接。

按名索取,不用自建索引

开启方式很简单:在请求里加一个tool_search工具,给想暂缓加载的工具设上defer_loading: true。模型仍然能看到每个工具的名称和描述,知道手里有什么可用,但参数schema不进上下文;需要调用某个工具时,模型按名索取,API在同一次请求内加载完整schema并发出function_call,搜索、加载、调用三步都记在interaction.steps里,方便排查工具名或描述的笔误。检索由服务端完成,不用自建索引;常用工具可不设延迟,长尾工具再按需加载。还兼容前缀缓存:延迟加载的schema加在对话后段,不破坏缓存前缀。远程MCP服务器同样支持,设defer_loading后整台服务器的工具都按需加载。

计费与适用范围

Tool Retrieval本身不单独收费,输入输出token按所调模型的标准价计费。开启tool_search会加一小块固定输入token,每个被加载的schema则按输入计费到对话结束。省不省取决于没加载的schema多不多:工具库越大、每次只用其中几个,省得越多;工具本来就少,收益可能盖不过固定开销。支持Gemini 3.6及更新模型,包括全部Gemini 4模型,仅限Interactions API使用。自己维护工具注册表、向量索引或按用户做权限过滤的团队,可以声明execution: "client"的tool_search,由应用自己查库,代价是每次检索多一次往返,好处是能在对话中途接入新工具。

谁最值得马上试

工具数到了几十上百的智能体最值得试,尤其是客服、办公自动化、数据分析这类工具越接越多的场景。工具只有几个的项目不必折腾,先把工具描述写清楚更实在。接下来看开发者实测:真实流量下能省多少token、大规模工具库里的选择准确率能否稳住。设置指南见谷歌AI Studio文档。同一批Gemini 4模型里,Gemini 4 Neon主打更快更便宜的百万上下文,发布时也值得一起看。

推荐工具

NVIDIA Chat with RTX AI聊天 Chat with RTX 是 NVIDIA 面向 RTX 电脑的本地 AI 聊天工具,可围绕本地文档和视频资料做问答,适合重视隐私、离线检索并具备硬件条件的用户更适合资料不便上传云 弱鸡AI AI视频 低价AI视频生成聚合平台,seedance2.0,seedance2.5,minimax h3,wan,muse等视频生成模型,支持在线创作与 API 接入。 HuggingChat AI聊天 HuggingChat 是 Hugging Face 的开源模型聊天应用,支持 Omni 自动选模型,也可手动选社区开放模型对话。它适合体验开源模型、技术探索和问答,结果可能不稳定,重要内容需复核。 纳米AI搜索 AI搜索 纳米AI 是 360 旗下 AI 搜索和智能体入口,支持文字、语音、拍照提问、多模型协作与内容创作,适合中文用户做日常搜索、学习问答、移动查询、热点追踪、生活决策、知识整理和轻量创作。 Qwen Chat(通义千问) AI聊天 Qwen Chat 是Qwen 大模型聊天助手,支持Qwen 模型聊天、写作和编程问答,适合中文用户和开发者完成 AI 对话、资料问答和任务协作,适合上线前核对权限、成本和资料质量。 DuckDuckGo AI Chat AI聊天 DuckDuckGo AI Chat 适合重视隐私的普通用户使用,围绕隐私 AI 聊天、免账户使用和多模型问答提供对话式 AI 支持和任务协作能力,适合上线前核对权限、成本和资料质量。