术语slug: defer-loading

延迟加载

Defer Loading

将工具定义推迟到实际需要时才载入请求的调度策略

收录情报动态

共 1 篇 · 第 1/1 页
Google AI BlogT1·开发与工程
62 分
Gemini API 上线工具检索 按需加载降本提速

Google 在 Gemini API 的 Interactions 接口中推出 Tool Retrieval 预览功能,让智能体按需加载工具参数 schema,而非每次请求都携带完整工具库。该机制旨在降低输入 token 消耗与延迟,并在工具规模扩大时维持工具选择的准确性。开发者通过添加 tool_search 工具并将 defer_loading 设为 true 即可启用。