Google AI BlogT1·开发与工程
62 分
Google 在 Gemini API 的 Interactions 接口中推出 Tool Retrieval 预览功能,让智能体按需加载工具参数 schema,而非每次请求都携带完整工具库。该机制旨在降低输入 token 消耗与延迟,并在工具规模扩大时维持工具选择的准确性。开发者通过添加 tool_search 工具并将 defer_loading 设为 true 即可启用。
Defer Loading
将工具定义推迟到实际需要时才载入请求的调度策略
Google 在 Gemini API 的 Interactions 接口中推出 Tool Retrieval 预览功能,让智能体按需加载工具参数 schema,而非每次请求都携带完整工具库。该机制旨在降低输入 token 消耗与延迟,并在工具规模扩大时维持工具选择的准确性。开发者通过添加 tool_search 工具并将 defer_loading 设为 true 即可启用。