人工智能挑战文档深度页
Tool Selection 与 Tool Filtering
用描述帮助模型选对工具,用过滤和策略确保只暴露当前任务允许的工具。
学习目标
- 能说明Tool Selection 与 Tool Filtering解决什么问题,以及何时适用。
- 能解释为什么“向模型暴露全部写工具”是误区。
学习前需要掌握
背景与问题
工具越多,选择成本与误调用概率越高;隐藏不允许工具比仅在提示中说“不要用”更可靠。
概念定义
Selection 是模型在可见工具中选择;Filtering 是应用在模型看到之前按身份、任务和风险缩小集合。
直观理解
菜单说明帮助点菜,门禁决定哪些房间根本不会出现在可进入列表。
核心原理
工具名和描述要区分用途与返回形状。
过滤必须发生在可信应用层。
Remote MCP 可用 allowed_tools 缩小导入集合;敏感动作结合 require_approval。
理解与实践步骤
- 1
按身份和任务生成允许集合
- 2
提供清晰描述
- 3
模型选择工具
- 4
执行层再次授权
- 5
记录选择与拒绝
实际应用
- 大型工具库
- MCP 集成
常见错误
向模型暴露全部写工具
描述高度相似
输入、输出与执行边界
输入
- 全部工具目录
- 用户权限
- 当前任务
输出
- 最小可见工具集
能力
- 大型工具库
- MCP 集成
只读优先默认不要求审批
官方来源与时效
资料记录日期:2026-08-30(不代表已逐项核验)。产品能力、SDK 参数和协议状态可能变化,请以链接页面的当前版本为准。
推荐学习资料
暂未收录相关资料
参考库不会生成虚假资源或无效外部链接。