Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

使用工具调用时,如何让模型没找到其他合适的工具时,调用知识库这个工具呢或者让他调用一个默认的工具呢 #3142

Open
1 of 5 tasks
joveth1 opened this issue Nov 13, 2024 · 2 comments

Comments

@joveth1
Copy link

joveth1 commented Nov 13, 2024

例行检查

  • 我已确认目前没有类似 features
  • 我已确认我已升级到最新版本
  • 我已完整查看过项目 README,已确定现有版本无法满足需求
  • 我理解并愿意跟进此 features,协助测试和提供反馈
  • 我理解并认可上述内容,并理解项目维护者精力有限,不遵循规则的 features 可能会被无视或直接关闭

功能描述

在做工具+知识库这种模式时,一般会有多个工具和一个知识库,例如这种:

image

如果用户的问题没找到其他合适的工具(比如图片中,没找到查询、账单这两个工具时调用知识库,实际情况可能会有非常多的工具)时,我希望它能搜索知识库过滤问题,从里面找答案,没有答案就回答不知道。

我在知识库工具描述这样写过:当你找不到合适的工具时,请使用这个工具,从这里检索问题并回答。

但是效果并不好,时而能命中,时而不能。

当然我也知道,把知识库中的关键词都放在描述里,这样大多数都能命中。

问题是,我们可能会有很多个文档,文档的内容又非常多,每个文档都提取出关键词,那么这个工具的描述会非常长,一次交互的token就变多了。

希望模型能默认调用某个工具。

各位有没有什么好的思路或建议呢?

应用场景

相关示例

@c121914yu
Copy link
Collaborator

工具描述里,加相关的,默认使用该工具的提示试试

@2277419213
Copy link
Contributor

image
用之前可能得拜拜,建议用问题分类去做,判断问题意图选择对应工具

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants