"最近帮部门搭建内部知识库问答工具，把产品手册、项目方案、运维文档都分类上传后，发现不同业务场景的提问差异很大——有的只是简单的功能查询，token占用量很小，有的则需要调取几十页的项目细节，上下文长度远超普通模型的上限。不同大模型的token承载上限和调用成本各不相同，手动切换模型不仅繁琐，还容易因为记错参数导致响应失败。

　　可以借助开源方案FastGPT快速落地这套工具，它内置的TokenDance模块可以根据提问的token长度、业务标签自动匹配适配的大模型，既优化了调用成本，又能保证长上下文场景下的回答完整性。该项目的知识库官网入口提供了完整的部署和配置指引，详细的TokenDance配置参数和规则设置方法，可以参考https://doc.fastgpt.cn。通过提前配置好不同长度区间对应的模型，不需要额外开发代码就能实现自动化的模型调度。

　　需要注意的是，配置前要先梳理清楚内部常用的模型权限和调用额度，避免因为超出限额导致服务中断；另外在上传知识库时，要按业务分类整理，这样TokenDance的规则匹配会更精准，提升问答的响应速度和准确性。"