- 分析用户查询意图。
- 根据查询意图进行路由:
- 如果意图是“查询订单状态”,则将该查询路由至与订单数据库交互的子智能体或工具链。
- 如果意图是“查询产品信息”,则将该查询路由至搜索产品目录的子智能体或链。
- 如果意图是“技术支持”,则将该查询路由至故障排除指南或转接人工渠道。
- 如果意图不明确,则将该查询路由至用于澄清意图的子智能体或提示链。
- 基于大语言模型的路由:可以通过引导大语言模型对输入进行分析,并输出特定标识符来指示下一步操作。例如,提示词可能会要求大语言模型“分析以下用户查询,并仅输出类别:‘订单状态’、‘产品信息’、‘技术支持’或‘其他’”。智能体系统根据输出结果引导工作流方向。
- 基于嵌入的路由:将输入查询转换为嵌入向量(参见第 14 章关于检索增强生成的内容),然后将这个嵌入向量与代表不同路由或功能的嵌入向量进行对比。查询会被路由至与其嵌入向量最为相似的路径。这种方法特别适用于语义路由场景,路由决策依赖于输入内容的深层含义,而不是仅依赖关键词匹配。
- 基于规则的路由:使用预定义的逻辑规则(如 if-else 语句)进行路由决策,依据的是从输入中提取的关键词、模式或结构化数据。尽管这种方法较基于 LLM 的路由响应更快、确定性更强,但在处理细微差异或新颖输入时灵活性较差。
- 基于机器学习模型的路由:该方法采用一个判别式模型(例如分类器)。该模型在少量标注数据上进行过专门训练,以执行路由任务。虽然它在概念上与基于嵌入的方法有相似之处,但其关键特征在于监督微调过程,该过程通过调整模型参数,以形成一个专用的路由功能。此技术与基于 LLM 的路由也不同,因为其决策组件并非一个在推理时执行提示词的生成式模型。相反,路由逻辑被编码在微调后模型所学得的权重之中。尽管 LLM 可能被用于预处理步骤(例如生成合成数据以扩充训练集),但它们并不参与实时的路由决策本身。