Products
96SEO 2026-06-15 07:39 17
周末翻以前项目代码的时候突然叹气——两年前写AI对话工具那堆if-else判断啊,现在kan简直是地狱级灾难
害,当时觉得"关键词匹配+手动路由"特聪明:用户发"搜索",就调knowledgesearch;发"kan文档",就推documentread;甚至还整了个长长的信号列表,什么"笔记""纪要""我的文章"dou算知识库触发词
结果呢?用户只要说一句"下上周文档里关于微服务的内容,再帮我搜下Zui新行业报告",整个逻辑直接宕机——if-else if只Neng二选一啊!要么只查文档,要么只搜知识,永远满足不了"既要又要"
对了,突然想到个题外话——你有没有好奇过"为什么百度不收录某些站点"?其实跟这特像:搜索引擎爬不到你的内容,不是因为内容差,是你没给它"指路";而硬编码的AI工具呢?LLM就算再聪明,也找不到你藏在if-else里의 tools啊!因为你压根没把工具"暴露"给它——没有统一描述、没有动态注册机制,它怎么知道该用哪个?就跟网站没Zuositemap映射一样
咱就是说,当时哪懂这些?一心觉得"Neng跑就行",直到需求越堆越多:要加联网搜索,要支持多轮调用,要让LLM自己判断优先级……才发现硬编码这条路越走越窄
转折点是接触到ReAct模式——Reasoning+Acting嘛,核心思想特别戳人:别替LLMZuo决定!
啥意思?以前是后端程序员攥着决策权:"用户说'搜索',我就让他调knowledgesearch";现在反过来:把所有可用tools列个清单,直接扔给LLM,"哥几个kan着办,需要啥 tool 自己叫"
说实话第一次这么干的时候我还犯嘀咕:"它Neng行吗?不会乱调用吧?"结果测第一个case就惊了——用户问"我上周写の那篇《React性Neng优化》笔记在哪?顺便kankanZui近社区有没有新方案"
LLM直接来了俩toolcalls:先call documentread拿本地笔记,再call websearch查实时内容;等俩结果回来,omg!它居然自己整合了:"根据你的笔记,社区Zui新方案有"
那瞬间我就明白:这才叫"智Neng对话",不是后端程序员在玩提线木偶
先唠唠硬编码の那些 "死穴"别笑,现在hen多AI产品还在用这套:前端发消息→后端关键词匹配→手动构造toolcalls→拼结果丢给LLM
kan起来丝滑?实则全是暗雷:
第一个雷:无法多轮调用
旧逻辑里,"一次请求只调一个tool",而且是后端定死の——用户问"这个搜索结果不够全",抱歉,得重新发一条消息才行!因为上一轮のtool调用Yi经结束了,LLM根本kan不到上一次の搜索结果
第二个雷:关键词永远漏判
我之前为了覆盖"知识库搜索"搞了二十多个信号词:"笔记""文档""我的""之前写の""记录一下"……结果用户说"帮我瞅瞅去年Q3の项目报告"直接漏判!气得我熬夜加了三个词,"Q3""项目报告""去年"——可谁知道明天用户会蹦出什么新说法?
第三个雷:伪造消息骗LLM
这个Zui蠢!后端手动塞一条{"role":"assistant","toolcalls":}到对话历史里,假装是LLM自己决定调toolの
// 假の toolcalls messages.push;把所有可用tools注册成统一接口,扔给LLM;calls ;
"上限?"对哦!不然 LL M 可Neng陷入无限循环:"调一次不够?再调一次…再调一次…",所以我们设个MAXITERATIONS=5,超过就强制停 举个我们项目里の真实例子:// lib/agent/tools/registry.ts
export function buildAvailableTools {
const tools = ;
if tools.push;
return tools;
}kan!不需要任何判断!,只要当前有文档打开,自动加documentReadTool;不管用户怎么问,"knowledge别写废话!,直接点出 "场景+用途", LLM秒懂:p>"user问'我的购物清单呢?'→ description里有'个人私有信息'→ call knowledgesearch"踩过の DashScope 大坑!官方文档dou没说清楚阿里云の DashScope APIkan着香,,但踩坑踩得我怀疑人生:// ❌ 错误示范
const params = {
model: "qwen3-235b-a22b",
enablethinking: true,
toolchoice: { type: "function", function: { name: "knowledgesearch" } } // ❌
};// ✅ 正确姿势
const params = {
model: "qwen3-235b-a22b",
enablethinking: true,
toolchoice: "auto"
};关键就在"auto"!: DashScope 的深度思考模式跟非 auto 的toolchoice 冲突—一 -要么不用thinking 要么toolchoice 死磕"auto"
