跳到正文
AI大模型应用实践 / wechat· AI大模型应用实践·发布时间:评分61
图文

拆解 JEV(下):AI 智能体系统中的 8 类典型应用场景

拆解爆火的 JEV(下):在 Agent 系统中的 8 类典型应用场景。

内容导读

作者建议把 AI 智能体中高频、答案有限的判断交给 JEV:输入当前状态和判断标准,返回选择、评分或判断结果及概率,用于下一步动作、工具路由、风险检查等。8 类场景沿用同一分工:大语言模型负责规划与生成,JEV 做快速判断,程序负责执行与验证。作者提醒,当前决策模型不支持视觉理解,也可能误判;是否更快、更准,仍需上线前评估。

继续看关键要点
  • 工具分层路由需要纠错出口:置信度不足时保留多个候选或请用户澄清,每层设置“不匹配”选项。JEV 的 Choice 单题最多支持 255 个选项,并非工具达到几十个就必须分层。
  • 检索增强生成(RAG)可先扩大检索范围,再用决策模型筛选相关文本片段,最后交给大语言模型生成答案;还可用判断概率或结合置信度的评分对片段排序。
  • 文中介绍的 ModelRouterMiddleware 根据各模型适用任务进行分流,但当前是在一次智能体行动循环开始时按最新用户消息选模型,后续复用该选择。

来源:AI大模型应用实践 / wechat · mp.weixin.qq.com