大模型应用开发--2--AGENT问题

1 agent三层记忆系统原理和实现

• 工作记忆
• 短期记忆
• 长期记忆

2 skill三层渐进式披露架构原理和实现

3 工具调用失败怎么处理

主要有以下四种失败原因：

• i参数错误，这是LLM自身问题。特征是工具返回参数校验失败、JSON解析失败。
  解决方案：不能用原来参数无脑重试，而是要把具体的错误信息连同原来的调用一起会送给LLM，让其自己修正参数。有了这个机制，超一半的参数问题都可解决。
• ii 临时服务错误，这是基础设施问题。比如：网络超时、409限流、503服务不可用。
  解决方案：用指数退避重试就可以，第一次等于1s，第二次2s，第三次4s，保持参数不变，因为问题出在服务端而不在LLM。
• iii 空结果和无用结果，工具执行成功了，单返回了空列表或者nod data。
  解决方案：让LLM重新生成一个更宽泛的查询条件，而不是重复原来的查询。比如：
  原来查”2025年3月保单“没结果，就让它改成查2024年的保单"
• iv 永久性错误。比如：401权限不足，404工具不存在。
  解决方案：这种重试没有任何意义，直接终止，给用户一个友好的提示即可。