智能体:一个完成目标之前不会停止的while循环
用户输入需求之后经历的步骤:分析、规划、调用工具执行、返回结果、再分析等等循环
不同的llm有不同的分词方法、不同的token结束标志
自回归生成 贪心选择策略、多个后续序列选择分数高的
大语言模型学习到了文本中的潜在模式
Chat模型都有一个内置的聊天模版
提问:系统提示词对于llm有特别的与其他的提示词不同重要性的作用吗,他是如何区分的
系统提示词决定llm输出风格、定义可以使用的工具
提问:现在都是把可以使用到的工具写进系统提示词里面让llm选择,那没有训练过的llm会主动去选择工作
Llm训练的数据有截止日期,所以需要通过信息搜索工具来减少幻觉
Agent才是工具的执行这,llm知识
智能体工作流程:思考、行动、观察
思维类型有好几种:规划、分析、决策等等
动作有不同的执行方式:json、代码、函数
自由度与控制的取舍