前言重新回来聊Agent前四章的LLM Agent不论是和数据库和模型还是和搜索引擎交互更多还是大模型和人之间的交互。这一章我们来唠唠只有大模型智能体的世界分别介绍斯坦福小镇和Chatdev两篇论文。它们的共同特点是使用多个大模型智能体协同完成任务。多智能相比单一智能体可能有以下的应用场景协同任务完成/创意生成通过多智能体间的沟通反思校验完成复杂任务激发创意的小火花模拟世界多智能体模拟社会环境现实应用是游戏NPC脑洞再大一点是不是可以用于社会学研究因果推断平行世界模拟生活番Generative AgentsGenerative Agents: Interactive Simulacra of Human Behaviorhttps://github.com/joonspk-research/generative_agents斯坦福小镇算是这几个月来看到的最有意思的大模型应用了作者设计了虚拟的小镇环境并在其中设计众多不同性格的虚拟智能体完全基于LLM的生成能力让众多AI们在小镇中开始了生活思考和互动。生活环境和经历塑造了每一个个体AI也不例外所以后面的介绍我们会围绕以下三个核心组件相关代码来展开沙盒环境: 描述AI们的生存环境并让AI感知当前所处环境并随AI行动更新环境状态智能体框架行为规划智能体每一步行为的生成记忆流: 智能体历史记忆的存储在以上组件的加持下小镇中的智能体们会发生以下基础行为智能体行为智能体根据当前状态和历史经历决定下一步是吃饭睡觉还是打豆豆智能体互动智能体间的互动通过交流或指令进行当智能体处于同一环境中时可能会触发交流对话智能体和环境交互智能体行为会改变环境状态例如智能体睡觉时环境中床的状态就会变成“Occupied”。当然我们也可以直接修改环境状态智能体规划想要触发以上1和2的行为和互动智能体肯定不能在小镇里随机游走。论文的实现是让智能每天都生成一天的Todo List根据计划行动并在行动中不断更新当日计划。智能体自我思考通过对历史经历的不断总结和反思得到更高级层次的自我思考从而影响日常智能体的行为其他衍生能力信息在智能体之间传播多智能体合作etc沙盒环境这里我们把沙盒环境放到第一个部分因为个人感觉如何定义环境决定了Perceive智能体能接收到哪些环境信息Action智能体可以做出哪些行为包括在当前位置行为和位置移动Influence: 行为可以对环境产生哪些影响地图(maze.py)环境本身被抽象成一个二维矩阵这类二维游戏地图也叫瓦片地图(Tiled Map。地图上每一个瓦片都是一个字典存储了该瓦片内的所有信息以下信息中的events字段都是智能体可以感知并影响的环境信息。self.tiles[9][58]{world:double studio,sector:double studio,arena:bedroom 2,game_object:bed,spawning_location:bedroom-2-a,collision:False,events:{(double studio:double studio:bedroom 2:bed,None,None)}}同时Maze还存储了一份倒排索引也就是给定当前智能体当前的地址需要返回在地图中对应的二维坐标这样就可以规划智能体从当前位置到某个地点的行动路径。self.address_tiles[spawn_locbedroom-2-a]{(58,9)}环境感知(perceive.py)有了环境再说下智能体如何感知环境。给定智能体当前在地图中的位置智能体可以感知周围设定范围内所有瓦片中最新的事件。如果周围发生的事件太多会先按照和智能体之间的距离排序选择最近的N个。同时对于智能体之前未感知的事件会加入到智能体的记忆流中。记忆流记忆流的设计算是论文的一大核心分成以下两个部分记忆提取其一是传统的RAG也就是智能体的每一步行为都需要依赖智能体的历史记忆如何抽取相关记忆是核心记忆存储其二是智能体的记忆除了感知的环境还包含哪些信息记忆提取(retrieve.py)话接上面的环境感知部分智能体感知到了周边的环境是第一步第二步就是用感知到的信息去召回智能体相关的历史记忆。这里被召回的记忆除了之前感知的环境和事件还有思考记忆思考后面会讲到。召回除了使用embedding相似度召回之外 记忆召回加入了另外两个打分维度时效性和重要性。其中时效性打分是一个指数时间衰减模块给久远的记忆降权哈哈时效性打分是个宝在很多场景下都是相似度的好伴侣实际应用场景中RAG真的不止是一个Embedding模型就够用的。重要性打分是基于大模型对每个记忆的重要程度进行打分。打分指令如下最后在召回打分时相似度时效性重要性进行等权加和。记忆存储 (reflect.py)智能体记忆流中存储的除了感知到的环境之外论文还增加了一类很有趣的思考记忆。哈哈不由让我想起了工作中听到的一个梗老板说不能只干活你要多思考触发机制也很有insight就是每个智能体会有一个重要性Counter当近期智能体新观察到的各类事件的重要性打分之和超过某个阈值就触发思考任务。哈哈今天你思考了么没有的话来学习下智能是如何思考的对打工人很有启发哟第一步定位问题论文取了智能体近100条的记忆通过指令让模型从中提N个问题。指令如下Given only the information above,what are !INPUT1! most salient high-level questions we can answer about the subjects groundedinthe statements?1)第二步反思问题针对以上N个问题进行相关记忆的抽取然后基于抽取记忆进行思考。这里允许召回的记忆本身是之前生成的思考也就是基于思考再思考基于反思再反思。从这里我真的看好智能体成为天选打工人…What !INPUT1! high-level insights can you inferfromthe above statements?(exampleformat:insight(because of1,5,3))1.最后生成的思考会存储入记忆流中用于之后的行为规划或者再进一步的思考。行为和规划最后一个模块是行为规划plan.py也是最主要的模块决定了智能体在每一个时间点要做什么也是之智能体记忆流中的第三种记忆类型。除了基于当前状态去生成下一步行为之外论文比较有意思的是先规划了智能体每一天的待办事项然后在执行事项的过程中进行随机应变。从而保证了智能体在更长时间轴上连续行为的连贯性一致性和逻辑关联。长期规划每日待办智能体每日待办事项是通过自上而下的多步拆解使用大模型指令生成的(plan.py)第一步冷启动根据任务特点生成智能体的作息时间如下第二步生成小时级别的事项规划。这里并非一次生成所有事项而是每次只基于智能体的所有静态描述包括以上生成的生活作息个人特点等等下图和上一个生成事项来规划下一个事项。模型指令是1-shot输出事项和事项持续的事件第三步是把小时级的事项规划进行事项拆解拆分成5-分钟级别的待办事项。模型指令同样是1-shot模板给出一个小时级别任务的拆分方式让模型去依次对每个小时的事项进行拆解模型指令中1-shot的部分格式如下TodayisSaturday May10.From08:00am~09:00am,Kellyisplanning on having breakfast,from09:00am~12:00pm,Kellyisplanning on working on thenextdays kindergarten lesson plan,andfrom12:00~13pm,Kellyisplanning on taking abreak.In5minincrements,listthe subtasks Kelly does when Kellyisworking on thenextdays kindergarten lesson planfrom09:00am~12:00pm(total durationinminutes:180):1)Kellyisreviewing the kindergarten curriculum standards.(durationinminutes:15,minutes left:165)2)Kellyisbrainstorming ideasforthe lesson.(durationinminutes:30,minutes left:135)3)Kellyiscreating the lesson plan.(durationinminutes:30,minutes left:105)4)Kellyiscreating materialsforthe lesson.(durationinminutes:30,minutes left:75)5)Kellyistaking abreak.(durationinminutes:15,minutes left:60)6)Kellyisreviewing the lesson plan.(durationinminutes:30,minutes left:30)7)Kellyismaking final changes to the lesson plan.(durationinminutes:15,minutes left:15)8)Kellyisprinting the lesson plan.(durationinminutes:10,minutes left:5)9)Kellyisputting the lesson planinher bag.(durationinminutes:5,minutes left:0)最终分钟级别的待办事项会作为智能体当日的主线行为写入以上的记忆流中在之后的每一次行为规划中提醒智能体当前时间要干点啥。短期规划随机应变以当日长期行为规划为基础智能体在按计划完成当日事项的过程中会不时的感知周围环境。当出现新的观测事件时智能体需要判断是否需要触发临时行为并调整计划。这里主要分成两种临时行为交流和行动。这两种行为的触发会基于智能体当前的状态和大模型基于上文的指令输出例如对于是否产生对话行为的判断当智能体A出现在当前智能体可以感知的环境范围内时通过以上的环境感知模块智能体的记忆流中会出现智能体A的当前行为。这时智能体会在记忆流中检索和智能体A相关的记忆合并当前状态作为上文使用大模型指令判断是否要发起和A的对话如果判断需要发起对话则触发对话模块进行交流而交流是所有社会性行为产生的根本。效果主要模块基本就说这么多技术评估就不多说了在智能体行为上论文验证了当前框架会产生一定的社会效应包括信息会在智能体之间传播智能体之间会形成新的关系以及智能体间会合作完成任务等等。论文也讨论了当前框架的一些不足包括如何在更长时间周期上泛化如何避免智能体犯一些低级错误例如躺上有人的床哈哈哈哈~个人感觉还需要讨论的是如何在当前的记忆流中衍生成更高级的抽象的思考以及对世界的认知。这些认知是否有更高效结构化的存储和召回方式。只依赖反思和记忆流的线性存储可能是不够的。职场番ChatDevCommunicative Agents for Software Developmenthttps://github.com/OpenBMB/ChatDev哈哈如果说斯坦福小镇对标综艺桃花坞那ChatDev就是对标令人心动的Offer。论文参考了斯坦福小镇的记忆流CAMEL的任务导向型对话方案通过智能体间对话协同完成特定软件开发任务。论文把软件开发流程抽象成多个智能体的对话型任务。整个开发流程分成设计编程测试文档编写四个大环节每个环节又可以拆分成多个执行步骤其中每个步骤都由两个角色的智能体通过对话合作来完成如下在进入主要流程前让我们先完成准备工作。开发流程的准备工作需要定义三类配置文件源码提供了默认的配置文件用户可以根据自己的需求选择覆盖部分配置。配置文件从Top to Bottom分别是ChatChainConfig定义了整个任务链的所有步骤和执行顺序(phrase)以及所有参与的智能体角色。以默认配置为例任务链包含以下步骤DemandAnalysis - LanguageChoose - Coding - CodeCompleteAll - CodeReview - Test - EnvironmentDoc - Manual参与智能体角色包括CEOCFO CPO CCO CTO programmerReviewerTester等PhaseConfig下钻到每个步骤分别定义了每个步骤的prompt指令以及参与的两个Agent角色。RoleConfig下钻到每个角色分别定义了每个角色的prompt指令初始化配置文件后我们进入软件开发的四个主要流程~Design产品设计环节负责把用户需求转化成项目方案包括两个原子步骤CEO和CPO进行需求分析和产品设计CEO和CTO选择编程语言。考虑每个phase的实现其实是相似的只不过参与智能体不同以及phase对应的指令和多轮对话形式不同这里我们只说CEO和CPO之间关于需求分析对话实现role_play.py这里融合了CAMEL的Inception Prompting和斯坦福小镇的记忆流和自我反思来完成任务导向的对话。Role Assignment首先初始化参与phase的两个智能体角色并生成初始prompt(Inception Prompt)。包括用户需求(task_prompt)本阶段的任务描述phase_prompt和两个智能体的角色描述(role_prompt)。基于初始指令之后两个智能体会通过对话相互为对方生成指令而人工参与的部分只有最初的角色描述和任务描述所以叫初始指令。产品涉及环节的具体指令如下需求分析阶段的任务指令使用了few-shot给出不同的产品形态例如图片文档应用等实现方式并明确了对话的两个智能体的讨论主题以及终止讨论的条件即确定产品形态以下是论文附录给出的一个需求分析阶段的具体对话示例不过对话终止符似乎变成了Memory Stream老实说感觉这里的memoery stream和上面小镇中实现的memory stream关联似乎并不是很大。看代码实现对话是直接使用上文对话history作为输入只有当输入上文长度超长的时候会保留Inception prompt和最近的N轮对话…难道是我漏看了代码如果是请评论指出 .Self-Reflection小镇中自我反思是为了产生更抽象更高级的个人思考。而在这篇论文self-Reflection其实更像是会议总结模块当多轮对话完成但是并未出现对话停止符号这时可以触发总结模块把前面的多轮对话作为上文来总结对话得到的结论用于后续步骤的进行如下Coding编程环节包括两个基本步骤后端写代码和前端设计交互界面。编程环节最大的难点就是如何避免模型幻觉最大正度保证代码的正确性以及在多轮对话中如何进行复杂长代码的编写和修改。这里同样我们只说下后端编写代码这一个步骤。代码编写步骤的核心指令如下CTO智能体给程序员智能体的指令是以面向对象的编程语言python为基础先给出核心类和方法。程序员智能体会按照指令以markdown为语法进行代码和注释的编写。之后代码编写环节会循环执行N次多轮对话不断对代码进行更新优化。在指令的基础上为了优化复杂代码的编写效果论文在代码编写环节引入了version control环节。在每一步代码编写完成后会使用difflib对两版代码进行比对并从记忆流中删除旧版本的代码这样对话会永远基于最新的代码版本进行对最新代码进行不断更新。Testing测试环节包括两个基本步骤代码评审和测试环节。评审环节程序员智能体会给评审智能体指令让其对代码进行检查例如是否有未实现的类或方法以及整个项目是否符合用户需求等等(角色指令如下图并给出评审建议。其次程序员之智能体会基于以上建议对代码进行调整。测试环节是基于代码执行后出现的bug进行修复。论文在这里引入了Thought Instruction有点类似Decomposed Prompt的任务拆分。因为如果直接基于代码执行bug让大模型进行修复问题可能过于复杂导致模型无法直接修复或者产生幻觉。因此通过多轮对话引入一步任务拆分先经过TestErrorSummary步骤对测试bug的位置和产生原因进行总结再基于以上总结进行代码调整。Documentation文档生成环节就比较简单了包括多个phase步骤一个phase对应一类文档说明。这里使用了few-shot指令来引导智能体生成requirements.txt, README.MD等用户文档以下是生成requirements.txt的指令示例效果效果上ChatDev从CAMEL编程相关的任务中随机抽了70个任务进行测试任务平均代码量是131行代码4个文件3个上游依赖库说明ChatDev整体生成的软件还是偏简单小型不涉及复杂的设计。具体效果大家可以直接去Chatdev的代码库里给的生成案例感受下。在这样的代码复杂度下ChatDev最终代码的执行成功率在86% 平均任务完成时间在7分钟左右且调用成本相对较低。最后感谢你们的阅读和喜欢我收藏了很多技术干货可以共享给喜欢我文章的朋友们如果你肯花时间沉下心去学习它们一定能帮到你。因为这个行业不同于其他行业知识体系实在是过于庞大知识更新也非常快。作为一个普通人无法全部学完所以我们在提升技术的时候首先需要明确一个目标然后制定好完整的计划同时找到好的学习方法这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。四、AI大模型商业化落地方案五、面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】 解密Prompt系列18. LLM Agent之只有智能体的世界
前言重新回来聊Agent前四章的LLM Agent不论是和数据库和模型还是和搜索引擎交互更多还是大模型和人之间的交互。这一章我们来唠唠只有大模型智能体的世界分别介绍斯坦福小镇和Chatdev两篇论文。它们的共同特点是使用多个大模型智能体协同完成任务。多智能相比单一智能体可能有以下的应用场景协同任务完成/创意生成通过多智能体间的沟通反思校验完成复杂任务激发创意的小火花模拟世界多智能体模拟社会环境现实应用是游戏NPC脑洞再大一点是不是可以用于社会学研究因果推断平行世界模拟生活番Generative AgentsGenerative Agents: Interactive Simulacra of Human Behaviorhttps://github.com/joonspk-research/generative_agents斯坦福小镇算是这几个月来看到的最有意思的大模型应用了作者设计了虚拟的小镇环境并在其中设计众多不同性格的虚拟智能体完全基于LLM的生成能力让众多AI们在小镇中开始了生活思考和互动。生活环境和经历塑造了每一个个体AI也不例外所以后面的介绍我们会围绕以下三个核心组件相关代码来展开沙盒环境: 描述AI们的生存环境并让AI感知当前所处环境并随AI行动更新环境状态智能体框架行为规划智能体每一步行为的生成记忆流: 智能体历史记忆的存储在以上组件的加持下小镇中的智能体们会发生以下基础行为智能体行为智能体根据当前状态和历史经历决定下一步是吃饭睡觉还是打豆豆智能体互动智能体间的互动通过交流或指令进行当智能体处于同一环境中时可能会触发交流对话智能体和环境交互智能体行为会改变环境状态例如智能体睡觉时环境中床的状态就会变成“Occupied”。当然我们也可以直接修改环境状态智能体规划想要触发以上1和2的行为和互动智能体肯定不能在小镇里随机游走。论文的实现是让智能每天都生成一天的Todo List根据计划行动并在行动中不断更新当日计划。智能体自我思考通过对历史经历的不断总结和反思得到更高级层次的自我思考从而影响日常智能体的行为其他衍生能力信息在智能体之间传播多智能体合作etc沙盒环境这里我们把沙盒环境放到第一个部分因为个人感觉如何定义环境决定了Perceive智能体能接收到哪些环境信息Action智能体可以做出哪些行为包括在当前位置行为和位置移动Influence: 行为可以对环境产生哪些影响地图(maze.py)环境本身被抽象成一个二维矩阵这类二维游戏地图也叫瓦片地图(Tiled Map。地图上每一个瓦片都是一个字典存储了该瓦片内的所有信息以下信息中的events字段都是智能体可以感知并影响的环境信息。self.tiles[9][58]{world:double studio,sector:double studio,arena:bedroom 2,game_object:bed,spawning_location:bedroom-2-a,collision:False,events:{(double studio:double studio:bedroom 2:bed,None,None)}}同时Maze还存储了一份倒排索引也就是给定当前智能体当前的地址需要返回在地图中对应的二维坐标这样就可以规划智能体从当前位置到某个地点的行动路径。self.address_tiles[spawn_locbedroom-2-a]{(58,9)}环境感知(perceive.py)有了环境再说下智能体如何感知环境。给定智能体当前在地图中的位置智能体可以感知周围设定范围内所有瓦片中最新的事件。如果周围发生的事件太多会先按照和智能体之间的距离排序选择最近的N个。同时对于智能体之前未感知的事件会加入到智能体的记忆流中。记忆流记忆流的设计算是论文的一大核心分成以下两个部分记忆提取其一是传统的RAG也就是智能体的每一步行为都需要依赖智能体的历史记忆如何抽取相关记忆是核心记忆存储其二是智能体的记忆除了感知的环境还包含哪些信息记忆提取(retrieve.py)话接上面的环境感知部分智能体感知到了周边的环境是第一步第二步就是用感知到的信息去召回智能体相关的历史记忆。这里被召回的记忆除了之前感知的环境和事件还有思考记忆思考后面会讲到。召回除了使用embedding相似度召回之外 记忆召回加入了另外两个打分维度时效性和重要性。其中时效性打分是一个指数时间衰减模块给久远的记忆降权哈哈时效性打分是个宝在很多场景下都是相似度的好伴侣实际应用场景中RAG真的不止是一个Embedding模型就够用的。重要性打分是基于大模型对每个记忆的重要程度进行打分。打分指令如下最后在召回打分时相似度时效性重要性进行等权加和。记忆存储 (reflect.py)智能体记忆流中存储的除了感知到的环境之外论文还增加了一类很有趣的思考记忆。哈哈不由让我想起了工作中听到的一个梗老板说不能只干活你要多思考触发机制也很有insight就是每个智能体会有一个重要性Counter当近期智能体新观察到的各类事件的重要性打分之和超过某个阈值就触发思考任务。哈哈今天你思考了么没有的话来学习下智能是如何思考的对打工人很有启发哟第一步定位问题论文取了智能体近100条的记忆通过指令让模型从中提N个问题。指令如下Given only the information above,what are !INPUT1! most salient high-level questions we can answer about the subjects groundedinthe statements?1)第二步反思问题针对以上N个问题进行相关记忆的抽取然后基于抽取记忆进行思考。这里允许召回的记忆本身是之前生成的思考也就是基于思考再思考基于反思再反思。从这里我真的看好智能体成为天选打工人…What !INPUT1! high-level insights can you inferfromthe above statements?(exampleformat:insight(because of1,5,3))1.最后生成的思考会存储入记忆流中用于之后的行为规划或者再进一步的思考。行为和规划最后一个模块是行为规划plan.py也是最主要的模块决定了智能体在每一个时间点要做什么也是之智能体记忆流中的第三种记忆类型。除了基于当前状态去生成下一步行为之外论文比较有意思的是先规划了智能体每一天的待办事项然后在执行事项的过程中进行随机应变。从而保证了智能体在更长时间轴上连续行为的连贯性一致性和逻辑关联。长期规划每日待办智能体每日待办事项是通过自上而下的多步拆解使用大模型指令生成的(plan.py)第一步冷启动根据任务特点生成智能体的作息时间如下第二步生成小时级别的事项规划。这里并非一次生成所有事项而是每次只基于智能体的所有静态描述包括以上生成的生活作息个人特点等等下图和上一个生成事项来规划下一个事项。模型指令是1-shot输出事项和事项持续的事件第三步是把小时级的事项规划进行事项拆解拆分成5-分钟级别的待办事项。模型指令同样是1-shot模板给出一个小时级别任务的拆分方式让模型去依次对每个小时的事项进行拆解模型指令中1-shot的部分格式如下TodayisSaturday May10.From08:00am~09:00am,Kellyisplanning on having breakfast,from09:00am~12:00pm,Kellyisplanning on working on thenextdays kindergarten lesson plan,andfrom12:00~13pm,Kellyisplanning on taking abreak.In5minincrements,listthe subtasks Kelly does when Kellyisworking on thenextdays kindergarten lesson planfrom09:00am~12:00pm(total durationinminutes:180):1)Kellyisreviewing the kindergarten curriculum standards.(durationinminutes:15,minutes left:165)2)Kellyisbrainstorming ideasforthe lesson.(durationinminutes:30,minutes left:135)3)Kellyiscreating the lesson plan.(durationinminutes:30,minutes left:105)4)Kellyiscreating materialsforthe lesson.(durationinminutes:30,minutes left:75)5)Kellyistaking abreak.(durationinminutes:15,minutes left:60)6)Kellyisreviewing the lesson plan.(durationinminutes:30,minutes left:30)7)Kellyismaking final changes to the lesson plan.(durationinminutes:15,minutes left:15)8)Kellyisprinting the lesson plan.(durationinminutes:10,minutes left:5)9)Kellyisputting the lesson planinher bag.(durationinminutes:5,minutes left:0)最终分钟级别的待办事项会作为智能体当日的主线行为写入以上的记忆流中在之后的每一次行为规划中提醒智能体当前时间要干点啥。短期规划随机应变以当日长期行为规划为基础智能体在按计划完成当日事项的过程中会不时的感知周围环境。当出现新的观测事件时智能体需要判断是否需要触发临时行为并调整计划。这里主要分成两种临时行为交流和行动。这两种行为的触发会基于智能体当前的状态和大模型基于上文的指令输出例如对于是否产生对话行为的判断当智能体A出现在当前智能体可以感知的环境范围内时通过以上的环境感知模块智能体的记忆流中会出现智能体A的当前行为。这时智能体会在记忆流中检索和智能体A相关的记忆合并当前状态作为上文使用大模型指令判断是否要发起和A的对话如果判断需要发起对话则触发对话模块进行交流而交流是所有社会性行为产生的根本。效果主要模块基本就说这么多技术评估就不多说了在智能体行为上论文验证了当前框架会产生一定的社会效应包括信息会在智能体之间传播智能体之间会形成新的关系以及智能体间会合作完成任务等等。论文也讨论了当前框架的一些不足包括如何在更长时间周期上泛化如何避免智能体犯一些低级错误例如躺上有人的床哈哈哈哈~个人感觉还需要讨论的是如何在当前的记忆流中衍生成更高级的抽象的思考以及对世界的认知。这些认知是否有更高效结构化的存储和召回方式。只依赖反思和记忆流的线性存储可能是不够的。职场番ChatDevCommunicative Agents for Software Developmenthttps://github.com/OpenBMB/ChatDev哈哈如果说斯坦福小镇对标综艺桃花坞那ChatDev就是对标令人心动的Offer。论文参考了斯坦福小镇的记忆流CAMEL的任务导向型对话方案通过智能体间对话协同完成特定软件开发任务。论文把软件开发流程抽象成多个智能体的对话型任务。整个开发流程分成设计编程测试文档编写四个大环节每个环节又可以拆分成多个执行步骤其中每个步骤都由两个角色的智能体通过对话合作来完成如下在进入主要流程前让我们先完成准备工作。开发流程的准备工作需要定义三类配置文件源码提供了默认的配置文件用户可以根据自己的需求选择覆盖部分配置。配置文件从Top to Bottom分别是ChatChainConfig定义了整个任务链的所有步骤和执行顺序(phrase)以及所有参与的智能体角色。以默认配置为例任务链包含以下步骤DemandAnalysis - LanguageChoose - Coding - CodeCompleteAll - CodeReview - Test - EnvironmentDoc - Manual参与智能体角色包括CEOCFO CPO CCO CTO programmerReviewerTester等PhaseConfig下钻到每个步骤分别定义了每个步骤的prompt指令以及参与的两个Agent角色。RoleConfig下钻到每个角色分别定义了每个角色的prompt指令初始化配置文件后我们进入软件开发的四个主要流程~Design产品设计环节负责把用户需求转化成项目方案包括两个原子步骤CEO和CPO进行需求分析和产品设计CEO和CTO选择编程语言。考虑每个phase的实现其实是相似的只不过参与智能体不同以及phase对应的指令和多轮对话形式不同这里我们只说CEO和CPO之间关于需求分析对话实现role_play.py这里融合了CAMEL的Inception Prompting和斯坦福小镇的记忆流和自我反思来完成任务导向的对话。Role Assignment首先初始化参与phase的两个智能体角色并生成初始prompt(Inception Prompt)。包括用户需求(task_prompt)本阶段的任务描述phase_prompt和两个智能体的角色描述(role_prompt)。基于初始指令之后两个智能体会通过对话相互为对方生成指令而人工参与的部分只有最初的角色描述和任务描述所以叫初始指令。产品涉及环节的具体指令如下需求分析阶段的任务指令使用了few-shot给出不同的产品形态例如图片文档应用等实现方式并明确了对话的两个智能体的讨论主题以及终止讨论的条件即确定产品形态以下是论文附录给出的一个需求分析阶段的具体对话示例不过对话终止符似乎变成了Memory Stream老实说感觉这里的memoery stream和上面小镇中实现的memory stream关联似乎并不是很大。看代码实现对话是直接使用上文对话history作为输入只有当输入上文长度超长的时候会保留Inception prompt和最近的N轮对话…难道是我漏看了代码如果是请评论指出 .Self-Reflection小镇中自我反思是为了产生更抽象更高级的个人思考。而在这篇论文self-Reflection其实更像是会议总结模块当多轮对话完成但是并未出现对话停止符号这时可以触发总结模块把前面的多轮对话作为上文来总结对话得到的结论用于后续步骤的进行如下Coding编程环节包括两个基本步骤后端写代码和前端设计交互界面。编程环节最大的难点就是如何避免模型幻觉最大正度保证代码的正确性以及在多轮对话中如何进行复杂长代码的编写和修改。这里同样我们只说下后端编写代码这一个步骤。代码编写步骤的核心指令如下CTO智能体给程序员智能体的指令是以面向对象的编程语言python为基础先给出核心类和方法。程序员智能体会按照指令以markdown为语法进行代码和注释的编写。之后代码编写环节会循环执行N次多轮对话不断对代码进行更新优化。在指令的基础上为了优化复杂代码的编写效果论文在代码编写环节引入了version control环节。在每一步代码编写完成后会使用difflib对两版代码进行比对并从记忆流中删除旧版本的代码这样对话会永远基于最新的代码版本进行对最新代码进行不断更新。Testing测试环节包括两个基本步骤代码评审和测试环节。评审环节程序员智能体会给评审智能体指令让其对代码进行检查例如是否有未实现的类或方法以及整个项目是否符合用户需求等等(角色指令如下图并给出评审建议。其次程序员之智能体会基于以上建议对代码进行调整。测试环节是基于代码执行后出现的bug进行修复。论文在这里引入了Thought Instruction有点类似Decomposed Prompt的任务拆分。因为如果直接基于代码执行bug让大模型进行修复问题可能过于复杂导致模型无法直接修复或者产生幻觉。因此通过多轮对话引入一步任务拆分先经过TestErrorSummary步骤对测试bug的位置和产生原因进行总结再基于以上总结进行代码调整。Documentation文档生成环节就比较简单了包括多个phase步骤一个phase对应一类文档说明。这里使用了few-shot指令来引导智能体生成requirements.txt, README.MD等用户文档以下是生成requirements.txt的指令示例效果效果上ChatDev从CAMEL编程相关的任务中随机抽了70个任务进行测试任务平均代码量是131行代码4个文件3个上游依赖库说明ChatDev整体生成的软件还是偏简单小型不涉及复杂的设计。具体效果大家可以直接去Chatdev的代码库里给的生成案例感受下。在这样的代码复杂度下ChatDev最终代码的执行成功率在86% 平均任务完成时间在7分钟左右且调用成本相对较低。最后感谢你们的阅读和喜欢我收藏了很多技术干货可以共享给喜欢我文章的朋友们如果你肯花时间沉下心去学习它们一定能帮到你。因为这个行业不同于其他行业知识体系实在是过于庞大知识更新也非常快。作为一个普通人无法全部学完所以我们在提升技术的时候首先需要明确一个目标然后制定好完整的计划同时找到好的学习方法这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。四、AI大模型商业化落地方案五、面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】