英语轻松读发新版了,欢迎下载、更新

神经启发的AI框架使用逆点学习来增强代码生成

2025-02-18 13:50:01 英文原文
A neurobiology-inspired multi-agent framework for enhanced code generation
Cogito的概述。上一部分说明了存储在内存模块中的超级角色的学习过程。下部提供了该过程的详细说明:最初,它在小组中扮演调试器的角色,然后过渡到编码器和计划者角色。完成学习周期后,最终答案由超级角色提供。信用:Li等。

大型语言模型(LLM),例如OpenAI流行平台Chatgpt背后的模型,已被发现成功地处理了广泛的语言处理和文本生成任务。其中一些模型还显示了对编程代码生成的一些希望,尤其是当作为所谓的多代理系统的一部分中部署成集时。

Jilin大学和香港科学技术大学的研究人员最近开发了Cogito,这是一种新的多代理系统,可以增强自动化的基于AI的编程代码。这个系统,以张贴到arxiv预印式服务器的灵感来自于神经生物学过程,该过程允许人类按照结构化方法完成复杂的任务。

该论文的第一作者Yanlong Li告诉Tech Xplore:“在相应的作者Wang Qi教授的指导下,我们决定将研究重点放在LLM-Encent的代码生成任务上。”“心理学和人类成长过程激发了我们完成这项研究,结果非常有前途。”

Qi,Li及其同事最近工作的主要目标是提高LLM在编程代码生成任务上的绩效。为此,研究人员开发了一个新系统,该系统逆转了执行代码生成子任务的典型序列。

通常,编程代码的生成始于计划(即构造代码的整体逻辑),然后进行编码过程和撤销(即,在代码中固定错误)。该研究小组开发的新框架从调试开始,从调试开始,以制作代码,然后计划旨在完善其改进的更改。

李解释说:“我们的框架包括一个回答过程和一个内存模块。”“对于给定的任务,该组中有三个角色:规划师,编码器和调试器,每个角色都执行各自的功能以生成答案。负责生成最终答案的角色将顺序扮演调试器,编码器和编码器的角色,并且跨不同群体的计划者。”

李及其同事开发的系统Cogito还具有一个记忆模块,该模块反映了海马的功能,这是人类大脑的关键区域。该模块旨在快速检索过去获得的信息,以改善学习过程。

本质上,Cogito在完成调试,编码和计划阶段的同时积累了经验。随后,它利用它积累的经验来生成所请求的编程代码的最终版本。

李说:“该过程的独特特征是使用经验积累和逆点学习(典型的顺序是计划者,编码员,学习调试器)。”“这种方法节省了群体之间的沟通成本并提高了任务准确性。

“至于记忆,它的灵感来自人脑的海马,其中不同的区域基于不同的功能存储信息,并且它们之间的相互联系。这种设计允许快速检索和观察整个过程,这与大多数以前的作品不同,这要么不同于大多数以前的作品。整体存储信息或在存储之前总结。”

研究人员在一系列初始实验中测试了他们提出的多代理系统,发现它在代码生成任务上的现有模型优于现有的基于LLM的模型,从而较少错误。将来,该模型可以进一步改进并在更广泛的代码生成任务上进行测试。

李补充说:“我认为我们研究中最值得注意的方面是我们证明的反向学习和成长过程。”“到目前为止,我们验证了它在HumaneVal等代码生成任务中的有效性。将来,我们可能会纳入一些强化学习元素,但我们还不确定,因为该领域的发展非常快。”

更多信息:Yanlong Li等人,Cogito,Ergo Sum:用于代码生成的神经生物学启发的认知 - 内存增长系统,arxiv(2025)。doi:10.48550/arxiv.2501.18653

期刊信息: arxiv

©2025科学X网络

引用:神经启发的AI框架使用反阶学习来增强代码生成(2025年,2月18日)检索2025年2月18日摘自https://techxplore.com/news/2025-02-neuro-ai-framework-reverse-code.html

该文档具有版权。除了为私人研究或研究目的的任何公平交易外,没有未经书面许可,可以复制部分。内容仅用于信息目的。

关于《神经启发的AI框架使用逆点学习来增强代码生成》的评论


暂无评论

发表评论