2024-09-20 07:30:00 英文原文

之前对大型语言模型 (LLM) 推理框架的研究已经探索了各种增强问题解决能力的方法。思维链 (CoT) 引入了清晰的推理过程，而思维树 (ToT) 和思维图 (GoT) 通过合并分支可能性和推理步骤之间的复杂关系扩展了这一概念。累积推理（CR）引入了涉及多个专业大语言模型的协作流程。这些框架旨在捕捉人类推理的非线性和迭代本质，但面临计算效率和实现复杂性方面的挑战。

思想图 (DoT) 框架建立在这些先前方法的基础上，将它们的优势集成到单一大语言模型内的统一模型。通过将推理表示为有向无环图 (DAG)，DoT 捕捉逻辑演绎的细微差别，同时保持计算效率。与早期的框架相比，这种集成可以实现更加连贯和简化的推理过程。DoT 解决了以前方法的局限性，并提供了一个复杂的模型，能够以计算有效的方式处理类人推理的复杂性。

DoT 框架通过将迭代推理建模为以下形式，增强了大型语言模型的推理能力：单个大语言模型内的有向无环图。它结合了自然语言评论以获得更丰富的反馈，并利用自回归下一个标记预测和特定于角色的标记。DoTs在Topos理论中的理论基础保证了逻辑的一致性。通过将整个推理过程嵌入一个模型中，DoT 消除了与多模型协作相关的复杂性。这种方法解决了先前框架的局限性，提高了训练效率，并强调开发具有强大的复杂推理任务能力的下一代推理专用模型。

清华大学和上海人工智能实验室的研究人员开发了DoT框架，将其构建为集命题、批评、改进和验证于一体的DAG。该方法论采用特定角色的标记来提出、批评和总结，促进迭代推理的改进。自动回归下一个标记预测可以实现提出想法和批判性评估之间的无缝过渡，从而丰富反馈循环，而无需外部干预。这种方法简化了单个大型语言模型 (LLM) 内的推理过程，解决了先前框架的局限性。

DoT 框架在 Topos 理论中形式化，提供了强大的数学基础，确保逻辑一致性和健全性在推理过程中。这种形式主义澄清了推理过程和分类逻辑之间的关系，这对于大语言模型的可靠结果至关重要。虽然具体的实验结果尚未详细说明，但批评和动态推理方面的整合旨在增强模型有效处理复杂推理任务的能力。该方法侧重于改进训练和推理过程，有可能提高下一代推理专用模型的能力。

DoT 框架通过有向无环图结构展示了大型语言模型的增强推理能力。它通过自然语言反馈和特定于角色的贡献促进命题的迭代改进。拓扑理论验证确保了逻辑的一致性和健全性。DoT 在单个模型中实现，简化了训练和推理过程，消除了对多个模型或外部控制机制的需求。这种方法可以探索复杂的推理路径，从而得出更准确的结论和连贯的推理过程。该框架的有效性使其成为为复杂任务开发推理专用模型的重大进步。

总之，DoT 框架将迭代推理表示为单个大型语言模型中的有向无环图。它集成了命题、批评、改进和验证，利用特定于角色的标记在推理过程中实现无缝转换。拓扑理论形式化提供了数学基础，确保了逻辑的一致性和健全性。总结者角色将经过验证的命题综合成连贯的思想链，从而提高可靠性。这种方法将实际实施与数学严谨性联系起来，将 DoT 定位为开发下一代推理专用模型的强大框架。该框架的创新设计和理论基础展示了改进大型语言模型推理过程的巨大潜力。

查看该论文。这项研究的所有功劳都归功于该项目的研究人员。另外，不要忘记在 Twitter 上关注我们并加入我们的 Telegram 频道和 LinkedIn 群组。如果您喜欢我们的工作，您一定会喜欢我们的时事通讯。

不要忘记加入我们的 50k ML SubReddit

Shoaib Nazir 是 MarktechPost 的咨询实习生，并已完成了他的 M.Tech 学位拥有印度理工学院（IIT）卡拉格普尔双学位。他对数据科学充满热情，对人工智能在各个领域的多样化应用特别感兴趣。Shoaib 渴望探索最新的技术进步及其对日常生活的实际影响。他对创新和解决现实世界问题的热情推动了他不断学习并为人工智能领域做出贡献