理解视觉丰富文档中的信息对于传统的检索增强生成 (Retrieval-Augmented Generation, RAG) 方法仍然是一个重大挑战。现有的基准测试主要集中在基于图像的问答 (QA) 上，忽视了在密集视觉文档中进行高效检索、理解和推理的基本挑战。为了弥补这一差距，我们引入了 ViDoSeek，这是一个旨在评估 RAG 在需要复杂推理的视觉丰富文档上的性能的新数据集。基于此，我们识别了当前 RAG 方法的关键局限性：(i) 纯视觉检索方法难以有效整合文本和视觉特征，(ii) 先前的方法通常分配不足的推理 Token，限制了其有效性。为了解决这些挑战，我们提出了 ViDoRAG，这是一个专为跨视觉文档的复杂推理而设计的新型多智能体 RAG 框架。ViDoRAG 采用基于高斯混合模型 (Gaussian Mixture Model, GMM) 的混合策略，有效处理多模态检索。为了进一步激发模型的推理能力，我们引入了一个迭代的智能体工作流程，结合探索、总结和反思，为研究 RAG 领域的测试时扩展提供了一个框架。在 ViDoSeek 上的大量实验验证了我们方法的有效性和泛化能力。值得注意的是，ViDoRAG 在竞争性 ViDoSeek 基准测试中比现有方法高出超过 10%。

尽管大语言模型 (LLM) 智能体能够有效利用外部工具处理复杂的现实任务，但它们需要记忆系统来利用历史经验。当前的记忆系统能够实现基本的存储和检索，但缺乏复杂的记忆组织，尽管最近尝试引入图数据库。此外，这些系统的固定操作和结构限制了它们在不同任务中的适应性。为了解决这一限制，本文提出了一种新颖的 LLM 智能体记忆系统，能够以智能体的方式动态组织记忆。遵循 Zettelkasten 方法的基本原则，我们设计了记忆系统，通过动态索引和链接创建相互关联的知识网络。当添加新记忆时，我们生成一个包含多个结构化属性的详细笔记，包括上下文描述、关键词和标签。系统随后分析历史记忆以识别相关连接，在有意义的相似性存在时建立链接。此外，这一过程还实现了记忆的演化——随着新记忆的整合，它们可能触发对现有历史记忆的上下文表示和属性的更新，从而使记忆网络能够不断完善其理解。我们的方法结合了 Zettelkasten 的结构化组织原则和智能体驱动决策的灵活性，实现了更具适应性和上下文感知的记忆管理。在六个基础模型上的实证实验显示，相较于现有的 SOTA 基线，性能有显著提升。性能评估的源代码可在 https://github.com/WujiangXu/AgenticMemory 获取，而记忆系统的源代码可在 https://github.com/agiresearch/A-mem 获取。

大语言模型在理解和推理能力方面展现了巨大成功。最近的研究探索了使用大视觉语言模型（VLM）作为智能体，在用户界面（UI）上执行复杂任务，旨在完成繁琐任务以替代人力 [YZL+23, YYZ+23, DGZ+23, ZGK+24, HWL+23, YZS+24, WXJ+24, GFH+24, CSC+24]。尽管取得了令人瞩目的成果，但在创建可跨多个平台（如Windows/MacOS、IOS/Android）和多个应用程序（如Web浏览器、Office365、PhotoShop、Adobe）广泛使用的智能体方面，目前的最新技术仍存在显著差距，大多数先前的工作都集中在限制应用程序或平台上。

过去几个月，市场对AI智能体项目的关注度曾一度飙升，部分项目市值甚至超过了1亿美元。然而，随着市场的回调和流动性逐渐稀薄，许多项目的真实价值和可持续性开始受到质疑。当前，成功的AI智能体项目的市值普遍降至约1000万美元，这一现象反映出关注度并非成功的唯一指标，真正的市场需求和用户价值才是关键。 过去的AI智能体模式往往侧重于吸引开发者的关注，通过夸张概念来吸引眼球。然而，这种模式的缺陷在于缺乏差异化，许多项目甚至没有实际产品，导致市场上充斥着重...