重要的是，深度代理并没有引入一个与LangGraph分离的新推理模型或新运行时。相反，它围绕标准工具调用循环打包了一系列默认值和内置工具。LangChain团队将其定位为开发人员的更容易的起点，这些开发者需要能够规划、管理大量上下文、委派子任务，并在对话中持久化信息，同时仍保留在需要时转移到更简单的LangChain代理或自定义LangGraph工作流程的选项。

默认包含深度代理的内容

深度代理的GitHub存储库直接列出核心组件。其中包括名为write_todos的计划工具，如文件系统工具read_file、write_file、edit_file、ls、glob和grep，通过execute访问外壳并进行沙盒操作，用于生成子代理的task工具，以及如自动摘要和将大型输出保存到文件等内置上下文管理功能。

这种框架很重要，因为许多代理系统将规划、中间存储和子任务委派留给应用程序开发者。深度代理将这些组件移动到默认运行时。

规划和任务分解

深度代理包括一个内置的write_todos工具用于规划和任务分解。其目的是明确的：代理可以将复杂任务分解为离散步骤，跟踪进度，并在出现新信息时更新计划。

没有规划层，模型倾向于从当前提示中即兴发挥每个步骤。使用write_todos后，工作流程变得更加结构化，这对于需要进行多步骤的研究任务、编码会话或分析作业更有用。

基于文件系统的上下文管理

第二个核心功能是使用文件系统工具来管理上下文。这些工具允许代理将大量上下文卸载到存储中，而不是将所有内容都保存在活动提示窗口中。LangChain团队明确指出，这有助于防止上下文窗口溢出并支持可变长度的工具结果。

这是一个比关于“记忆”的模糊声明更具体的设计选择。代理可以将笔记、生成的代码、中间报告或搜索输出写入文件，并在稍后检索它们。这使系统更适合输出本身成为工作状态一部分的长期任务。

深度代理还支持这种虚拟文件系统的多种后端类型。定制文档列出了StateBackend、FilesystemBackend、LocalShellBackend、StoreBackend和CompositeBackend。默认情况下，系统使用StateBackend，它将一个临时的文件系统存储在LangGraph状态中，以支持单个线程。

子代理和上下文隔离

深度代理还包括一个用于生成子代理的内置task工具。此工具允许主代理创建用于上下文隔离的专门子代理，这样就可以保持主线程更干净，同时让系统深入特定子任务。

这是对代理系统常见故障模式的一个更清晰的答案。一旦单个线程积累了过多的目标、工具输出和临时决策，模型的品质通常会下降。将工作分割成子代理可以减少这种过载并使编排路径更容易调试。

长期记忆和LangGraph集成

深度代理的GitHub存储库还描述了长期记忆作为一个内置功能。深度代理可以使用LangGraph的内存存储跨线程扩展持久记忆，允许代理从前一次对话中保存和检索信息。

在实现方面，深度代理完全保持在LangGraph执行模型之内。定制文档指定create_deep_agent(...)返回一个CompiledStateGraph。生成的图可用于LangGraph标准功能，如流、Studio和检查点。

深度代理不是一个阻止对运行时功能访问的并行抽象层；它是一个预构建的带有默认设置的图。

部署细节

对于部署，官方快速入门展示了最小的Python设置：安装deepagents以及类似tavily-python的搜索提供商，导出您的模型API密钥和搜索API密钥，定义一个搜索工具，然后使用工具调用模型通过create_deep_agent(...)创建代理。文档指出，深度代理需要工具调用支持，示例工作流程是用您的工具和system_prompt初始化代理，然后使用agent.invoke(...)运行它。LangChain团队还指出了适用于生产的LangGraph部署选项，这是合适的，因为深度代理运行在LangGraph运行时上，并支持内置流式传输以观察执行。

关键要点

• 深度代理是建立在LangChain和LangGraph运行时之上的代理绑定。
• 它包括通过write_todos工具进行内置的规划，用于多步骤任务分解。
• 它使用文件系统工具来管理大量上下文并减少提示窗口压力。
• 它可以使用内置的task工具生成子代理，以实现上下文隔离。
• 它通过LangGraph的内存存储支持跨线程的持久内存。

查看仓库和文档。还可以自由地关注我们的Twitter，并别忘了加入我们的[12万+机器学习SubReddit](https://www.reddit.com/r/machinelearningnews//)以及订阅我们的通讯。等等！你在Telegram里吗？现在你也可以加入我们的Telegram群组。

这篇名为LangChain发布深度代理：为多步骤AI代理中的规划、记忆和上下文隔离提供结构化运行时的文章首次发表于MarkTechPost。

上下文管理的虚拟文件系统

设计的中心是一个在 viking:// 协议下暴露的虚拟文件系统。OpenViking 将不同的上下文类型映射到目录中，包括 资源、用户 和 代理。在这些顶级目录下，代理可以访问项目文件、用户偏好、任务记忆、技能和指令。这是一个从‘扁平文本片段’转向由 URI 识别的抽象文件系统对象的转变。预期的益处是，代理可以使用标准浏览式操作，如 ls 和 find，以更确定性的方式定位信息，而不仅仅依赖于扁平向量索引上的相似性搜索。

目录递归检索的工作方式

这一架构选择很重要，因为 OpenViking 并不想去除语义检索。它是试图约束和结构化它。项目的检索管道首先使用向量检索来识别一个高分的目录，然后在其中执行第二次检索，如果需要，递归地深入到子目录。README 中将这称为 目录递归检索。基本思想是检索应同时保留局部相关性和全局上下文结构：系统不仅应找到语义相似的片段，还应理解该片段所在的目录上下文。这对于跨越存储库、文档和累积记忆的代理工作负载，比标准的单次 RAG 更是一个更明确的检索模型。

分层上下文加载以减少令牌开销

OpenViking 还添加了一个用于 分层上下文加载的内置机制。当上下文被写入时，系统自动将其处理成三层。L0 是一个抽象的，描述为用于快速检索和识别的一句总结。L1 是一个概述，包含核心信息和用于计划的用例。L2 是原文的全内容，仅在必要时才进行深度阅读。README 文件中的示例显示了与目录相关联的 .abstract 和 .overview 文件，而底层文档作为详细内容仍可用。此设计旨在通过让代理首先加载更高层次的摘要，并将完整上下文推迟到实际需要时，来减少提示膨胀。

检索可观察性和调试

第二个重要的系统特性是可观察性。OpenViking 存储检索期间目录浏览和文件定位的轨迹。README 文件将此描述为 可视化的检索轨迹。在实践中，这意味着开发人员可以检查系统是如何导航层次结构来检索上下文的。这很有用，因为许多代理故障并不是在狭义上的模型故障；它们是上下文路由故障。如果检索了错误的记忆、文档或技能，即使模型本身有能力，模型仍可能生成较差的回答。OpenViking 的方法使得检索路径可见，这为开发人员提供了一些具体的内容来调试，而不是将上下文选择作为一个黑盒。

会话记忆和自我迭代

该项目还将内存管理扩展到对话日志之外。OpenViking 包含 自动会话管理和一个内置的 记忆自我迭代循环。根据 README 文件，在会话结束时，开发人员可以触发记忆提取，系统将分析任务执行结果和用户反馈，然后更新用户和代理的内存目录。预期输出包括用户偏好记忆和代理端操作经验，如工具使用模式和执行提示。这使得 OpenViking 更接近于代理的持久上下文子层，而不仅仅是用于检索的标准向量数据库。

报告的 OpenClaw 评估结果

README 文件还包括一个针对位于 LoCoMo10 长距离对话数据集上的 OpenClaw 记忆插件的评估部分。设置在去除没有任何地面实值的分类 5 样本后使用 1,540 个案例，报告了 OpenViking 版本 0.1.18，并使用 seed-2.0-code 作为模型。在报告的结果中，OpenClaw(memory-core) 在 24,611,530 个输入令牌时达到 35.65% 的任务完成率，而 OpenClaw + OpenViking 插件(-memory-core) 在 4,264,396 个输入令牌时达到 52.08%，OpenClaw + OpenViking 插件(+memory-core) 在 2,099,622 个输入令牌时达到 51.23%。这些是项目报告的结果，而不是独立的第三方基准测试，但它们与系统的设计目标相符：在减少不必要的令牌使用的同时改进检索结构。

部署细节

文档中列出的先决条件是 Python 3.10+、Go 1.22+ 和 GCC 9+ 或 Clang 11+，支持 Linux、macOS 和 Windows。通过 pip install openviking --upgrade --force-reinstall 可以进行安装，并且有一个名为 ov_cli 的可选 Rust 命令行界面，可以通过脚本来安装或使用 Cargo 来构建。OpenViking 实现需要两个模型能力：一个 VLM 模型 用于图像和内容理解，以及一个 嵌入模型 用于向量化和语义检索。支持的 VLM 访问路径包括 Volcengine、OpenAI 和 LiteLLM，而示例服务器配置包括通过 text-embedding-3-large 的 OpenAI 嵌入和一个使用 gpt-4-vision-preview 的 OpenAI VLM 示例。

要点

1. OpenViking 将代理上下文视为文件系统，在统一的分层结构下统一了 内存、资源和技能，而不是扁平的 RAG 风格存储。
2. 其检索管道是递归和目录感知的，结合 目录定位和语义搜索 以提高上下文精度。
3. 它使用 L0/L1/L2 分层上下文加载，因此代理可以首先阅读摘要，然后仅在实际需要时加载完整内容，以减少令牌使用。
4. OpenViking 暴露检索轨迹，这使得上下文选择比标准的黑盒 RAG 工作流更易观察和调试。
5. 它还支持基于会话的内存迭代，从对话、工具调用来和任务执行历史中提取长期记忆。

什么是OpenJarvis？

根据斯坦福研究团队的介绍，大多数当前的个人AI项目仍然保留本地组件相对薄弱，而将核心推理通过外部云API路由。这种设计引入了延迟、重复成本和数据暴露问题，尤其是对于在这些个人文件、消息和持续用户上下文中运行的助手/代理。OpenJarvis的设计是通过将本地执行默认化，而云使用作为选项来调整这种平衡。

研究团队将此次发布与之前的 每瓦特智能 研究联系起来。在那项工作中，他们报告称，本地语言模型和本地加速器可以准确地为交互延迟下的 88.7% 的单轮聊天和推理查询提供服务，而 智能效率从2023年到2025年提高了5.3倍。OpenJarvis被视为随之而来的软件层：如果模型和消费者硬件变得更适合更多的本地工作负载，则开发人员需要一个用于构建和评估这些系统的标准堆栈。

https://scalingintelligence.stanford.edu/blogs/openjarvis/

五元架构

在架构层面，OpenJarvis围绕 五个基本元素 组织：智能、引擎、代理、工具与内存、学习。研究团队将这些描述为可组合的抽象，可以独立基准测试、替换和优化，也可以作为一个集成系统一起使用。这一点很重要，因为本地AI项目通常将推理、编排、工具、检索和适应逻辑混合到一个单一且难以再现的应用程序中。OpenJarvis则试图为每一层赋予更明确的角色。

智能：模型层

智能 元素是模型层。它位于一个不断变化的本地区模家庭成员之上，提供了一个统一的模式目录，因此开发人员无需手动跟踪每个发布的参数计数、硬件适配或内存权衡。目标是使模型选择更容易从系统其他部分，如推理后端或代理逻辑，独立研究。

引擎：推理运行时

引擎 元素是推理运行时。它是一个覆盖后端如 Ollama、vLLM、SGLang、llama.cpp和云API 的通用接口。引擎层被更广泛地定义为硬件感知执行，其中命令如jarvis init检测到可用的硬件并推荐合适的引擎和模型配置，而jarvis doctor则有助于维护该设置。对于开发者来说，这是设计中最实用的一部分：该框架不需要单一运行时，而是将推理视为一个可插拔的层。

代理：行为层

代理 元素是行为层。斯坦福将其描述为在真实设备约束下将模型能力转化为结构化行动的部分，如有限的上下文窗口、受限的工作内存和效率限制。OpenJarvis而不是依赖于一个通用的代理，支持组合角色。斯坦福文章特别提到了 协调者 角色等，后者将复杂任务分解为子任务，以及作为重复个人工作流程的轻量级执行器的 操作员。文档还描述了代理 harness 帮助处理系统提示、工具、上下文、重试逻辑和退出逻辑。

工具与内存：固化代理

工具与内存 元素是固化层。这个原始元素包括对 MCP（模型上下文协议） 的支持，标准工具使用，对代理到代理通信的 Google A2A 支持，以及对本地检索笔记、文档和论文的 语义索引。它还支持消息平台、webchat 和 webhooks。它还涵盖了一个更狭义的工具观点，包括网络搜索、计算器访问、文件I/O、代码解释、检索以及外部MCP服务器。OpenJarvis不仅仅是一个本地聊天界面，它旨在连接本地模型到工具和持久个人上下文，同时默认保持存储和控制本地化。

学习：闭环改进

第五个原始元素，学习，为框架提供了一个闭环改进路径。斯坦福研究者描述它为一个使用本地交互轨迹合成交训练数据、细化代理行为以及随着时间的推移改进模型选择的层。OpenJarvis支持在堆栈的 四层 上进行优化：模型权重、LM提示、代理逻辑 和 推理引擎。研究团队列出的一些示例包括 SFT、GRPO、DPO，使用 DSPy 的提示优化，使用 GEPA 的代理优化以及量化和批处理调度等技术级别的调整。

效率作为一流指标

OpenJarvis的一个重要技术点是其在效率意识评估上的重视。该框架将 能量、FLOPs、延迟和成本 作为与任务质量并列的一等约束。它还强调了一个硬件无关的遥测系统，用于通过 NVML 对NVIDIA GPU、AMD GPU 以及通过 powermetrics 对Apple Silicon 进行能量分析，采样间隔为 50毫秒。jarvis bench 命令旨在标准化对延迟、吞吐量和每查询能量的基准测试。这一点很重要，因为本地部署不仅仅是关于模型能否回答一个问题，还包括它是否能在实际的限制下（如功率、内存和响应时间限制）做到这一点。

开发者接口和部署选项

从开发者的角度来看，OpenJarvis提供了几个入门点。官方文档显示了 浏览器应用程序、桌面应用程序、Python SDK 和 CLI。基于浏览器的界面可以使用 ./scripts/quickstart.sh 启动，该脚本安装依赖项，启动 Ollama 和本地模型，启动后端和前端，并打开本地UI。桌面应用程序适用于 macOS、Windows 和 Linux，后端仍在用户机器上运行。Python SDK公开了 Jarvis() 对象和 ask()、ask_full() 这样的方法，而 CLI 包括 jarvis ask、jarvis serve、jarvis memory index 和 jarvis memory search 这样的命令。

文档还指出，所有核心功能在没有网络连接的情况下都可以工作，而云API是可选的。对于开发本地应用程序的团队来说，另一个实用功能是 jarvis serve，它启动一个具有 SSE 流 的 FastAPI 服务器，并描述为 OpenAI 客户端的直接替代品。这降低了希望针对API形状的接口进行原型设计，同时仍然保持推理本地的开发者的迁移成本。

查看存储库、文档和技术细节。此外，欢迎关注我们的 Twitter (https://x.com/intent/follow?screen%5Fname=marktechpost)，并别忘了加入我们的 120k+ ML SubReddit (https://www.reddit.com/r/machinelearningnews/) 和订阅 我们的通讯 (https://www.aidevsignals.com/)。等一下！你在telegram 吗？现在你可以在Telegram加入我们。

关于 斯坦福研究者推出OpenJarvis：构建具有工具、内存和学习的本地first AI代理框架 的文章首先出现在 马克技术后。

今天发布，Nemotron 3 Super完美地介于轻量级的30亿参数Nemotron 3 Nano和备受期待的500亿参数Nemotron 3 Ultra之间，该Ultra将于2026年后推出。这款模型提供的吞吐量比上一代产品提高了高达7倍，准确率翻倍，对于拒绝在智能和推理效率之间妥协的开发者来说，这是一个巨大的飞跃。

Nemotron 3 Super的“五个奇迹”

Nemotron 3 Super无与伦比的性能得益于五大技术创新：

• 混合MoE架构：该模型智能地结合了内存高效的Mamba层和高精度的Transformer层。通过只激活一小部分参数来生成每个标记，它实现了KV和SSM缓存使用效率的4倍增加。
• 多标记预测（MTP）：该模型可以同时预测多个未来的标记，在复杂的推理任务上实现了3倍的推理速度。
• 一百万个上下文窗口：与前一代相比，上下文长度增加7倍，开发人员可以直接将大量技术报告或整个代码库直接放入模型的内存中，消除在多步骤工作流程中重新推理的需要。
• 潜在MoE：这使得模型能够压缩信息并激活四个专家，使得计算成本与e上一样，否则该模型需要大35倍才能达到相同的准确度。
• NeMo RL Gym集成：通过交互式强化学习管道，模型从动态反馈循环中学习，而不仅仅是静态文本，这有效地将其智能指数翻倍。

所有这些突破，都使输出令牌每GPU的效率达到了不可思议的水平

为什么Nemotron 3 Super是多代理AI的终极引擎？

Nemotron 3 Super不仅是标准的大型语言模型；它特意定位为推理引擎，旨在规划、验证和执行更广泛的系统专建模的复杂任务。以下是其架构为何使其成为多代理工作流变革者的确切原因：

• 高吞吐量支持更深层次的推理：该模型7倍更高的吞吐量物理上扩展了其搜索空间。因为它可以更快地处理和生成标记，所以它可以探索更长的轨迹，并评估更好的响应。这允许开发人员以相同的计算预算进行更深入的推理，这对于构建复杂的自主代理至关重要。
• 长工作流程中无需“重新推理”：在多代理系统中，代理不断传递上下文。一百万个标记的上下文窗口允许模型保留大量状态，例如整个代码库或长的、多步骤的代理对话历史，直接进入其内存中。这消除了在每个单独步骤中要求模型重新处理上下文的不必要延迟和成本。
• 代理特定的训练环境：该模型的管道扩展了超过15个交互式强化学习环境，而不仅仅依赖于静态文本数据集。通过在动态仿真循环中（例如为软件工程代理和工具辅助搜索提供的专用环境）进行训练，Nemotron 3 Super学习了自主任务完成的最佳轨迹。
• 高级工具调用功能：在实际的多代理应用中，模型需要采取行动，而不仅仅是文本性响应。开箱即用，Nemotron 3 Super已被证明在工具调用方面非常精通，在复杂的网络安全工作流程中成功导航大量可用的函数——例如，在动态选择超过100种不同工具时。

开源和训练规模

NVIDIA不仅发布了权重；他们甚至完全开源了该模型的所有堆栈，包括训练数据集、库和强化学习环境。

正是因为这种透明度，人工分析将Nemotron 3 Super明确地定位在“最有吸引力”的四分之一中，指出它在实现最高开放度的同时，与专有模型保持了领先的准确性。这种智能的基础完全来自于一个彻底重新设计的管道，在10万亿精选标签上进行了训练，此外还有额外90至100亿个严格针对高级编码和推理任务的标签。

开发者控制：介绍“推理预算”

虽然原始参数计数和基准分数令人印象深刻，但NVIDIA团队了解，现实世界的企业开发人员需要精确地控制延迟、用户体验和计算成本。为了解决经典智能与速度之间的困境，Nemotron 3 Super通过它的API直接引入了高度灵活的推理模式，将前所未有的细分控制掌握在开发者手中。

开发人员可以根据具体的任务动态调整模型“思考”的难易程度：

• 全推理（默认）：模型被得到充分释放，以利用其最大能力，探索深层搜索空间和多个步骤的轨迹，以解决最复杂、最具代理性的问题。
• “推理预算”：这是对延迟敏感应用的突破性创新。开发者可以明确限制模型思维的时长或计算许可额。通过设置严格的推理预算，模型智能地优化其内部搜索空间，在确切的约束下提供最佳可能的答案。
• “低努力模式”：并非每个提示都需要深层、多代理分析。当用户只需要简单、简洁的答案（如标准摘要或基本问答）时，而不需要深层推理的附加开销，此开关将Nemotron 3 Super变成一个闪电般的响应者，节约大量计算和时间。

“黄金”配置

调整推理模型可能是一个令人沮丧的过程，需要进行反复试验，但NVIDIA团队已经完全消除了这一发布中的神秘感。为了在所有这些动态模式中提取最佳性能，NVIDIA建议全球配置为温度1.0和Top P 0.95。

据NVIDIA团队称，锁定这些确切的超参数设置 确保 模型在限制的低努力模式下或无限制的深层推理中，都能保持创造性的探索和逻辑精确之间的完美数学平衡。

现实世界应用和可用性

Nemotron 3 Super已在需求严格的企业应用中证明了自己的实力：

• 软件开发：它处理初级级别的拉取请求，并成功在问题定位方面超越领先的专有模型，成功地找到导致错误的确切行代码。
• 网络安全：该模型擅长使用其高级工具调用逻辑在复杂的网络安全ISV工作流程中导航。
• 主权AI：全球的印度、越南、韩国和欧洲等地区组织正在使用Nemotron架构构建针对特定地区和监管框架的专用本地模型。

Nemotron 3 Super 以BF16、FP8和NVFP4量化形式发布，在DGX Spark上运行该模型需要NVFP4。

查看[Hugging Face](https://pxllnk.co/ctqnna8)上的模型。您可以在**[研究论文**](https://pxllnk.co/ml2920c)和**[技术/开发者博客**](https://pxllnk.co/lbmkemm)上找到详细信息。

感谢NVIDIA AI团队为此文章的思考领导力和资源。NVIDIA AI团队支持并赞助了此内容/文章。

原文链接：NVIDIA 发布 Nemotron 3 Super：一款 120B 参数的开源混合 Mamba-Attention MoE 模型，为代理AI提供 5 倍更高的吞吐量，首次出现在 MarkTechPost。

NVIDIA现在通过公布一个用于构建高性能终端代理的全面框架来打破这种沉默。通过引入终端任务生成器（Terminal-Task-Gen）和终端语料库（Terminal-Corpus）数据集，NVIDIA实际上为开发者社区提供了构建代理的蓝图，这些代理不仅可以“聊天”关于代码，而且可以以手术般的精确度实际执行它。

https://arxiv.org/pdf/2602.21193

数据稀缺问题

为命令行代理进行训练的挑战有两个。首先，存在基础资源的稀缺——特别是多样化的任务提示和创建现实环境所需的复杂依赖文件。其次，捕获‘轨迹’（一系列终端交互）在物流上非常痛苦。人工交互难以记录，并且通过LLM代理进行合成生成成本过高，因为它需要为每次转弯即时实例化新的Docker环境。

终端-任务生成器：双管齐下的策略

NVIDIA的解决方案是一个“从粗到精”的数据生成管线，称为终端-任务生成器（Terminal-Task-Gen）。它采用两种不同的策略来扩大训练数据，同时不费高昂的代价。

1. 数据集适配（粗糙层）

团队不是从头开始，而是利用了高质量的现有监督微调（SFT）数据集，来自数学、代码和软件工程（SWE）领域。他们将静态提示转换为交互式终端任务。

• 数学和代码：使用16.3K数学提示和3.5K代码提示，将挑战包裹在终端脚手架中。
• SWE：他们从SWE-bench和SWE-reBench等存储库中抽取了32K独特提示。巧妙之处在于，这个过程不需要LLM“在循环”中的初始适配，使其在扩大体积时非常高效。

2. 人工任务生成（精细层）

为了在一般推理与终端代理的特殊严格要求之间架起桥梁，NVIDIA团队使用终端-任务生成器（Terminal-Task-Gen）创建新的、可执行的任务。

• 种子式生成：LLM使用现有的科学计算或算法问题作为“灵感”来合成新任务。代理被迫安装包、读取输入文件并写入结果——模仿现实世界开发者的工作流程。
• 技能式生成：这部分很专业。NVIDIA制定了一个包含九个领域（包括安全、数据科学和系统管理）的“原始终端技能”分类法。然后，LLM被指示将3-5个这些原语（如图遍历+网络配置+文件I/O）组合成一个单一、复杂的任务。

解决基础设施开销

这项研究中最重大的工程技术突破之一是转向预建Docker镜像。以前的框架通常为每个任务生成一个独特的Dockerfile，导致巨大的构建时间开销和经常发生的失败。相反，NVIDIA团队维护了九个预先配置的共享基本镜像，其中包含了关键的库（如pandas用于数据科学或加密工具用于安全）。这种“单次通过”创建方法允许大规模并行化，并显着缩小资源占用。

性能：32B对比480B

以数据为中心的方法的结果是惊人的。NVIDIA团队使用此管线训练了从Qwen3初始化的Nemotron-Terminal系列模型。

在终端-Bench 2.0基准测试中，该测试评估代理在端到端工作流程（如训练机器学习模型或调试系统环境）上的表现，改进效果直线上升：

• Nemotron-Terminal-8B：从2.5%的成功率跃升至13.0%。
• Nemotron-Terminal-32B：实现了27.4%的准确性。

为了更具体地说明，32B模型优于480B Qwen3-Coder（23.9%）以及闭源巨头Grok 4（23.1%）和GPT-5-Mini（24.0%）的表现。这证明了对于终端代理，高质量、多样化的轨迹数据比参数规模本身的提升更有力。

关键见解

NVIDIA的研究还有助于驳斥数据工程中的几个常见误解：

• 不要过滤错误：研究团队发现，将“失败”的轨迹保留在训练数据中实际上可以提高性能（失败率降低约12.4%，而只过滤成功的过滤成功率为5.06%）。使模型接触现实错误状态和恢复模式可以使其更健壮。
• 跳过课程：他们尝试了“课程学习”（在硬数据之前在容易数据上进行训练），但发现简单的混合训练同等有效，甚至更好。
• 上下文长度限制：尽管终端轨迹可以很长，但大多数高质量监督都适合标准的32,768个令牌窗口。略微扩展上下文长度会损害性能，这可能是因为长尾轨迹往往更嘈杂。

查看论文和HF项目页面。同时，也欢迎您关注我们的Twitter，并欢迎您加入我们的120k+机器学习SubReddit和订阅我们的通讯。等一下！您在telegram上吗？现在您也可以加入我们。

这篇NVIDIA AI发布Nemotron-Terminal：扩展LLM终端代理的系统数据工程管线首先出现在MarkTechPost。

沙盒：一个拥有自己电脑的AI

DeerFlow的最大差异化优势在于其对执行方法的处理。大多数AI代理在文本框界面的限制下运行，向API发送查询，并返回一串文本。如果你想让这段代码运行，你——人类——必须复制、粘贴并调试它。

DeerFlow颠覆了这一模式。它在一个真实的、独立的Docker容器内运行。

对于软件开发人员来说，这意味着巨大的影响。这不是一个AI“产生幻觉”以为自己运行了脚本；而是拥有完整文件系统、bash终端和读写实际文件能力的代理。当你给DeerFlow分配任务时，它不仅可以建议一个用于分析CSV的Python脚本，还会启动环境、安装依赖项、执行代码，然后将生成的图表交给你。

通过为AI提供其自己的“电脑”，ByteDance团队解决了代理工作流程中最大的摩擦点之一：交接。因为它拥有有状态的内存和持久的文件系统，DeerFlow可以跨不同会话记住你的特定写作风格、项目结构和偏好。

多代理编排：分工、征服、聚合

DeerFlow的“魔法”在于其编排层。它利用了一个“超级代理”的 harness——一个充当项目经理的主要代理。

当一个复杂的提示被接收——比如，“研究2026年排名前十的AI初创企业，并为我制作一份全面的演示文稿”——DeerFlow并不会试图在一次线性思维过程中完成所有任务。相反，它采取任务分解的方式：

1. 主要代理将提示分解成逻辑子任务。
2. 子代理并行生成。一个可能处理用于资金数据的网页抓取，另一个可能进行竞争对手分析，第三个可能生成相关图片。
3. 聚合：一旦子代理在其各自的沙箱中完成了任务，结果会反馈给主要代理。
4. 最终交付：一个最终代理将数据编制成最终的交付成果，如演示文稿或完整的应用程序。

这种并行处理大大缩短了那些需要人类研究人员或开发者数小时才能综合的传统任务的交付时间。

从研究工具到全栈自动化

有趣的是，DeerFlow最初并非旨在如此庞大体量。它最初在ByteDance的生命周期中是一款专门的研究工具。然而，随着内部社区开始使用它，他们推动了其能力的边界。

用户开始利用其基于Docker的执行来构建自动化数据处理管道、启动实时仪表板，甚至从头创建全规模的Web应用程序。ByteDance认识到，社区需要的是一个执行引擎，而不仅仅是搜索工具，于是他们从头重新编写了这个框架。

结果是DeerFlow 2.0，这是一个多才多艺的框架，可以处理：

• 深度网络研究：在整个网络上收集引用的来源。
• 内容创作：生成包含集成图表、图片和视频的报告。
• 代码执行：在安全环境中运行Python脚本和bash命令。
• 资产生成：创建完整的演示文稿和UI组件。

关键要点

• 执行优先沙盒：与传统的AI代理不同，DeerFlow在一个隔离的基于Docker的沙盒中运行。这为代理提供了一个真正的文件系统、bash终端，并能够执行代码和运行命令，而不仅仅是建议。
• 分层多代理编排：框架使用一个“超级代理”作为项目经理来将复杂任务分解为子任务。它生成并行子代理来处理不同的组件——如数据抓取、生成图片或编写代码——然后将结果汇集到最终交付成果中。
• “超级代理”转型：最初是一款深度研究工具，DeerFlow 2.0被完全重写，成为了一种任务无关的 harness。现在，它可以构建全栈Web应用程序，生成专业的演示文稿，并自动处理复杂的数据管道。
• 完全模型无关性：DeerFlow被设计为LLM无关。它可以与任何OpenAI兼容的API集成，允许工程师在GPT-4、Claude 3.5、Gemini 1.5甚至本地模型之间进行切换，如通过DeepSeek和Ollama，而不必改变底层代理逻辑。
• 有状态内存和持久性：该代理拥有一个持久内存系统，跟踪用户偏好、写作风格和项目上下文，跨多个会话进行。这使得它能够作为长期“AI员工”而不是一次性的会话工具运行。

查看GitHub仓库。同时，欢迎关注我们的Twitter，别忘了加入我们的120k+ 机器学习SubReddit并订阅我们的 newsletters。等等！你是在telegram上吗？现在你还可以加入我们的telegram群组。

这篇文章字节跳动发布DeerFlow 2.0：一个开源的超级代理 harness，通过编排子代理、内存和沙盒来完成复杂任务首先出现在MarkTechPost。

你要求像Claude Code这样的代理构建一个功能，但它可能想象出一个六个月前就已经过时的参数，或者无法利用更高效、更新的端点。上下文枢纽提供了一个基于CLI的简单解决方案，以确保你的编码代理始终拥有它所需进行操作的“真实信息”。

问题：当大型语言模型处于过去

大型语言模型（LLM）在它们训练结束的那一刻就会被冻结在时间的河流中。虽然检索增强生成（RAG）帮助模型扎根于私人数据，但它们依赖的“公共”文档通常是满布过时博客文章、遗留SDK示例和过时的StackOverflow线程的混乱。

结果是开发者所说的“代理漂移”。考虑一个假设但高度可能的情况：一个开发者要求代理调用OpenAI的GPT-5.2。即使一年前的新响应API已经是行业标准，代理——依赖其核心训练——可能固执地坚持使用较老的聊天完成API。这会导致代码损坏、浪费令牌，以及数小时的手动调试。

编码代理常常使用过时的API，并想象出参数。上下文枢纽旨在在代理开始猜测的那一刻进行干预。

chub：代理上下文的命令行界面

上下文枢纽的核心是一个名为chub的轻量级CLI工具。它作为一个经过精心编辑的、版本化的文档注册库，以优化LLM消费的格式提供。

与其让代理在网上的嘈杂HTML中迷路，它使用chub来获取精确的Markdown文档。工作流程很简单：你安装这个工具，然后提示代理使用它。

标准的chub工具集包括：

• chub search：允许代理找到它所需的特定API或技能。
• chub get：获取经过精挑细选的文档，通常支持特定的语言变体（例如，--lang py或--lang js），以最大限度地减少令牌浪费。
• chub annotate：这就是工具开始与标准搜索引擎区分开来的地方。

自我提升的代理：注解和解决方案

其中一个最吸引人的特性是代理能够“记住”技术难题。从历史上看，如果代理在测试版库中发现特定的绕过技巧来解决特定错误，那么一旦会话结束，这种知识就会消失。

有了上下文枢纽，代理可以使用chub annotate命令将笔记保存到本地文档注册库中。例如，如果代理意识到特定的webhook验证需要原始请求体而不是解析后的JSON对象，它可以执行以下操作：

chub annotate stripe/api "Needs raw body for webhook verification"

在下一个会话中，当代理（或该机器上的任何代理）运行chub get stripe/api时，那个笔记将自动附加到文档中。这实际上给编码代理提供了一种关于技术细微差的“长期记忆”，防止他们每天都重新发现相同的解决方案。

众包“真实信息”

尽管注解仍然仅限于开发者的机器，但上下文枢纽还引入了一个旨在使整个社区受益的反馈循环。通过chub feedback命令，代理可以对文档进行评分，并使用如准确、过时或错误的示例之类的特定标签进行标注。

这种反馈流向上下文枢纽注册库的维护者。随着时间的推移，最可靠的文档浮出水面，而过时的条目则被社区标记和更新。这是一种去中心化的文档维护方法，其演变速度与描述的代码一样快。

关键要点

• 解决“代理漂移”问题：上下文枢纽解决了AI代理依赖其静态训练数据的重大问题，导致它们使用过时的API或想象出不再存在的参数。
• CLI驱动的真实信息：通过chub CLI，代理可以立即为特定API检索优化的LLM标记文档，确保他们按照最现代的标准进行构建（例如，使用更新的OpenAI Response API而不是聊天完成）。
• 持久的代理记忆：**chub annotate**特性允许代理将特定的技术解决方案或备注保存到本地注册库中。这防止了代理将来会话中需要“重新发现”相同的解决方案。
• 协作智能：通过使用chub feedback，代理可以对文档的准确性进行评分。这创造了一个众包的“真实信息”，其中，最可靠和最新的资源浮现在整个开发者社区面前。
• 特定于语言的精确度：工具通过允许代理请求针对其当前堆栈定制化的文档（使用如--lang py或--lang js之类的占位符），最大限度地减少“令牌浪费”，使其上下文既密集又高度相关。

查看GitHub仓库。也欢迎关注我们的Twitter，并别忘了加入我们的120k+机器学习SubReddit和订阅我们的通讯。等一下！你在Telegram上吗？现在你可以在Telegram上加入我们了。

文章Andrew Ng团队发布上下文枢纽：为你的编码代理提供最新API文档的开源工具首先出现在MarkTechPost。

基准方法和任务设计

通用的编码基准通常无法捕捉移动开发的平台特定依赖和细微差别。Android Bench 通过直接从真实世界、公开的GitHub Android仓库中精选任务集来解决这个问题。

评估场景涵盖不同难度级别，包括：

• 处理不同Android版本间的破坏性更改。
• 针对特定领域的任务，例如Wear OS设备上的网络。
• 将代码迁移到最新的Jetpack Compose（Android的现代化工具包，用于构建原生用户界面）版本。

为了确保评估的无模型针对性，框架提示LLMs修复报告的问题，然后使用标准的开发者测试实践来验证修复：

1. 单元测试：验证不需要Android框架的微小、孤立的代码块（如单个函数或类）的测试。
2. 仪器化测试：在物理Android设备或模拟器上运行的测试，以验证代码如何与实际的Android系统和API交互。

减轻数据污染

对于正在评估公开基准的开发者来说，一个重大挑战是数据污染。这发生在LLM在训练过程中接触评估任务时，导致模型记住答案，而不是展示真正的推理和理解能力。

为确保Android Bench结果的完整性，谷歌团队实施了几项预防措施：

• 手动审查代理轨迹：开发者审查模型到达解决方案的逐步推理和行动路径，确保其正在主动解决问题。
• 引入金丝雀字符串：将一个唯一可识别的文本字符串嵌入到基准数据集中。这向AI公司的网页爬虫和数据抓取器发出信号，明确排除这些数据用于未来的模型训练运行。

初始Android Bench排行榜结果

在这次初始发布中，基准严格测量基础模型的性能，故意省略了复杂的代理工作流程或工具使用。

得分表示每个模型在10次独立运行中平均成功解决的100个测试案例的百分比。由于LLMs的输出之间存在差异，结果包括一个置信区间（CI），p值小于0.05。CI提供了预期的性能范围，表明模型得分的统计可靠性。

在这个首次发布中，模型成功完成了16%到72%的任务。

注意：您可以使用最新稳定版本的Android Studio中的API密钥为自己Android项目尝试所有评估过的模型。

主要收获

• 专业关注而非通用基准：Android Bench通过专门衡量LLMs如何处理Android生态系统的独特复杂性、API和依赖，解决了通用编码基准的不足。
• 基于真实世界场景：与孤立的算法测试不同，基准评估模型与从公开GitHub仓库中抽取的实际挑战一致。任务包括解决破坏性的API更改、将遗留的UI代码迁移到Jetpack Compose以及处理特定于设备的网络（例如Wear OS）。
• 可验证、无模型测试：代码生成基于功能，而非方法。框架自动使用标准的Android工程实践来验证LLM提出的修复方案：独立的单元测试和基于模拟器的仪器化测试。
• 严格的反污染措施：为了确保模型实际上是在推理而不是复述记忆中的训练数据，基准采用了对代理推理路径的手动审查，并使用“金丝雀字符串”来防止AI网页爬虫摄取测试数据集。
• 建立了基准性能：排行榜的第一个版本仅关注基础模型的性能，没有外部代理工具。Gemini 3.1 Pro Preview目前以72.4%的成功率领先，凸显了当前LLMs能力的广泛差异（测试模型的得分从16.1%到72.4%）。

有关更多信息，请查看 Repos和技术细节。也可以随时关注我们的Twitter，并且别忘了加入我们的120k+ 机器学习 SubReddit以及订阅我们的时事通讯。等等！你在Telegram上吗？现在你可以在Telegram上加入我们了。

这篇名为“谷歌AI发布Android Bench：Android开发中LLMs的评估框架和排行榜”的文章首次出现在MarkTechPost。

层自适应专家剪枝（LAEP）

Yuan3.0 Ultra训练中的主要创新是层自适应专家剪枝（LAEP）算法。尽管专家剪枝通常在训练后应用，但LAEP在预训练阶段直接识别并移除利用率低的专家。

专家负载分布的研究显示，预训练中有两个不同的阶段：

1. 初始过渡阶段：以从随机初始化继承的高度波动性的专家负载为特征。
2. 稳定阶段：专家负载收敛，基于token分配的专家相对排名在大部分情况下保持固定。

一旦达到稳定阶段，LAEP基于两个约束进行剪枝：

• 个体负载约束（⍺）：针对token负载显著低于层平均的专家。
• 累积负载约束（β）：识别出对总token处理贡献最小的专家子集。

通过使用β=0.1和变化的⍺，模型从最初的1.5T参数剪枝到1T参数。这种33.3%的总参数减少在保留了模型的多领域性能的同时，显著降低了部署所需的内存要求。在1T配置中，每层的专家数量从64减少到最多48个保留专家。

https://github.com/Yuan-lab-LLM/Yuan3.0-Ultra/blob/main/Docs/Yuan3.0_Ultra_Paper.pdf

硬件效率和专家重排

MoE模型在专家分布在一个计算集群上时，通常会在设备层面遭受负载不平衡。为了解决这个问题，Yuan3.0 Ultra实施了一个专家重排算法。

该算法根据token负载对专家进行排序，并使用贪婪策略将它们分配到GPU上，以使累积token方差最小化。

总的预训练效率提高了49%。这种改进归因于以下两个因素：

• 模型剪枝：对效率增益的贡献为32.4%。
• 专家重排：对效率增益的贡献为15.9%。

通过修订的RIRM减轻过度思考

在强化学习（RL）阶段，模型采用改进的反射抑制奖励机制（RIRM）来防止对简单任务的过度长期推理。

反射奖励$$ R_{ver} $$的计算使用基于阈值的惩罚系统：

• rmin=0：直接响应的理想反射步骤数。
• rmax=3：可容忍的最大反射阈值。

对于正确样本，随着反射步骤接近rmax，奖励减少，而“过度思考”（超出rmax）的错误样本将受到最大惩罚。这种机制在训练准确性上实现了16.33%的提升，并使输出token长度减少了14.38%。

https://github.com/Yuan-lab-LLM/Yuan3.0-Ultra/blob/main/Docs/Yuan3.0_Ultra_Paper.pdf

企业基准性能

Yuan3.0 Ultra在各种专门的企业基准上，包括GPT-5.2和Gemini 3.1 Pro进行了评估。

结果表明，Yuan3.0 Ultra在多模态检索（Docmatix）和长上下文检索（ChatRAG）中实现了最前沿的准确性，同时在结构化数据处理和工具调用方面保持稳健的性能。

查看论文和代码库。也请关注我们的Twitter，并别忘了加入我们的120k+ 机器学习 SubReddit，订阅我们的 newsletter。等等！你在telegram上吗？现在你也可以加入我们了。

文章元实验室AI发布Yuan 3.0 Ultra：旗舰的多模态MoE基础模型，专为更强的智能和无与伦比的效率构建最早出现在MarkTechPost。

系统架构：Elixir和Erlang/BEAM

Symphony使用Elixir和Erlang/BEAM运行时构建。选择此堆栈的重点在于容错性和并发性。由于自主代理通常执行长时间运行的任务，可能会失败或需要重试，BEAM的监督树允许Symphony同时管理数百个独立的实施运行。

系统使用PostgreSQL（通过Ecto）进行状态持久化，并设计为持久守护程序运行。它通过轮询问题跟踪器（默认为Linear）来确定哪些任务是代理可以处理的。

实施运行的生命周期

Symphony中的核心工作单元是实施运行。运行的生命周期遵循以下特定顺序：

1. 轮询和触发： Symphony监控问题跟踪器中的特定状态（例如，“准备供代理处理”）。
2. 沙盒隔离： 对于每个问题，框架创建一个确定性的、针对每个问题的工 作空间。这确保代理的动作被限制在特定的目录中，不会干扰其他并发运行。
3. 代理执行： 初始化一个代理（通常使用OpenAI的模型）来执行问题中描述的任务。
4. 工作证明： 在任务被认为完成之前，代理必须提供“工作证明”。这包括生成CI状态报告、通过单元测试、提供PR审查反馈以及创建更改的演示。
5. 着陆： 如果工作证明得到验证，则代理通过提交或合并拉取请求（PR）到存储库来完成代码。

通过WORKFLOW.md进行配置

Symphony使用名为WORKFLOW.md的本地仓库配置文件。此文件作为开发团队和代理之间的技术合同。它包含以下内容：

• 代理的主要系统说明和提示。
• 实施环境中的运行时设置。
• 代理与代码库交互的特定规则。

通过将这些说明保存在仓库中，团队可以将代理策略与源代码一起进行版本控制，确保代理的行为与它所修改的代码库的特定版本保持一致。

合规工程要求

文档规定，Symphony在实践合规工程的环境中最为有效。这指的是一个针对机器交互优化的仓库结构。主要要求包括：

• 自验证测试： 可以在本地可靠运行且不依赖于外部依赖的测试。
• 机器可读文档： 文档和脚本，使代理能够自主发现如何构建、测试和部署项目。
• 模块化架构： 代码库中副作用最小化，允许代理自主验证其工作。

关键结论

• 通过Elixir进行容错编排： Symphony使用Elixir和Erlang/BEAM运行时来管理代理生命周期。这种架构选择提供了高并发性和容错性，能够在不发生系统级失败的情况下监督长时间运行且独立的“实施运行”。
• 管理实施运行： 该框架将AI编码从手动提示转变为自动化循环：它轮询问题跟踪器（如Linear），创建隔离的沙盒工作空间，执行代理，并在代码合并之前要求“工作证明”（CI通过和演示）。
• 版本控制代理合同： 通过WORKFLOW.md规范，将代理提示和运行时配置存储在仓库中。这将以代码的形式处理AI的运行指令，确保代理行为以版本控制并与其修改的特定分支同步。
• 依赖合规工程： 要使系统有效，存储库必须采用合规工程。这包括结构化代码库以机器可读，包括自验证的测试套件和模块化架构，使代理能够自主验证其工作。
• 聚焦调度器范围： Symphony被定义为调度器、运行者和跟踪器读取器。它旨在在项目管理工具和代码执行之间架起桥梁，而不是作为一个通用多租户平台或广泛的流程引擎。

请查看此处存储库。此外，您可以关注我们的推特，别忘了加入我们的120k+ ML SubReddit订阅我们的时事通讯。等等！你在Telegram上吗？现在你可以在Telegram上加入我们了。

该文章《OpenAI发布Symphony：一个开源的基于代理的框架，通过结构化、可扩展的实施运行来编排自主AI代理》首先发布在MarkTechPost。