OpenUs Lab|测评:LangGraph —— 面向生产、带状态持久化的图式 Agent 编排

OpenUs Lab|测评:LangGraph —— 面向生产、带状态持久化的图式Agent编排运行时

作者:OpenUs Lab 标签:Agent Orchestration、状态机、StateGraph、LangChain、Durable Execution、Human-in-the-loop 摘要:如果说AutoGen主打「多Agent对话协商」,DeepSeek Harness主打「插件化执行底座」,那LangGraph的定位就是显式状态、可控分支、可持久化的图编排引擎。它把Agent流程变成一张可绘制、可断点、可回放的状态图,适合把LLM推理、工具调用、人工审批、确定性业务规则揉在同一个工作流里。本文梳理LangGraph完整演进脉络、v1.2稳定版核心能力、落地场景、标杆案例,同时和前面两篇测评框架做横向对照。

前言

在Agent工程化的早期,大家习惯用LCEL、链式调用写RAG和简单Agent循环。但一旦任务变长、需要中途暂停交给人审批、服务重启后要续跑、多分支路由、子Agent嵌套,简单链式就会失控:状态散落在各处、断点难写、日志割裂、重试逻辑臃肿。

LangGraph就是LangChain团队为解决这个痛点推出的底层编排运行时。它不是一个封装好的Agent,而是一套状态图原语:节点、边、分支路由、Checkpoint持久化、中断恢复。你可以在一张图里混合硬编码业务逻辑和LLM自主推理,这是它最独特的设计。OpenUs Lab在企业工单、审批流、长周期调研Agent、私有化业务Agent上大量落地LangGraph,本篇为实验室实测复盘。

一、前世今生:从LCEL的局限里生长出来的状态编排引擎

LangGraph的诞生,本质是LangChain生态在生产落地中踩坑后的架构补全,脉络非常清晰:

  1. 前置:LangChain + LCEL(2022–2023) LangChain早期以链式抽象、组件集成出圈,LCEL(LangChain Expression Language)用管道|把模型、检索、工具串起来,适合一次性、线性的RAG、问答。但它有天生短板:不擅长循环、分支、状态保存、人工介入中断。Agent需要反复思考、调用工具、观察结果,这种带反馈环的流程,很难优雅塞进LCEL的线性管道里。社区反馈集中在:想要控制权、想要持久化、想要在任意节点暂停并人工干预。

  2. 正式发布:LangGraph v0.x 预览版(2024-01) LangGraph正式开源,底层借鉴Pregel同步批量计算模型,API参考NetworkX图抽象;核心原语 StateGraph、节点、条件分支、interrupt()、Checkpoint持久化。 它从一开始就做了一个关键取舍:不强制绑定LangChain,可以独立使用,模型、工具都可以接入第三方SDK。 早期版本主打ReAct Agent、简单多Agent Supervisor模式,是原型阶段,API变动较大,适合验证想法,不适合重负载生产。

  3. 里程碑:v1.0 稳定版(2025-10) 和LangChain 1.0同步发布,这是第一个承诺稳定的大版本,API冻结,直到2.0前不再破坏性变更。 v1.0把「持久化执行、中断人工介入、状态快照」升级为一等公民能力:支持Postgres/SQLite等Checkpoint存储,线程(thread)概念定型,一个线程对应一条独立Agent会话,随时暂停、恢复、回滚快照。 大量企业客户(Uber、LinkedIn、JPMorgan、Klarna)开始把它放到生产链路,官方定位从「LangChain附属工具」升级为独立生产级Agent运行时。

  4. 迭代:v1.1 → v1.2(2026,当前稳定基线) v1.1:类型安全流式、标准化StateSchema,兼容Zod、Valibot等校验库,状态定义与校验解耦,TS/Python双SDK对齐; v1.2:本次实验室测评基线版本,重点新增DeltaChannel增量通道、节点级超时与错误处理器、v3流式事件协议,配套LangGraph Studio可视化调试、langgraph deploy一键部署CLI、LangSmith深度追踪。

    生态边界:LangGraph负责编排与状态;LangSmith负责追踪、评估、评测;LangGraph Studio是可视化调试工作台;LangGraph Cloud是托管部署方案。

一句话区分生态角色:

  • LangChain:组件库、模型/工具适配器、预制Agent;
  • LangGraph:图编排、状态持久化、中断恢复的运行时;
  • LangSmith:追踪、评估、红队、评测平台;
  • LangGraph Studio:可视化调试、图执行回放。

二、v1.2 稳定版核心能力(OpenUs Lab实测)

LangGraph所有能力都围绕**显式状态(State)**展开,这是它和AutoGen、DeepSeek Harness最大的区别。

  1. StateGraph + 可定制Reducer(状态归约器) 图的所有节点共享一份结构化State,每个节点只修改State里指定字段;Reducer定义同字段如何合并更新(追加消息、覆盖、求和)。状态强类型,可校验,你完全掌控Agent内存,没有框架隐藏的隐式上下文。

    核心优势:你可以把确定性业务规则(比如金额阈值、权限判断)直接写在节点里,和LLM推理节点放在同一张图,混合编排。

  2. Checkpoint 持久化 + Durable Execution(可续跑) 每一步节点执行完成自动打快照,支持SQLite、Postgres、Redis。服务崩溃、重启、超时,只要传入同一个thread_id,就能从最近快照继续执行。适合跨天审批、工单、长周期后台任务,这是企业业务最刚需的能力。

  3. 一等公民 Human-in-the-loop(HITL)中断 interrupt() 在任意节点调用interrupt(),直接冻结图、保存快照,把控制权交还人类;人工修改状态、补充信息、审批后,resume()继续跑。天然适配工单审批、风控复核、合同审核等高风险场景,不需要自己写排队、状态流转、消息队列。

  4. DeltaChannel(v1.2重磅) 传统通道每次全量序列化整个消息列表,长会话、上万轮消息时开销巨大。DeltaChannel只保存增量变更,按配置间隔写入全量快照,大幅降低长线程的存储与IO开销,适合客服、长期对话Agent。

  5. 节点级超时、错误处理、重试策略 v1.2支持给每个node单独配置timeout、idle_timeout、自定义错误处理器;工具调用、外部API、子Agent节点超时失败时,可以指定重试、回滚快照、路由到异常分支,不再是全局统一捕获。

  6. Supervisor 分层多Agent原生范式 内置经典的Supervisor模式:一个主管节点做规划、路由、分配任务给子图(子Agent),子图可以独立开发、独立测试、复用。和AutoGen群聊不同:LangGraph的多Agent是图路由驱动,不是自由对话轮询,路由逻辑更可控、可审计。

  7. 双SDK、可独立使用、MCP原生支持 Python + TypeScript SDK,不绑定LangChain;可以接入OpenAI、Anthropic、DeepSeek、Ollama;新版本原生支持MCP协议,对接外部工具服务。

  8. LangGraph Studio + LangSmith 全链路观测 Studio可视化渲染整张图,单步执行、断点、修改状态、回放任意快照;LangSmith采集每一步状态变更、工具调用、LLM输入输出,做评估、标注、红队测试,非常适合工程迭代。

短板(实验室客观评价)

  1. 它是编排层,不是执行沙箱底座:没有内置隔离沙箱、权限管控、文件执行环境;代码执行、shell调用需要自己接入E2B、本地沙箱等外部服务;
  2. 上手门槛高:你必须理解状态、reducer、checkpoint、thread、快照这些概念,适合工程师;业务人员直接上手难度高于AutoGen Studio;
  3. 原生没有“开箱即用”的Agent循环,所有流程都要显式定义节点和分支;灵活性换来的代价是样板代码更多;
  4. 多Agent自由辩论、动态角色协商不是它的强项,它擅长可控路由、分层子任务、审批流转。

三、典型使用场景

LangGraph的最佳落点,是流程里同时存在LLM推理 + 业务规则 + 需要人工介入 + 任务跨会话、跨时间持续运行的场景。

:white_check_mark: 优势场景

  1. 企业工单/客服支撑Agent(最主流落地) 客户咨询自动分类、查询CRM、知识库检索;高风险请求(大额退款、投诉升级)自动中断,等待人工审批;人工回复后继续闭环。Lyft、AWS IT服务台都采用该范式,也是LangGraph商业化标杆场景。
  2. 风控、法务、合同审批流水线 合同读取、条款抽取、风险识别、合规校验;达到阈值自动暂停,推送给法务复核;复核通过/驳回后,自动走后续归档、修改、重评审分支。
  3. 长周期调研、项目规划Agent 规划节点拆解任务,并行调用检索、精读子图;阶段性产出报告,可设置人工评审节点;评审通过进入下一轮资料收集,失败则重新检索。
  4. 分层多Agent业务系统(Supervisor模式) 主管Agent判断用户意图,路由到不同垂直子图:财务子图、技术子图、文档子图;子图独立维护、独立上线,适合大型企业内部Agent平台。
  5. 面向产品的可评估Agent系统 结合LangSmith,每个状态变更、分支选择都可追踪、可标注、可做LLM-as-judge评测;持续迭代提示词、路由规则,适合产品化、持续迭代的AI应用。
  6. 异构工具编排、混合自动化 RAG检索、数据库查询、API调用、Excel处理、LLM总结放在同一张图,分支由业务规则或模型判断,适合企业后台自动化。

:cross_mark: 不适合场景

  • 追求极简、快速搭建自由对话辩论式多Agent(优先AutoGen/AG2);
  • 主打自主代码执行、大量本地文件操作、强沙箱隔离(优先DeepSeek Harness);
  • 面向普通用户、零配置开箱即用的成品Agent。

对照我们前面两篇测评: AutoGen = 对话协商编排;LangGraph = 状态化、可审批、可续跑的业务流编排;DeepSeek Harness = 沙箱+工具+会话回放的执行底座。三者甚至可以组合:Harness负责沙箱与工具执行;LangGraph负责上层业务状态、审批、分支流转;AutoGen负责子Agent内部专家辩论。

四、经典最佳案例(OpenUs Lab内部落地样板)

案例1|客服工单HITL审批图(工业界最通用)

状态字段:消息列表、工单类型、用户信息、CRM数据、风险分数、审批标记、重试次数 节点清单:

  1. 意图分类节点(LLM):识别退款/咨询/故障投诉
  2. 知识库检索节点(RAG)
  3. 风险判定节点(混合规则+LLM):退款金额>阈值 → 进入中断
  4. interrupt() 人工审批节点:冻结图,等待运营人员确认
  5. 回复生成节点、归档节点 分支路由:风险高→人工;风险低→自动回复;审批驳回→重新生成方案 特点:完美匹配企业工单系统,生产落地最多,AWS、Lyft同款模式。

案例2|Supervisor分层调研Agent(实验室高频)

  • Supervisor节点:理解目标、拆分子任务、决定下一步调用哪个子Agent
  • 子图A:网页并行检索子图
  • 子图B:PDF/论文精读子图
  • 子图C:事实交叉校验子图
  • 子图D:报告撰写子图
  • 评审节点:人工中断,可修改提纲、补充指令,继续执行 适合投研、行业报告、文献综述,支持多天持续迭代。

案例3|IT运维工单Agent(技术服务台)

  • 节点:问题分类、知识库匹配、自动化脚本执行、日志查询、升级判定
  • 规则:简单问题自动处理;无法定位、高优先级故障 → 中断,交给运维工程师接手;工程师处理完成后,Agent自动整理工单摘要、归档。 优势:Pod重启、排队延迟都不会丢失工单上下文,Checkpoint持久化保证状态不丢。

案例4|结构化合同审阅流水线

  • 节点:文档解析、条款抽取、风险识别、合规比对、修改建议生成
  • 分支:低风险直接输出初稿;高风险条款自动暂停,推送给法务复核;复核意见回写状态,自动修订文档。

五、OpenUs Lab 选型总结

LangGraph 不是用来做“炫酷自主Agent”的框架,它是给工程团队做可控、可审计、可审批的业务型Agent的框架。 它的核心竞争力:显式状态、快照恢复、原生HITL中断、可混合业务规则与LLM推理,非常贴合企业信息化、工单、风控、审批类场景。

:white_check_mark: 适合:

  • 企业业务Agent,流程里有人工审批、复核环节;
  • 需要长周期、跨会话、服务重启后继续执行的Agent;
  • 希望把LLM推理和确定性业务规则统一在一套编排里;
  • 重视追踪、评估、持续迭代,配套LangSmith做质量治理。

:cross_mark: 不适合:

  • 自由辩论、多Agent互相评审的开放式对话场景;
  • 以代码沙箱、本地文件操作、自主工具循环为核心目标。

OpenUs Lab 横向速记三框架定位(本系列三篇汇总)

  • AutoGen:以对话为原语,多角色互相辩论评审;
  • LangGraph:以状态图为原语,可控分支、审批、持久化业务流;
  • DeepSeek Harness(dsh):以插件+沙箱为原语,Agent自主执行运行时底座。

后续 OpenUs Lab 计划放出:LangGraph Supervisor模式可运行样例代码、LangGraph vs AutoGen vs DeepSeek Harness 横向对比长文。