LangGraph: Framework AI Agent dạng Graph — Hướng dẫn Production 2026

Chào mừng đến với series mới: AI Agent Frameworks 2026. Trong sáu bài tiếp theo, chúng ta sẽ đề cập mọi framework agent chính đang được dùng trong production hiện nay — LangGraph, CrewAI, AutoGen, Claude Agent SDK, OpenAI Agents SDK, và bài so sánh cuối cùng với khung quyết định.

Chúng ta bắt đầu với leader không thể tranh cãi: LangGraph.

Với hơn 126,000 sao GitHub và được áp dụng trong healthcare, tài chính, logistics và e-commerce, LangGraph đã trở thành lựa chọn mặc định cho các team xây dựng AI agent nghiêm túc. Nhưng điều gì làm nó trở thành tiêu chuẩn production — và nó có phù hợp với dự án của bạn không?

LangGraph Là Gì?#

LangGraph là framework orchestration dạng graph từ đội ngũ LangChain. Thay vì xử lý workflow agent như chuỗi tuần tự (input → process → output), LangGraph mô hình hóa chúng như state graphs — các node được kết nối bằng edges với logic routing có điều kiện.

1
from langgraph.graph import StateGraph, END
2
from typing import TypedDict
3

4
class AgentState(TypedDict):
5
    query: str
6
    context: list[str]
7
    response: str
8
    requires_human_review: bool
9

10
def route_after_analysis(state: AgentState) -> str:
11
    if state["requires_human_review"]:
12
        return "human_review"
13
    return "generate_response"
14

15
workflow = StateGraph(AgentState)
16
workflow.add_node("analyze", analyze_query)
17
workflow.add_node("retrieve", retrieve_context)
18
workflow.add_node("human_review", pause_for_human)
19
workflow.add_node("generate_response", generate)
20
workflow.add_conditional_edges("analyze", route_after_analysis)

Mọi quyết định đều tường minh. Mọi chuyển đổi trạng thái đều xác định. Đội compliance có thể kiểm tra chính xác đường đi của bất kỳ request nào.

Các Khái Niệm Cốt Lõi#

1. State Graph#

State graph là trái tim của LangGraph. Không giống chain (tuyến tính, đường cố định) hay loop (lặp lại), graph cho phép:

Branching — Các đường khác nhau dựa trên quyết định của agent
Cycles — Agent có thể vào lại node trước đó (thử lại, tinh chỉnh)
Parallel execution — Nhiều node chạy đồng thời
Human-in-the-loop — Tạm dừng thực thi, thu thập input, tiếp tục

AgentState TypedDict định nghĩa schema chảy qua mọi node. Mỗi node đọc từ và ghi vào shared state này.

2. Nodes#

Nodes là các đơn vị chức năng — mỗi node là một hàm Python (hoặc async):

1
def analyze_query(state: AgentState) -> AgentState:
2
    llm = ChatOpenAI(model="gpt-4o")
3
    analysis = llm.invoke(f"Phân tích query: {state['query']}")
4
    state["context"].append(analysis.content)
5
    # Hàm phải trả về state đã cập nhật
6
    return state

Nodes có thể:

Gọi LLM, API, database, hoặc bất kỳ công cụ ngoài nào
Sửa đổi shared state
Tạm dừng cho human input
Trả về key mới mà các node sau tiêu thụ

3. Edges và Conditional Routing#

Edges định nghĩa cách state chảy giữa các node. Ba loại:

1
# 1. Normal edge: luôn đi từ node A đến node B
2
workflow.add_edge("analyze", "retrieve")
3

4
# 2. Conditional edge: định tuyến bởi hàm
5
workflow.add_conditional_edges("analyze", route_after_analysis)
6

7
# 3. Entry/exit points
8
workflow.set_entry_point("analyze")
9
workflow.add_edge("generate_response", END)

Hàm routing nhận state hiện tại và trả về tên node tiếp theo. Điều này rất quan trọng cho compliance — mọi quyết định routing là code, không phải phép màu.

4. Human-in-the-Loop#

Đây là killer feature của LangGraph cho các ngành được quản lý:

1
workflow.add_node("human_review", pause_for_human)
2

3
# Khi graph đến node này, nó tạm dừng và chờ
4
# Bạn có thể tiếp tục với:
5
thread = {"configurable": {"thread_id": "123"}}
6
# Sau đó:
7
graph.update_state(thread, {"human_approved": True})

Graph có thể tạm dừng ở bất kỳ node nào, chờ hàng giờ hoặc ngày cho human input, và tiếp tục chính xác nơi nó dừng — với full state được bảo toàn.

LangSmith Observability#

LangGraph đi kèm LangSmith, nền tảng observability trace mọi thực thi graph. Đây không phải tùy chọn — nó được thiết kế vào framework.

1
Trace: thread_abc123
2
├── analyze (2.4s, tokens: 1,234)
3
│   └── LLM call: gpt-4o (temperature: 0.1)
4
│       └── output: "Yêu cầu này cần human review do số tiền > $10K"
5
├── route_after_analysis → "human_review"
6
├── human_review (PAUSED - đang chờ input)
7
│   └── snapshot state: {query: "...", context: [...], requires_human_review: True}

Mọi trace hiển thị:

Latency mỗi node (xác định bottleneck)
Token usage mỗi LLM call (theo dõi chi phí)
State snapshots mỗi bước (debugging)
Human review pauses (audit trail)

Triển khai Production#

LangGraph thường được triển khai theo hai pattern:

Pattern 1: API Server với Background Worker#

1
from fastapi import FastAPI
2
from langgraph.checkpoint import MemorySaver
3

4
app = FastAPI()
5
graph = build_graph()
6
checkpointer = MemorySaver()
7

8
@app.post("/agent/run")
9
async def run_agent(request: AgentRequest):
10
    result = await graph.ainvoke(
11
        {"query": request.query},
12
        {"configurable": {"thread_id": str(uuid4())}},
13
        checkpointer=checkpointer
14
    )
15
    return result

Pattern 2: Async Task Queue với Redis Checkpoint#

1
from langgraph.checkpoint.redis import RedisSaver
2
checkpointer = RedisSaver(redis_client)
3
# Graph giờ có thể sống sót qua server restart

Khi Nào Dùng LangGraph#

Phù hợp#

Kịch bản	Tại sao
Healthcare/Tài chính	Human-in-the-loop built-in
Quy trình cần audit	Routing quyết định là code deterministic
Multi-step agents phức tạp	Graph model handle branching, cycles, retries
Team có Python	Python native, không cần học DSL
Production volume cao	LangSmith observability

Không phù hợp#

Kịch bản	Tại sao
Chatbot agent đơn giản	Overkill. Dùng LangChain hoặc LLM trực tiếp
Prototype nhanh 1 ngày	CrewAI nhanh hơn
Team không Python	Chỉ Python — không JS/Go SDK
Cần real-time streaming	Hỗ trợ nhưng phức tạp hơn

Tiếp Theo#

Bài	Framework	Nội dung
1	LangGraph (bài này)	Graph orchestration, state management, LangSmith
2	CrewAI	Role-based multi-agent, prototyping nhanh nhất
3	AutoGen (Microsoft)	Multi-agent conversations, code generation
4	Claude Agent SDK	Anthropic agent toolkit, MCP-native
5	OpenAI Agents SDK	Handoffs, guardrails, built-in safety
6	So sánh cuối	Decision framework, chọn cái nào

Series: AI Agent Frameworks 2026 — So sánh Production. Bài 1: LangGraph. Bài 2: CrewAI → sắp tới.