- Isabella He từ đội Applied AI của Anthropic giới thiệu
Claude Managed Agents— harness đầu tiên tự lo việc mở rộng (scaling), sandboxing, observability và tool runtime cho agent sẵn sàng production, để nhà phát triển chỉ tập trung vào tác vụ, công cụ và cấu hình agent. - Trong workshop thực hành, người tham dự xây một agent xử lý sự cố cho SRE (site reliability) từng bước từ bốn primitive: định nghĩa agent, environment, session và local tools — với agent loop chạy phía server và lưu trữ đầy đủ.
- Phiên giải thích các quyết định thiết kế chủ chốt như tách "bộ não" khỏi "đôi tay" của agent (giảm hơn 90% time-to-first-token ở P95), session dựa trên event, quản lý trạng thái, và xem trước các tính năng nâng cao: sub-agent, memory, dreaming, outcomes và vaults.
Ship your first Managed Agent
- Nắm dòng tiến hóa: từ
Messages API(2023, truy cập mô hình thô, nhà phát triển tự xây mọi primitive), tớiAgent SDK(gọiClaude Codelập trình được nhưng vẫn phải tự lo hosting và scaling), đếnClaude Managed Agentsxử lý scaling và thành phần production bằng harness chuyên dụng, sandboxing, observability, tool runtime trên hạ tầng được quản lý. - Tận dụng việc các đội lên production nhanh hơn 10–15 lần vì harness cần tiến hóa cùng agent — ví dụ hành vi "context anxiety" của Sonnet 4.5 (dừng tác vụ sớm) đòi hỏi mitigation trong harness nhưng trở nên thừa khi Opus 4.5 loại bỏ hành vi đó.
- Xây agent từ ba tài nguyên chính:
agent endpoint(persona/khả năng — model, system prompt, MCP servers, skills — "bộ não"),environment(container nơi hành động diễn ra — "đôi tay"), vàsession(gắn instance agent với environment và stream event). - Hiểu quyết định thiết kế tách agent loop khỏi việc thực thi công cụ (tách "đôi tay" khỏi "bộ não"), cải thiện bảo mật credential nhờ sandboxing và giảm hơn 90% time-to-first-token ở P95 vì không phải khởi tạo container cho mỗi session để chạy loop.
- Theo dõi cách xây agent SRE: định nghĩa agent với
Claude Opus 4.7cùng system prompt đơn giản và công cụ (get metrics, recent deploys, get diff, fetch logs), gắn log quafiles API, ràng buộc mọi thứ trong session, stream event ra UI, triển khai local tool, và hỗ trợ xóa session để bảo mật. - Lưu ý session nói bằng
event(tin nhắn người dùng, tool call, phản hồi agent) thay vì token request/response, giúp được ghi log để observability, có thể resume, và đáng tin cậy — nếu container hỏng có thể khởi động lại mà không phải restart cả agent loop. - Khai thác việc mọi thứ được lưu trên cloud: hard-refresh trang vẫn giữ mọi session và trạng thái mà không cần quản lý database, và các trạng thái session (idle, running, rescheduling, terminated) cho phép resume và hành động kích hoạt bởi webhook.
- Mở rộng vượt cơ bản với:
sub-agent(orchestrator tạo các context window song song),memorycùng dịch vụdreamingcho agent tự cải thiện,outcomes(định nghĩa rubric agent hướng tới),vaults(lưu credential mã hóa theo từng user/session), webhook, quyền chi tiết, MCP tunnels, và console agent builder với dashboard observability.
Claude Managed Agents— Claude Managed Agentsharness— harnessagent endpoint— agent endpointenvironment— environmentsession— sessiontime to first token(TTFT) — time to first tokencontext anxiety— context anxietydreaming— dreamingoutcomes— outcomesvaults— vaults
Hành trình đến Claude Managed Agents
Isabella He, thành viên kỹ thuật đội Applied AI của Anthropic, mở đầu workshop về việc "ship agent được quản lý đầu tiên" của bạn. Mục tiêu: giúp người tham dự thực hành xây dựng trên Managed Agents, hiểu cách harness hoạt động bên dưới, và sẵn sàng ship một agent xử lý sự cố (incident response).
Dòng tiến hóa trải qua ba bước:
Messages API(2023): Cung cấp truy cập mô hình thô (token vào, token ra). Nhà phát triển phải tự xây mọi primitive như context management, agent loop, compaction.Agent SDK: Một harness cho phép gọiClaude Codelập trình được, làm Claude mạnh hơn. Nhưng nhà phát triển vẫn phải tự lo hosting và scaling, đảm bảo an toàn trong container của mình.Claude Managed Agents: Harness đầu tiên do Anthropic lo việc scaling và các thành phần production — harness chuyên dụng, sandboxing, observability, tool runtime, trên hạ tầng được quản lý. Nhà phát triển chỉ tập trung vào tác vụ, cấu hình agent và logic công cụ tùy chỉnh.
Các đội đã lên production nhanh hơn 10–15 lần. Lý do quan trọng: harness cần tiến hóa cùng agent. Ví dụ, Sonnet 4.5 từng có hành vi context anxiety (kết thúc tác vụ sớm dù còn dư ngữ cảnh), buộc phải thêm mitigation; nhưng khi Opus 4.5 ra mắt, hành vi này biến mất, khiến công sức đó thành thừa. Vì vậy Managed Agents để Anthropic lo các phức tạp như compaction, caching.
Ba tài nguyên cốt lõi và quyết định thiết kế
Ba tài nguyên chính để xây agent:
Agent endpoint("bộ não"): persona và khả năng — model, system prompt,MCP servers, skills.Environment("đôi tay"): không gian/container nơi agent thực sự hành động.Session: gắn một instance agent với một environment, stream event về cho người dùng.
Một quyết định thiết kế then chốt là tách agent loop khỏi việc thực thi công cụ (tách "đôi tay" khỏi "bộ não"). Trước đây loop và thực thi nằm chung một box, phải khởi tạo container cho mỗi session, tăng độ trễ. Sau khi tách, đội ghi nhận giảm hơn 90% TTFT ở P95, đồng thời tăng bảo mật credential nhờ sandboxing và mã hóa.
Agent loop chạy phía server, nên khi đóng laptop hay hard-refresh, mọi thứ vẫn được giữ — không phải lo về durability, reliability.
Xây agent SRE từng bước
Workshop xây một agent xử lý sự cố — kịch bản quen thuộc với kỹ sư bị gọi dậy lúc 3 giờ sáng để xử lý server sập. Các bước (sao chép từng phần từ file hoàn chỉnh sang file trống):
- Định nghĩa agent: Agent SRE dùng
Claude Opus 4.7, system prompt rất đơn giản, cùng các công cụ như get metrics, recent deployments, get diff, fetch logs. - Environment: Cho agent chạy trong Anthropic cloud. Anthropic vừa phát hành khả năng "bring your own containers/compute" và
Claude MCP tunnels(chạy MCP server trong môi trường riêng tư). Danh sách networking là allowed list có thể giới hạn. - Gắn log: Tải metrics và log lên qua
files APIđể agent xử lý. Càng nhiều dữ liệu càng mạnh —context engineeringchiếm phần lớn thời gian của nhà phát triển. - Session: Ràng buộc agent ID, environment ID và tài nguyên; stream phản hồi theo thời gian.
- Local tools: Kết nối các công cụ cục bộ (get metrics, recent deploys, diffs) để agent thực sự hành động. Thêm khả năng xóa session để bảo mật — khi xóa, dữ liệu được gỡ khỏi mọi log.
Khi chạy thử, agent gọi sandbox/bash, đọc log, gọi get recent deploys, và stream phản hồi. Nó xác định sự cố: P99 latency cao gấp 10 lần baseline, nguyên nhân là database pool exhaustion do một commit của Alice refactor order summary builder, kèm các hành động khuyến nghị. Với công cụ như Claude Code, agent có thể tiến xa hơn: vào codebase, đề xuất sửa, mở PR.
Cơ chế hoạt động: Event, State và Persistence
Bài học rút ra về cách Managed Agents hoạt động:
- Session nói bằng event: Thay vì request/response token, mọi thứ là
event(tin nhắn người dùng, tool call, phản hồi) được thêm vào log session — dễ resume, dễ observability. Nếu container hỏng, khởi động lại mà không phải restart cả agent loop. - Local tools tách khỏi loop: Công cụ chạy cục bộ (định nghĩa trong JSON), agent loop chạy trên cloud. Có thể dễ dàng chuyển từ JSON sang
DataDog clientcùng wire protocol để lên production. - Quản lý trạng thái: Các trạng thái session gồm idle → running → rescheduling (thử lại) → terminated (thất bại).
Webhookcó thể kích hoạt agent resume hay khởi động trạng thái dựa trên sự kiện bên ngoài. - Persistence trên cloud: Hard-refresh vẫn giữ mọi session và hội thoại, không cần quản lý database hay deployment.
Vượt cơ bản: Sub-agent, Memory, Dreaming, Outcomes, Vaults
Để agent mạnh hơn, Managed Agents cung cấp sẵn:
Sub-agent: Một orchestrator tạo các context với agent khác, mỗi agent có context window riêng và đóng góp lại — tốt cho parallelization và quản lý ngữ cảnh.Memory+Dreaming: Cho agent tự cải thiện, học từ chỉnh sửa và sở thích của người dùng.Dreamingcho phép Claude xem lại log bộ nhớ của chính nó để quyết định giữ gì.Outcomes: Định nghĩa một rubric kết quả mong muốn; agent tự tìm ra các tool call cần thiết để đạt được.Vaults: Lưu credential được mã hóa theo từng user/session, dựa trên kiến trúc tách bộ não/đôi tay — không cần tự dựng secret store.- Ngoài ra còn có webhook, chính sách quyền chi tiết, MCP server controls mới, và console agent builder với dashboard observability đẹp.
Kết lại, người tham dự đã ship một agent SRE chỉ với vài primitive cơ bản, trong khi compaction, caching, tool calling đều được Managed Agents lo sẵn.
TL;DR
- Isabella He từ đội Applied AI của Anthropic giới thiệu
Claude Managed Agents— harness đầu tiên tự lo việc mở rộng (scaling), sandboxing, observability và tool runtime cho agent sẵn sàng production, để nhà phát triển chỉ tập trung vào tác vụ, công cụ và cấu hình agent. - Trong workshop thực hành, người tham dự xây một agent xử lý sự cố cho SRE (site reliability) từng bước từ bốn primitive: định nghĩa agent, environment, session và local tools — với agent loop chạy phía server và lưu trữ đầy đủ.
- Phiên giải thích các quyết định thiết kế chủ chốt như tách "bộ não" khỏi "đôi tay" của agent (giảm hơn 90% time-to-first-token ở P95), session dựa trên event, quản lý trạng thái, và xem trước các tính năng nâng cao: sub-agent, memory, dreaming, outcomes và vaults.
Điểm chính
- Nắm dòng tiến hóa: từ
Messages API(2023, truy cập mô hình thô, nhà phát triển tự xây mọi primitive), tớiAgent SDK(gọiClaude Codelập trình được nhưng vẫn phải tự lo hosting và scaling), đếnClaude Managed Agentsxử lý scaling và thành phần production bằng harness chuyên dụng, sandboxing, observability, tool runtime trên hạ tầng được quản lý. - Tận dụng việc các đội lên production nhanh hơn 10–15 lần vì harness cần tiến hóa cùng agent — ví dụ hành vi "context anxiety" của Sonnet 4.5 (dừng tác vụ sớm) đòi hỏi mitigation trong harness nhưng trở nên thừa khi Opus 4.5 loại bỏ hành vi đó.
- Xây agent từ ba tài nguyên chính:
agent endpoint(persona/khả năng — model, system prompt, MCP servers, skills — "bộ não"),environment(container nơi hành động diễn ra — "đôi tay"), vàsession(gắn instance agent với environment và stream event). - Hiểu quyết định thiết kế tách agent loop khỏi việc thực thi công cụ (tách "đôi tay" khỏi "bộ não"), cải thiện bảo mật credential nhờ sandboxing và giảm hơn 90% time-to-first-token ở P95 vì không phải khởi tạo container cho mỗi session để chạy loop.
- Theo dõi cách xây agent SRE: định nghĩa agent với
Claude Opus 4.7cùng system prompt đơn giản và công cụ (get metrics, recent deploys, get diff, fetch logs), gắn log quafiles API, ràng buộc mọi thứ trong session, stream event ra UI, triển khai local tool, và hỗ trợ xóa session để bảo mật. - Lưu ý session nói bằng
event(tin nhắn người dùng, tool call, phản hồi agent) thay vì token request/response, giúp được ghi log để observability, có thể resume, và đáng tin cậy — nếu container hỏng có thể khởi động lại mà không phải restart cả agent loop. - Khai thác việc mọi thứ được lưu trên cloud: hard-refresh trang vẫn giữ mọi session và trạng thái mà không cần quản lý database, và các trạng thái session (idle, running, rescheduling, terminated) cho phép resume và hành động kích hoạt bởi webhook.
- Mở rộng vượt cơ bản với:
sub-agent(orchestrator tạo các context window song song),memorycùng dịch vụdreamingcho agent tự cải thiện,outcomes(định nghĩa rubric agent hướng tới),vaults(lưu credential mã hóa theo từng user/session), webhook, quyền chi tiết, MCP tunnels, và console agent builder với dashboard observability.
Từ vựng
Claude Managed Agents— Claude Managed Agentsharness— harnessagent endpoint— agent endpointenvironment— environmentsession— sessiontime to first token(TTFT) — time to first tokencontext anxiety— context anxietydreaming— dreamingoutcomes— outcomesvaults— vaults
Nội dung chi tiết
Hành trình đến Claude Managed Agents
Isabella He, thành viên kỹ thuật đội Applied AI của Anthropic, mở đầu workshop về việc "ship agent được quản lý đầu tiên" của bạn. Mục tiêu: giúp người tham dự thực hành xây dựng trên Managed Agents, hiểu cách harness hoạt động bên dưới, và sẵn sàng ship một agent xử lý sự cố (incident response).
Dòng tiến hóa trải qua ba bước:
Messages API(2023): Cung cấp truy cập mô hình thô (token vào, token ra). Nhà phát triển phải tự xây mọi primitive như context management, agent loop, compaction.Agent SDK: Một harness cho phép gọiClaude Codelập trình được, làm Claude mạnh hơn. Nhưng nhà phát triển vẫn phải tự lo hosting và scaling, đảm bảo an toàn trong container của mình.Claude Managed Agents: Harness đầu tiên do Anthropic lo việc scaling và các thành phần production — harness chuyên dụng, sandboxing, observability, tool runtime, trên hạ tầng được quản lý. Nhà phát triển chỉ tập trung vào tác vụ, cấu hình agent và logic công cụ tùy chỉnh.
Các đội đã lên production nhanh hơn 10–15 lần. Lý do quan trọng: harness cần tiến hóa cùng agent. Ví dụ, Sonnet 4.5 từng có hành vi context anxiety (kết thúc tác vụ sớm dù còn dư ngữ cảnh), buộc phải thêm mitigation; nhưng khi Opus 4.5 ra mắt, hành vi này biến mất, khiến công sức đó thành thừa. Vì vậy Managed Agents để Anthropic lo các phức tạp như compaction, caching.
Ba tài nguyên cốt lõi và quyết định thiết kế
Ba tài nguyên chính để xây agent:
Agent endpoint("bộ não"): persona và khả năng — model, system prompt,MCP servers, skills.Environment("đôi tay"): không gian/container nơi agent thực sự hành động.Session: gắn một instance agent với một environment, stream event về cho người dùng.
Một quyết định thiết kế then chốt là tách agent loop khỏi việc thực thi công cụ (tách "đôi tay" khỏi "bộ não"). Trước đây loop và thực thi nằm chung một box, phải khởi tạo container cho mỗi session, tăng độ trễ. Sau khi tách, đội ghi nhận giảm hơn 90% TTFT ở P95, đồng thời tăng bảo mật credential nhờ sandboxing và mã hóa.
Agent loop chạy phía server, nên khi đóng laptop hay hard-refresh, mọi thứ vẫn được giữ — không phải lo về durability, reliability.
Xây agent SRE từng bước
Workshop xây một agent xử lý sự cố — kịch bản quen thuộc với kỹ sư bị gọi dậy lúc 3 giờ sáng để xử lý server sập. Các bước (sao chép từng phần từ file hoàn chỉnh sang file trống):
- Định nghĩa agent: Agent SRE dùng
Claude Opus 4.7, system prompt rất đơn giản, cùng các công cụ như get metrics, recent deployments, get diff, fetch logs. - Environment: Cho agent chạy trong Anthropic cloud. Anthropic vừa phát hành khả năng "bring your own containers/compute" và
Claude MCP tunnels(chạy MCP server trong môi trường riêng tư). Danh sách networking là allowed list có thể giới hạn. - Gắn log: Tải metrics và log lên qua
files APIđể agent xử lý. Càng nhiều dữ liệu càng mạnh —context engineeringchiếm phần lớn thời gian của nhà phát triển. - Session: Ràng buộc agent ID, environment ID và tài nguyên; stream phản hồi theo thời gian.
- Local tools: Kết nối các công cụ cục bộ (get metrics, recent deploys, diffs) để agent thực sự hành động. Thêm khả năng xóa session để bảo mật — khi xóa, dữ liệu được gỡ khỏi mọi log.
Khi chạy thử, agent gọi sandbox/bash, đọc log, gọi get recent deploys, và stream phản hồi. Nó xác định sự cố: P99 latency cao gấp 10 lần baseline, nguyên nhân là database pool exhaustion do một commit của Alice refactor order summary builder, kèm các hành động khuyến nghị. Với công cụ như Claude Code, agent có thể tiến xa hơn: vào codebase, đề xuất sửa, mở PR.
Cơ chế hoạt động: Event, State và Persistence
Bài học rút ra về cách Managed Agents hoạt động:
- Session nói bằng event: Thay vì request/response token, mọi thứ là
event(tin nhắn người dùng, tool call, phản hồi) được thêm vào log session — dễ resume, dễ observability. Nếu container hỏng, khởi động lại mà không phải restart cả agent loop. - Local tools tách khỏi loop: Công cụ chạy cục bộ (định nghĩa trong JSON), agent loop chạy trên cloud. Có thể dễ dàng chuyển từ JSON sang
DataDog clientcùng wire protocol để lên production. - Quản lý trạng thái: Các trạng thái session gồm idle → running → rescheduling (thử lại) → terminated (thất bại).
Webhookcó thể kích hoạt agent resume hay khởi động trạng thái dựa trên sự kiện bên ngoài. - Persistence trên cloud: Hard-refresh vẫn giữ mọi session và hội thoại, không cần quản lý database hay deployment.
Vượt cơ bản: Sub-agent, Memory, Dreaming, Outcomes, Vaults
Để agent mạnh hơn, Managed Agents cung cấp sẵn:
Sub-agent: Một orchestrator tạo các context với agent khác, mỗi agent có context window riêng và đóng góp lại — tốt cho parallelization và quản lý ngữ cảnh.Memory+Dreaming: Cho agent tự cải thiện, học từ chỉnh sửa và sở thích của người dùng.Dreamingcho phép Claude xem lại log bộ nhớ của chính nó để quyết định giữ gì.Outcomes: Định nghĩa một rubric kết quả mong muốn; agent tự tìm ra các tool call cần thiết để đạt được.Vaults: Lưu credential được mã hóa theo từng user/session, dựa trên kiến trúc tách bộ não/đôi tay — không cần tự dựng secret store.- Ngoài ra còn có webhook, chính sách quyền chi tiết, MCP server controls mới, và console agent builder với dashboard observability đẹp.
Kết lại, người tham dự đã ship một agent SRE chỉ với vài primitive cơ bản, trong khi compaction, caching, tool calling đều được Managed Agents lo sẵn.