Bỏ qua đến nội dung chính

Build AI agents using Claude in Microsoft Foundry

TL;DR

  • Một workshop thực hành của Microsoft, nơi người tham dự triển khai một model Claude trên Microsoft Foundry, cắm nó vào một agent xây bằng Microsoft Agent Framework, và cấp cho agent đó các công cụ thông qua một MCP server.
  • Ví dụ xuyên suốt là "Sparkles" — một agent cho cửa hàng bánh cupcake nhận đơn đặt hàng, đăng ký khách hàng và phục vụ bánh — kết nối tới một MCP server của cửa hàng để lấy dữ liệu menu trực tiếp, hướng dẫn và banner chào mừng.
  • Foundry được định vị là một nền tảng hợp nhất, sẵn sàng cho doanh nghiệp (bảo mật, observability, governance, hơn 1.400 connector) để đưa các agent dùng Claude từ nguyên mẫu lên sản xuất.

Điểm chính

  • Microsoft Foundry là nền tảng hợp nhất để xây dựng ứng dụng và agent AI ở quy mô lớn, cung cấp các Foundry model (bao gồm Claude), một agent service, các tool/integration, và các dịch vụ ML như fine-tuning.
  • Ngành đang dịch chuyển từ hội thoại AI một lượt (single-turn) sang các hệ thống agentic biết lập kế hoạch, suy luận và hành động; các hệ thống này cần suy luận nhiều bước trên ngữ cảnh dài, độ tin cậy/observability/bảo mật, và khả năng kết nối tới tool và dữ liệu bên ngoài.
  • Trong workshop, lập trình viên trước tiên triển khai và thử nghiệm Claude Sonnet 4.6 trong playground của Foundry, thử nghiệm các system prompt (ví dụ persona "cupcake biết suy nghĩ" trả lời bằng câu chơi chữ về frosting) trước khi viết code.
  • Agent được xây dựng cục bộ trong VS Code bằng Microsoft Agent Framework (mã nguồn mở, Python và TypeScript), với file .env chứa target URI của Foundry (kết thúc bằng anthropic, đã bỏ v1/messages), API key và tên deployment.
  • MCP (Model Context Protocol) là một chuẩn mở cho phép agent giao tiếp với hệ thống bên ngoài; kết nối MCP server của cửa hàng cupcake cấp cho agent các tool, prompt tái sử dụng và resource — gồm danh sách bánh trực tiếp, hướng dẫn agent và banner chào mừng.
  • Foundry hỗ trợ hơn 1.400 connector và MCP tool có sẵn (ví dụ SAP, ServiceNow) để agent có thể hành động thực sự trên các hệ thống thật.
  • Các tính năng doanh nghiệp của Foundry gồm bảo mật, observability và governance tích hợp, cộng với tích hợp Microsoft Defender, Microsoft PurviewEntra ID, giảm phụ thuộc vào việc xử lý secret thủ công qua file .env.
  • Bốn lý do để kết hợp Claude với Foundry: suy luận hàng đầu cho agent, tạo/điều phối agent ngay trên nền tảng kèm truy cập tool, tính năng doanh nghiệp sẵn dùng, và chu trình prototype-to-production nhanh hơn nhờ công cụ đánh giá, giám sát và triển khai tích hợp.

Từ vựng

  • Microsoft Foundry — Microsoft Foundry (nền tảng hợp nhất xây dựng và triển khai agent AI)
  • hệ thống agentic — agentic system
  • Microsoft Agent Framework — Microsoft Agent Framework
  • MCP (Model Context Protocol) — MCP / Model Context Protocol
  • tool (công cụ) — tools
  • prompt tái sử dụng — reusable prompts
  • resource (tài nguyên) — resources
  • target URI / endpoint — target URI / endpoint
  • playground — playground

Nội dung chi tiết

Bối cảnh: Từ hội thoại một lượt sang hệ thống agentic

Marlene Mungami, senior developer advocate tại Microsoft, cùng các đồng nghiệp Liam Hampton và Chris Snoring, hướng dẫn một workshop thực hành về xây dựng AI agent bằng Claude trên Microsoft Foundry. Cách tiếp cận rất thực tế: không chỉ nói về agent là gì, mà thực sự xây dựng chúng. Kết thúc buổi học, người tham dự sẽ triển khai model Claude trong Foundry, cắm model đó vào một agent, và cấp cho agent các công cụ.

Ngành đang chuyển từ hội thoại AI một lượt (single-turn) — chỉ hỏi và nhận câu trả lời — sang các hệ thống agentic biết lập kế hoạch, suy luận và hành động thay người dùng theo thời gian. Ba thách thức mới đi kèm: (1) model phải xử lý suy luận nhiều bước trên ngữ cảnh dài; (2) hệ thống phải đáng tin cậy, có observability và bảo mật, nhất là cho doanh nghiệp; (3) lập trình viên cần kết nối agent tới các tool, hệ thống và nguồn dữ liệu bên ngoài. Điểm mấu chốt: dù model ngày càng tốt, ta không thể chỉ trông cậy vào model — cần cả hệ thống để vận hành trí tuệ đó.

Microsoft Foundry là gì

Microsoft Foundry là nền tảng hợp nhất để xây dựng ứng dụng và agent AI ở quy mô lớn. Bạn có thể làm việc trong công cụ mình thích — GitHub, Visual Studio Code, Visual Studio, hay Copilot Studio. Cốt lõi của Foundry gồm: các Foundry model như Claude, một agent service, các tool và integration, cùng các dịch vụ ML như fine-tuning. Nền tảng hỗ trợ hơn 1.400 connector và MCP tool có sẵn (ví dụ SAP, ServiceNow), nên agent có thể hành động thực sự trên hệ thống thật.

Agent xây trên Foundry có các tính năng doanh nghiệp: bảo mật, observability và governance tích hợp, cùng tích hợp Microsoft Defender, Microsoft PurviewEntra ID — giúp bạn không phải xử lý file .env thủ công khắp nơi. Đây là bước chuyển từ chỉ làm nguyên mẫu sang triển khai agent vào môi trường sản xuất doanh nghiệp.

Bốn lý do lập trình viên thích kết hợp Claude với Foundry: (1) suy luận hàng đầu cho agent — Opus 4.7 được người trình bày dùng hằng ngày, mạnh về lập kế hoạch và làm việc với ngữ cảnh dài; (2) khả năng tạo, điều phối agent và cấp tool ngay trên nền tảng; (3) tính năng doanh nghiệp sẵn dùng; (4) chu trình prototype-to-production nhanh hơn nhờ công cụ đánh giá, giám sát và triển khai tích hợp.

Workshop: Triển khai và thử nghiệm model trong Playground

Ví dụ xuyên suốt là "Sparkles", cửa hàng cupcake thân thiện nhất trên internet, đang gặp vấn đề ai cũng mơ ước: quá nhiều khách và hương vị, không đủ người phục vụ. Mục tiêu là xây một agent giúp xử lý lượng đơn đặt bánh.

Người tham dự đăng nhập vào Foundry, vào project, mở trang "start building", bật toggle "build", rồi chọn "models". Họ thấy Claude Sonnet 4.6 và mở playground — môi trường để chat với model, so sánh các model và thử nghiệm system prompt. Ví dụ minh họa: thay system prompt mặc định bằng "you are a sentient cupcake. Answer every question with frosting-related puns", rồi hỏi về Claude, model trả lời bằng câu chơi chữ ("they're the icing on the cake"). Playground là cách tuyệt vời để thử model trước khi viết code.

Xây dựng agent với Microsoft Agent Framework

Bước tiếp theo là đưa model vào IDE. Trong Foundry, mở tab details để lấy target URI và API key. Mở VS Code (đã cài sẵn) với các file dựng sẵn. File quan trọng đầu tiên là .env: dán endpoint vào, bỏ phần v1/messages ở cuối vì endpoint phải kết thúc bằng anthropic, rồi dán API key. Model đã được nhận diện là Claude Sonnet 4.6. Có đủ ba biến môi trường (deployment, key, endpoint), ta sẵn sàng test agent cục bộ.

Mở file agent.py và dùng Microsoft Agent Framework — framework mã nguồn mở của Microsoft (Python và TypeScript) để xây agent. Dán khối code khởi tạo client (tự đọc các biến trong .env) và định nghĩa "cupcake agent". Chạy lệnh trong terminal để khởi động agent và chào nó như một hello-world cơ bản.

Kết nối MCP server và hoàn tất quy trình đặt hàng

MCP (Model Context Protocol) là chuẩn mở cho phép agent giao tiếp với hệ thống bên ngoài. Một MCP server cấp cho agent: các tool (hàm agent gọi được), các prompt tái sử dụng, và các resource (dữ liệu gửi qua HTTP). Chỉ cần một URL là cắm được toàn bộ API ở định dạng dễ đọc cho agent.

Người trình bày thay khối code trong terminal để kết nối tới MCP server của cửa hàng cupcake, rồi cung cấp server này cho agent như một tool. Khi hỏi "what flavors do you have today?", lần đầu agent bối rối vì file chưa được lưu — minh chứng cho việc agent cần MCP server để có ngữ cảnh. Sau khi lưu và chạy lại, agent liệt kê: classic vanilla, lemon sponge, red velvet và chocolate.

Bước ba: nạp hướng dẫn và banner chào mừng từ MCP. Cập nhật system prompt bằng các instruction kéo về từ MCP server, cộng với banner chào mừng — đều là prompt tái sử dụng giúp đơn giản hóa quy trình. Sau đó agent dẫn dắt người dùng tạo customer ID (tên, họ, thành phố London), chọn bánh (red velvet, số 4), đọc voucher sáu ký tự trên bảng điều khiển ở đầu phòng, rồi đặt và chuẩn bị đơn. Bảng làm mới mỗi phút để tránh quá tải đơn.

Tổng kết

Đây là phần giới thiệu cách dùng Foundry với các model Claude (Sonnet trong workshop này). Người tham dự có thể đặt bánh cupcake thật, không chỉ test. Để tiếp tục, hãy tìm Microsoft Foundry — có Azure credit miễn phí, tài liệu tốt trên Foundry docs, và các khóa học miễn phí trên Microsoft Learn.

Góp ý / Báo lỗiPhát hiện sai sót hoặc có ý tưởng cải thiện?